Techstartup wil online discussies ‘gezonder' maken
De startup Spectrum Labs heeft algoritmes gebouwd die gebruikt kunnen worden om online intimidatie, racisme, radicalisme en ander schadelijk gedrag te modereren, volgen, onder de aanbracht te brengen en vervolgens ook te stoppen. Dat schrijft TechCrunch. Het algoritme werkt voorlopig in het Engels en een paar andere talen, maar wil in de toekomst verder uitbreiden.
Volgens Spectrum Labs komen dit soort schadelijk taalgebruik op heel veel platformen voor - niet alleen op social media, maar ook in de gaming community, op datingsites, of online marktplaatsen. Met het gebruik van big data zegt Spectrum Labs te kunnen ontdekken wat de signalen zijn dat ergens misbruik plaatsvindt, en dat ze vervolgens de juiste personen kunnen waarschuwen om het misbruik te stoppen.
Ook kan het bedrijf klanten vooraf adviseren over wat ze kunnen doen om hun platformen zoveel mogelijk haatvrij te krijgen en hoe ze moderators beter kunnen trainen. Op dit moment kan het platform meer dan 40 verschillende soorten schadelijk gedrag herkennen zoals aanzetten tot haat, scams, grooming en het lekken van persoonlijke informatie.
