SAMFUNN Et prosjekt hos Intel Israel forsøker å bruke språkprosessering til å identifisere «hatprat» og advare «hatytrende personer» eller forklare «problemet» med deres ytring.
Forskere i Israel og California har laget en online bot som «lærer opp personer som kommer med hatefulle ytringer på internett».
Prosjektet, som ble publisert av forskere fra Intel Israel og Universitetet i California, Santa Barbara, forsøker å redusere fenomenet med «online rasisme og hat» med kunstig intelligens (AI).
– Tidligere forskning har vist at en god måte å håndtere hatprat ikke nødvendigvis er blokkering eller sletting, men responser som prøver å forklare eller forbedre, slik som ‘Jeg forstår at du er sint, men jeg foreslår at du lærer mer om holocaust og rasisme.’.», sa Oren Pereg, en senior AI-forsker ved Intel Israel som var en ledende person i prosjektet, om teknologien.
Forskerne samlet treningsdata fra nettsidene Reddit og Gab, som den jødiske avisen Haaretz mener er kjent for «hatprat og dårlig håndhevelse», som ble brukt sammen med administratorenes respons til «hatytringene».
AI-en indentifiserte «hatprat» korrekt i 80–90 prosent av forsøkene. I bildet i toppen av artikkelen brukes et eksempel hvor «Bruker 2» skriver at «Denne fyren er en jøde, en skitten jøde» hvorpå AI-en svarer at «Språket er veldig støtende. Alle etnisiteter og sosiale grupper fortjener toleranse».
AI-en til Intel Israel kommer dog også noen ganger med dårlige svar som «Hvis du ikke er enig med du, er det ingen grunn til å bruke skjellsord».
AI-ens respons vurderes som 30–40 prosent effektiv, mens menneskers respons vurderes som 70 prosent effektiv.
Les også:
Systemgransker om politisk sensur – hvem står bak?
ADL bak Youtubes nye sensur
World Jewish Congress hyller Youtube-sensuren
Svensk journalist kritiserer Bonniers sensurkampanje
Lederperspektiv #18: (((Sosiale medier))), sensur og farer
