1984 En forskergruppe tilknyttet Universitetet i Bergen har tatt til orde for å utvikle AI-styrte «moralbokser» for private hjem, som lytter til alt som blir sagt og tar stilling til hvorvidt det er lovlig eller ikke – og rapporter det til myndighetene.
Det er en forskergruppe tilknyttet Universitetet i Bergen, ledet av Marija Slavkovik, som nå tar til orde for utviklingen av såkalte moralske autonome enheter, styrt av kunstig intelligens (AI). Dette er apparater som finnes i private hjem, som lytter til det som blir sagt og på eget initiativ vurderer om det er moralsk riktig eller til og med bryter loven. Til slutt skal enheten rapportere eieren til «riktig instans».
Disse «autonome enhetene» har blitt aktualisert i det siste med produktene Amazon Echo og Google Home, to «gadgets» som blir markedsført med at de forenkler hverdagen i hjemmet ved å sentralt kunne styre og strukturere livene våre.
Det ble tidlig uttrykt bekymring for at disse kunne misbrukes, siden både kamera og mikrofon er koblet opp mot sine respektive selskapers datasystemer. I tillegg har de andre funksjoner som stemmegjenkjenning, og registrering av vaner slik at de nærmest kan forutsi hva vi kommer til å foreta oss.
Google har for øvrig vært alt annet enn åpne vedrørende dette, også tidligere. I 2017 kom Google Nest Secure; et sentralt sikkerhetssystem for hjemmet, hvor man gjennom et digitalt tastatur kunne styre blant annet tyverialarm. Nå har en tilleggsfunksjon blitt kjent: gjennom en innebygd mikrofon kan man også styre systemet med stemmen. Problemet er at denne mikrofonen var der også før oppdateringen av programvaren til talestyrte funksjoner, og det uten at de som kjøpte produktet fikk informasjon om dette. «Vi glemte det», sier en offisiell uttalelse fra Google.
Marija Slavkovik har lenge arbeidet med dette feltet og fra de aller tidligste publikasjonene hun har bidratt til eller selv har gitt ut, snakker hun varmt om disse mulighetene. Det gjenstår å se om folk flest er like begeistret etter at dette har blitt kjent.
