Den hälsosamme ekonomisten

Detectron illustrerar hur datorer kan tolka omgivningen

Hur går det till när datorer "förstår" omgivningen? Ja, vi vet förstås inte ens hur det går till när vi själva förstår omgivningen. Men gissningsvis identifierar vi "objekt" som sedan analyserar och identifierar.

Den nya versionen av Detectron - Detectron 2 - är tillgänglig som öppen programvara. Det är Facebooks mjukvarubibliotek för att se vad som händer i exempelvis en video. 

Som vanligt när det gäller AI är det svårt att säga när en dator "förstår" en video. Datorn identifierar i alla fall de objekt som finns i videon, deras position och kanske det som händer. "Bil kör på Sveavägen" skulle kunna vara en slutsats som Detectron drar efter att ha analyserat en video som visar just detta.

En applikation av detta skulle kunna vara en övervakningskamera i en butik som upptäcker när någon stjäl en vara eller begår en fickstöld eller stjäl en cykel utanför butiken. Det är Detectrons föregångare som talar om för Facebook när någon delar en video som bryter mot nätföretagets etiska policy.

Låt inte lura er av att detta fungerar sådär i dag - att man över huvud taget kan använda maskiner för att övervaka policyöverträdelser är ett enormt framsteg och trots flagranta misstag träffar företaget förvånansvärt ofta rätt. Nu har Facebook även ett stort antal mänskliga policykontrollanter, men det är maskinerna som identifierar de potentiella brotten. Människorna används mest för att lära datorerna vad som är acceptabelt. Text analyseras på motsvarande sätt, liksom stillbilder.

De integritetsmässiga konsekvenserna av tekniken är gigantiska. En video av Sveavägen - med tusentals människor - skulle kunna omvandlas till sökbara slutsatser av typen:

"Mattias Lundbäck går på Sveavägen med ett paket. Han har varit inne på Nespressobutiken. Med 97 procents sannolikhet har han köpt poddar till en kaffemaskin. Med 87 procents sannolikhet är det mellan 200 och 300 poddar i paketet. Vår rekommendation är att ni bör erbjuda Nespressos konkurrenter att rikta marknadsföring till Mattias när poddarna börjar ta slut. Tidigare konsumtionsmönster ger vid handen att han dricker 5 koppar om dagen, vilket ger ett optimalt fönster för riktad marknadsföring om två och en halv månad."

Givetvis behövs inga mänskliga beslut för att sedan rikta annonser och annat - det bara inträffar. 

Annonser för Nespressokapslar är ganska oskyldigt. Men betänk att även politiska rörelser kan använda tekniken för att förändra människors uppfattningar om verkligheten. Redan i dag är det extremt enkelt att manipulera allmänheten och få dem att vilja fatta beslut som strider mot logik och sunt förnuft. Tog tidigare upp de apatiska flyktingbarnen, som är ett exempel. Vi kan tänka oss att AI lägger världen till rätta och får saker och ting att inträffa som lurar oss att dra felaktiga slutsatser. Den mänskliga hjärnan är inte anpassad för att möta AI - vi är anpassade för att hantera verkligheten och vi är därför extremt sårbara för verklighetsmanipulation.

Om vi är förutsägbara och ologiska är vi också ofria. Den som kontrollerar inflödet av information till våra hjärnor kontrollerar också vårt tänkande. Vi blir små kuggar i ett samhälle där AI använder oss för att uppnå olika syften. Det som är mer oklart är vem som kommer att kontrollera oss? Kommer våra puppetmasters att agera på en konkurrensutsatt marknad, eller kommer det att uppstå ett monopol som i Kina? Blir AI med tiden en organism med ett eget liv som kanske har mål som skiljer sig från våra egna?

Allt är möjligt i den nya världen där programbibliotek som Detectron skapar vår verklighet. Och till skillnad från i filmen Matrix lär vi inte få göra något val mellan det blå och det röda pillret.

Kommentarer