Jodå, datorer kan vara rasistiska
Noterar att människor börjar oroa sig för att datorer kan bli rasistiska. Många misstänker att datorerna lärt sig rasismen av människor. Men riktigt så enkelt är det inte - datorer kan utveckla rasism helt på egen hand.
Men vad är egentligen rasism? Vi talar om rasism som generella påståenden om människors egenskaper som baseras på deras hudfärg.
Detta är en snäv definition av rasism. Generaliseringar kan utgå från alla möjliga egenskaper som människor inte kan påverka. I filmen Gattaca beskrivs ett samhälle som genomsyras av genrasism, alltså diskriminering som tar sin utgångspunkt i människors genuppsättningar.
Datorer kommer inte med automatik att behandla människor förutsättningslöst. Datorerna kommer att utgå från alla egenskaper som du har för att avgöra hur de ska bemöta dig. Om sammansättningen av egenskaperna rent statistiskt leder datorn till slutsatsen att den inte tjänar på att interagera med dig (till exempel bevilja dig ett banklån) kommer den inte att göra det om den har programmerats att maximera ekonomisk avkastning.
Hudfärg är bara en egenskap som den kan använda för att sortera människor. Det kommer knappast att vara den viktigaste parametern om datorn har tillgång till andra uppgifter; som patientjournaler, genuppsättning och ditt agerande på sociala medier.
Den goda nyheten är alltså att datorer sannolikt inte kommer att agera rasistiskt. Den dåliga nyheten är att den inte kommer att göra det därför att den redan känner till så många andra medfödda egenskaper att hudfärgen blir en ointressant variabel för att avgöra om du kommer att kunna betala tillbaka banklånet.
Har vi då löst problemet med rasism, när vi har eliminerat hudfärgen som faktor för diskriminering? Nej, jag skulle säga att vi i stället har tiodubblat problemet - då tillgången till detaljerad information om varje enskild människa gör att vi inte kan behandla någon individ helt förutsättningslöst.
"Jaså, du har den där genen som är så vanlig bland brottslingar. Ja, då tror jag det är olämpligt att du börjar hos oss på det här företaget."
Det är svårt att hitta bra sätt att hantera den ökande transparensen när det gäller individuella förutsättningar. Jag skulle tro att vi blir tvungna att införa en ganska omfattande omfördelning från personer med goda förutsättningar till personer med dåliga förutsättningar. Annars finns risken att den halva av befolkningen som har dåliga förutsättningar bryter reglerna i samhällskontraktet och i värsta fall startar krig mot den andra halvan.
Massövervakningen förvärrar givetvis problemet, men frågan är mer komplicerad än så. Vi delar frivilligt med oss av personlig information på Facebook och i andra sociala nätverk. Det går inte att hindra andra människor från att få veta det mesta om oss och tack vare datorer kan vi även utnyttja all kunskap vi har om andra.
Vi får konstatera att informationstekniken kommer att förändra samhället i grunden. I mänskliga samhällen har vi alla ägnat en stor del av vår vakna tid åt att utvärdera och analysera andra människor. Men om vi redan vet allt om alla blir dessa aktiviteter obsoleta. Inget skvaller, inga intriger, inga hemliga möten.
Frågan om huruvida datorerna kommer att agera rasistiskt är nog ett av de mindre problem som vi kan behöva hantera.
Kommentarer