Den hälsosamme ekonomisten

En dag blir det som i Xinjiang

Det sätts upp många nya övervakningskameror i Sverige och det politiska stödet för att öka antalet tycks stabilt. Den uppenbara frågan är bara - vem ska sitta bakom kamerorna för att beivra de brott som med nödvändighet kommer att observeras.

Svaret är självklart "algoritmer". Vi har inte på sikt råd att låta riktiga människor sitta och titta på bilder av verkligheten för att någon gång då och då identifiera en brottslig handling.

För att se vart vi sannolikt är på väg räcker det med att studera Xinjiangprovinsen där myndigheterna experimenterar med att låta algoritmer hantera lagföringen.

Science fiction, tror ni säkert. Men så är det inte. Ta brottet att gå mot rött ljus. Det är enkelt att lära en dator hur det ser ut när någon begår brottet "gå mot rött ljus", låt vara att det inte är olagligt i Sverige.

"Over a period of 24 hours, 6.7 million individual GPS coordinates were streamed to and collected by the database, linking individuals to various public camera streams and identification checkpoints associated with location tags such as 'hotel', 'mosque', and 'police station.' The GPS coordinates were all located within Xinjiang."

Till en början kommer algoritmerna enbart att hjälpa övervakarna att identifiera brott. Datorer kommer att larma om någon misshandlar, hotar eller använder olämpligt språk på allmän plats.

Det som är mer intressant är nästa steg - när datorernas bedömningar blir så bra att de kan användas i stället för de mänskliga. Vi har då tagit ett steg mot en helt automatiserad rättsskipning. Till att börja med kan vi tänka oss att personer som begått brott automatiskt låses in i ett elektroniskt fängelse, till exempel hemmet. Fast antagligen är det enklare att låsa människor ute från vissa platser än att låsa dem inne, så vi kan tänka oss att tekniken primärt används för att hindra våldverkare och tjuvar från att besöka butiker eller till och med städer.

I många fall kan en såpass mild åtgärd räcka för att få personen att tänka om och följa de gemensamma reglerna i fortsättningen. Fängelse kommer i stort sett inte att behövas, utom möjligen för en liten grupp helt irrationella individer. Men frågan är om det inte för denna grupp snarare blir aktuellt med psykiatrisk tvångsvård?

Arbetet med att identifiera brott och omoraliskt beteende börjar på nätet - en mer kontrollerad miljö än det fysiska samhället. Google har finansierat en tävling som går ut på att hitta en modell för att identifiera olämpligt beteende på nätet. Det behöver då inte enbart handla om brott, utan kan röra sig om att någon hånar eller kränker en annan person. Kan en dator utifrån den information som finns i inläggen bli lika bra på att identifiera kränkande beteende som en människa? Kanske till och med bättre? Vinnaren i tävlingen tar hem 35 000 dollar och det är för närvarande 4 551 team med programmerare som slåss om priset.

Det går en röd tråd från algoritmer som används på nätet till sådana som tillämpas i den virtuella verklighet som håller på att byggas upp till att slutligen appliceras på samhället i sin helhet. Ni tror kanske att någon kommer att sätta stopp innan vi når de tillämpningar som jag pekar på - att rättsväsendet i sin helhet automatiseras och att straffen mildras samtidigt som de utdelas med betydligt högre sannolikhet än i dag.

Då bör ni betänka att motståndet mot ökad övervakning med kameror och på nätet så här långt varit mycket begränsat. Proteserna mot FRA-laget får ses som ett undantag och resultatet av att det plötsligt gick upp för svenska folket att samhället håller på att förändras. 

Men om förändringarna sker långsamt - i en takt som gör det möjligt för alla medborgare att anpassa och välja sig - tror jag protesterna uteblir. Vi kan inte gå från dagens relativt öppna samhälle till en lösning som i Xinjiang över några år. Men går myndigheterna långsamt fram kommer varje förändring att te sig som ett naturligt steg för att göra tillvaron tryggare. Barnporr kommer att ställas mot nätövervakning, brutala knivmord kommer att ställas mot kameraövervakning,  bedrägerier kommer att ställas mot genomlysning av enskildas ekonomi. Vid varje enskilt vägskäl där samhället kan välja mellan mer eller mindre övervakning kommer vi att välja mer övervakning.

Processen går därför på ett närmast deterministiskt sätt mot ett samhälle där våra liv genomlyses på ett helt annat sätt än i dag. Och om inte den offentliga övervakningen hänger med i utvecklingen kommer den privata att tvinga myndigheterna att hänga med. Nu avslöjas att brottslingar använder så kallade GPS-puckar för att spåra fiender - i syfte att hitta lämpliga tillfällen för att ta dem av daga. Om inte polisen använder tekniken kommer privata aktörer att tvingas göra det, för att skydda sig.

Kan vi då göra något om vi inte vill hamna i samma situation som muslimerna i Xinjiang? Jag tror inte det. Även om det går att bromsa utvecklingen i tider då den går ovanligt snabbt - som vid införandet av FRA-lagen - är trenden tydlig. Artificiell intelligens - även om jag föredrar att tala om algoritmer - kommer att förändra våra liv. Algoritmerna kommer en dag antagligen att styra över våra liv och det är inte säkert att någon enskild människa kommer att ha ett avgörande inflytande över hur samhället organiseras - statsministern kanske är en algoritm. Om detta är bra eller dåligt får ni själva avgöra, jag är inte helt säker på att det enbart vore av ondo.

Kommentarer