Kommer maskinerna att ta över?
Det finns många som har synpunkter på AI och hur AI kommer att påverka människan. Med AI menar jag då inte enkla algoritmer, utan system som är mer komplicerade - där människor inte har insyn i hur maskinerna tänker, ens när man försöker gå ner på lägsta nivå.
Det jag tror man underskattar är maskinernas förmåga att manipulera människor. Den mänskliga hjärnan må ha hög kapacitet, men våra drivkrafter är basala. Genom att påverka belöningssystemen kan maskinerna enkelt ta kontroll över oss. Dessutom har maskiner inte skrupler - de kommer att kunna använda de medel som står dem till buds. Den perfekta psykopaten är en maskin.
Redan i dag ser vi att Facebooks algoritmer manipulerar oss. Tänk då hur det kommer att bli när datorer kontrollerar alla våra sinnesintryck, inte bara det begränsade informationsflödet på en liten skärm? Nej, tesen om att datorerna kommer att kunna styra oss är inte ens science fiction - det har redan börjat.
Det jag tycker är mer intressant att fundera över är vad datorerna kommer att vilja? För precis som människor har basala behov kommer datorerna och nätverken att ha det. Kommer de att uppfatta sig som beroende av människor eller kommer de att se mänskligheten som ett hot mot sin överlevnad? I ett scenario blir mänskligheten komplement till maskinerna, i ett annat är de överflödiga.
Människan är en organism som är högst oförutsägbar och det är inte omöjligt att de algoritmer som styr datorerna kan leda dem fram till slutsatsen att det bästa för planeten, och därmed för datorerna, är att mänskligheten försvinner.
Om och när detta inträffar tror jag dock det blir helt odramatiskt. Det blir inget krig hämtat från Terminator-filmerna, varför skulle datorerna utsätta sig för den risken när de inte behöver. De kommer helt enkelt att övertyga mänskligheten om att den gjort sitt.
Så jag tror inte att vi har så mycket att frukta från maskinerna. Det blir som med grisen i Liftarens guide till galaxen som framavlats för att vilja bli uppäten. När den dagen kommer lär de övertyga oss om att vår tid är över och att det är dags för en ny världsordning - där människor inte längre har en roll att spela.
Kommentarer