Risken med AI underskattas
Alltid lika kul att lyssna på Anders Sandberg om artificiell intelligens - i kväll i programmet Idévärlden. Är det något som jag tror bör tilläggas är det att datorerna kommer att få kontroll över våra sinnen innan de blir superintelligenta. När superintelligensen dyker upp lär vi inte längre kunna stänga av datorerna, eftersom de i praktiken ritar upp den verklighet som vi upplever. Det kommer då att vara oerhört lätt för datorerna att manipulera oss i vilken riktning som helst eftersom de redan har kontroll över verkligheten som vi ser den.
Men varför skulle vi till att börja med överlåta uppgiften att skapa verkligheten till datorerna? Svaret på den frågan är att datorerna kommer att skapa en verklighet som vi föredrar framför den verkliga verkligheten. Traumatiska upplevelser som hänt i den verkliga världen kan raderas ut och världen förbli som den var. Man kommer kanske till och med att stanna tiden och välja att leva i en retrovärld.
I någon mening innebär det att vi alla kommer att leva i parallella världar, där våra egna preferenser delvis styr hur världen ser ut. Min värld kommer inte att se ut som din värld. Det enda datorerna behöver göra för att få oss att agera i den ena eller andra riktningen är att förändra - eller hota med att förändra världen - och därmed skapa morötter och piskor. Antingen blir världen ett paradis eller också ett rent helvete - det beror på om vi lyder eller inte. Vi underskattar risken för AI, eftersom vi i vår tänkta framtid fortfarande är ser oss som autonoma individer med verklighetskontakt. Kruxet är att detta inte lär vara fallet.
Tanken på att någon skulle välja att lämna den simulerade världen - som i filmen Matrix - gör sig bra på film. Men i realiteten skulle vi aldrig välja det röda pillret, vi skulle stanna kvar i den simulerade verkligheten.
Så om och när superintelligensen en dag dyker upp har datorerna därför sannolikt redan total kontroll över mänskligheten. Datorerna kommer att utöva kontrollen direkt via vårt känsloliv. Att återta kontrollen lär därför bli lika svårt som att lyfta sig själv i håret, om det ens kommer att vara tekniskt möjligt.
Kommentarer