Är AI det största hotet mot mänskligheten? Svenske filosofen Nick Boström har svaret klart.

Det är inte atombomber, asteroider, farsoter eller den globala uppvärmnin­gen som är det största hotet mot mänsklighetens överlevnad. Det är våra ansträngnin­gar inom konstgjord, eller artificiell, intelligens – AI. Det menar den svenske filosofen, forskaren och författaren Nick Boström.

– Några individer kan med största sannolikhet överleva både bomber, asteroider och epidemier. Konstgjord intelligens däremot har kapacitet att radera ut hela planeten, säger han på utpräglad brittisk engelska.

Efter åtta år vid Oxford University’s Future of Humanity Institute – där han är professor i praktisk etik – har Nick Boström nått stjärnstatus för sina dystopiska framtidsvisioner om mänsklighetens undergång. Faktum är att den i Sverige tämligen okände Nick Boström räknas som en av vår tids stora tänkare internationellt sett.

Men han har också lämnat svenskan bakom sig, och intervjun genomförs efter hans önskemål på engelska.

– Jag flyttade till England vid 20 års ålder. Hela mitt professionella yrkesliv är baserat på engelska språket, så jag är inte van vid att prata om de här sakerna på svenska, ursäktar han sig.

Största hotet mot vår art

Ämnet för vårt samtal är hans bok ”Superintelligence: Paths, Dan­gers, Strategies” (Oxford University Press 2014) som kommer i en översatt svensk version till hösten.

Här beskriver han sin syn på AI som det största hotet mot mänskligheten som art. Om vi bygger en maskin som har förmågan att själv bygga ännu intelligentare system riskerar vi till slut att bli frånsprungna och förintade, resonerar Nick Boström.

Visionen påminner om den judiska folksägnen om Golem – en varelse skapad av död materia, som nitiskt följer sina instruktioner men som slutligen dödar sin skapare. Nick Boströms bok inleds med en snarlik fabel.

En flock sparvar pla­nerar att fostra en ung uggla till att bli deras tjänare. De är entusiastiska. Men en av dem bromsar gruppen och på­pekar att de små sparvarna bör veta hur de ska kontrollera den starkare ugglan innan de letar upp ett uggleägg. Allt för sent inser de svårigheten i att lösa problemet...

– Det handlar inte om allt eller inget, säger Nick Boström.

– AI innebär stora möjligheter, men vi måste tänka framåt. Vad kan hända när den nya tekniken får fäste? Det är ett omfattande arbete att söka svar på. Men insatserna är så pass höga när vi kliver in i de intelligenta maskinernas tidsålder ... att vi måste.

”Det är oklart om utvecklingen är extremt bra eller extremt dålig.”

Nick Boström beskriver dagens mänskliga tillstånd, som vi många gånger tar för givet, som en historisk avvikelse – eventuellt en parentes. Idén om att vi pendlar till jobbet på morgonen, sitter framför datorn hela dagen och oroar oss över att vi äter för mycket ser många i världen som något fullt normalt. Men den livs­stilen är ju i själva verket ny.

– Och tittar vi framåt tror jag att ännu mer fundamentala saker kommer att förändras. Inte bara att vi får bättre materiellt välstånd, utan att den mänskliga naturen – vårt sinne, tänkande och erfarenhet – kommer att bli en del av den nya tekniken. Där finns stora möjligheter, som kan vara extremt bra för oss. Men vi bör vara vaksamma, säger han.

Att maskinerna gör revolution är ett fantasieggande scenario. Science fiction som vi har sett i filmer som ”The Terminator”. Men ledande forskare som Nick Boström och kosmologen Stephen Hawking anser alltså att vi inte är långt borta från ett första steg mot denna verklighet.

Redan om 20–30 år har vi kanske sått ett AI-frö med potential att uppdatera sig självt, bli smartare, snabbare och slutligen utmynna i en ”intelligent explosion” där skillnaden mellan oss och datorerna är lika stor som mellan människa och myra, föreställer sig Nick Boström.

Vi eller våra barn kommer att bestämma hur mänskligheten på lång sikt ska leva

Utvecklingen går snabbt. Idag har vi vant oss vid att datorer löser jordnära och tämligen harmlösa uppgifter, som att spela schack – visserligen på världsmästarnivå – och känna igen röster. Men 2011 vann IBM:s superdator Watson även Jeopardy mot den amerikanske stormästaren Brad Rutter – med bred marginal. Watson hade då bland annat tillgång till all information på Wikipedia. Det ger en fingervisning om vart vi är på väg.

Enligt Nick Boström kan en framtida dator med en i grunden vänskaplig uppgift – som att svara på frågor – bli ett hot, eftersom den riskerar att ta alla chanser att nå sitt mål på ett så effektivt sätt som möjligt. Till exempel att fylla hela universum med sin minnesbank och sina processorer. Eller förstöra allt i universum som har kapacitet att ställa komplicerade frågor – det vill säga oss människor – och ersätta dem med något enklare.

En dator som har som mål att göra människor lyckliga kan hypotetiskt sett också tänkas gå förbi den tuffa biten och pumpa oss fulla med droger – uppdraget slutfört.

Eller som Svenska Dagbladets Sam Sundberg skriver i understreckaren ”Vem är rädd för AI-apokalypsen”: ”AI:n skaffar sig sedan tillgång till internet – antingen genom övertalning eller hackning. Med internet som bas kan den ta kontroll över robotar, vapensystem och banker”.

Scenarierna är oändliga. Svårigheten blir att installera mänskliga värderingar och moral i maskinerna. Och få dem att agera etiskt riktigt – vad nu det är.

Det är en flaskhals som forskarna måste ta sig igenom för att nå fram till alla fördelar som den artificiella intelligensen troligtvis kan skänka oss.

– Det ser ut som att vi som lever nu har en speciell position i den mänskliga artens historia. Vi eller våra barn kommer att bestämma hur vi på lång sikt kommer att leva våra liv. Våra handlingar de närmsta årtiondena kan komma att forma mänskligheten för miljarder år framöver, säger Nick Boström, som medger att han ibland känner oro över vad som förestår.

– Vi står framför något okänt och större än mänskligheten någonsin erfarit, och så kanske vi utplånas innan det inträffar, säger han. Samtidigt är det oklart om utvecklingen är extremt bra eller extremt dålig. 

Superintelligence: Paths, Dangers Strategies

Nick Boström har fått viss kritik i bland annat engelsk press för att språket i ”Superintelligence: Paths, Dangers, Strategies” är för abstrakt och för svårt att begripa.

– Vissa älskar boken, andra har missat poängen med den. Jag är förtjust i att branschfolk som bygger artificiell intelligens har tagit den till sig. Boken är i första hand inte tänkt för allmänheten. Det krävs en uppoffring för att riktigt förstå den. Vill man ligga på stranden med en bok har man nog tagit fel, säger han.

Det riktas även kritik mot att Nick Boström har svårt att peka på några specifika lösningar på AI-problemet. Han hänvisar istället till människans godhet och välvilja. Och världsfred.

– Ämnet är kanske fortfarande för abstrakt. Men jag provar ändå, och frågar om det går att vara konkret. 

Vi lever i en simulering

Nick Boström har tidigare gjort sig känd för teorin att vi människor lever i en datasimulering, och han har en omfattande webbsajt om idén på simulation-argument.com. Det här är den sida av jobbet där han verkligen får ta ut de filosofiska svängarna.

– Säg att det är så, att vi lever i en simulering. Då finns det något som skapat oss och våra erfarenheter, en avancerad civilisation eller artificiell intelligens. Men det är inte samma sak som en allsmäktig Gud som är ett subjekt inom de fysiska lagarna. Det kanske finns fler superintelligenser som skapar sina egna simuleringar.

Teorin är naturligtvis omtvistad, men den erbjuder bland annat en bekväm förklaring till varför vi hittills inte har stött på några andra civilisationer i universum.

Nick Boström berättar att han tänker på de här frågorna hela tiden. Att han målar upp en stor mental modell i sitt inre av hur världen fungerar. Hans influenser kommer från oika håll, men till skillnad från många kollegor läser han sällan science fiction.

– Jag föredrar klassisk litteratur, och det blir en del ljudböcker. Det är ibland svårt att skilja på vad som är jobb och vad som är det vanliga livet. Det är lite som att vara konstnär eller författare. Allt i vardagen påverkar mitt arbete, vidgar min horisont. Det är sällan jag måste stressa och forcera fram något för att få lönechecken.

Nick Boström är en nattuggla; lampan lyser sent om nätterna på kontoret. Hans svenska kollega på Oxford University, Anders Sandberg, vittnar om att Boström kan fokusera på ett problem i veckor och vill försäkra sig om att det är det viktigaste problemet han försöker lösa.

Vilka utmaningar tror du att dagens och framtidens it-beslutsfattare kommer att ställas inför? 

– Det beror helt på vilket jobb de gör, i vilken organisation de befinner sig, vem chefen är, vilka mål de har, vilka relationer de har och så vidare. CIO:er agerar nödvändigtvis inte som en enhetlig klass utan som indi­vider, föreställer jag mig. Jag är inte direkt självhjälpskillen som bidrar med topp-tre-lösningar. Men så länge vi är intresserade av mänskligheten i stort framför egna vinster och välfärd så är det ett bra riktmärke, säger han.

Det viktigaste, enligt Nick Boström, blir att hålla fast vid vår mänsklighet och jordbundenhet. Research, utveckling och arbete inom AI bör ske utifrån ett etiskt regelverk.

Du har sagt att om de ekonomiska datorprogrammen tar över kan världen bli som ett ”Disneyland utan barn”. Vad menar du?

– Det är ett scenario jag kallar ”Multipolar Outcomes”. Istället för att bara en superintelligens tar över och formar framtiden, så tävlar olika digitala minds med varandra om att nå störst ekonomisk framgång – inte för mänsklighetens bästa, utan för sin egen överlevnad. Vi kan då få en global ekonomi som är mycket intelligent, men som inte har något att göra med den medvetna erfarenhet vi har i dag. Då kan vi få en extremt rik men samtidigt helt obefolkad värld.