Pli på maskinerna
Vill man bli riktigt provocerad ska man läsa Nick Bostroms Deep Utopia. Life and Meaning in a Solved World.
Själv har jag bitvis haft tråkigt, bitvis känt adrenalinet stiga till alarmerande nivåer. Jag ska dock försöka lägga band på mig själv för att kunna ge en rättvisande bild av detta verk.
På 500 sidor bearbetas frågan om hur vi ska lösa det problem som uppstår när alla andra problem är lösta. Kommer vi att ha tråkigt i detta paradisiska Utopia? Finns det någon mening med livet om vi upplever oss som överflödiga?
Begreppet ”Utopia” myntades år 1516 av Thomas More i hans roman med samma namn. Det betyder ”ingen plats”; vitsen med utopierna är ju att med utgångspunkt från ett tänkt idealsamhälle kritisera samtiden. Mores roman är den första i en rad litterära utopier. Men Bostroms Utopia har inget gemensamt med de litterära utopierna. Här utgår författaren från ett Utopia som vi någon gång i framtiden kan tänkas leva i. Hur detta Utopia ser ut får vi inte veta – vår sagesman berättar bara vilka förutsättningar som möjliggör det. Det är vad Bostrom kallar ”teknologisk mognad”. Vi har total makt över naturen vilken förutom den yttre naturen också innefattar våra sinnen och kroppar. Tekniken kommer att frigöra oss från hunger, sjukdomar och materiell nöd, från orättvisor och ojämlikhet. Vi kommer också att friställas/befrias (stryk det som ej önskas) från allt arbete.
Nick Bostrom – som från början hette Boström och växte upp i Helsingborg – är en förgrundsfigur inom den transhumanistiska rörelsen. Fast numera betraktar han sig mera som forskare än som aktivist. Allt det naturen kan göra kan vi också göra. Människan är mogen att ta makten över sin egen evolution. Hon kommer att kunna förlänga sitt liv med hundratals år och med neuroteknologiska metoder förhöja sin intelligens och andra mentala förmågor. Och vad detta innebär för individen och samhället bör vi enligt transhumanisterna börja diskutera redan idag.
Bostroms tidigare bok Superintelligence. Paths, Dangers, Strategies blev rankad som internationell bästsäljare av New York Times och har översatts till en rad språk, även svenska. Att den har blivit så läst beror nog på att perspektiv som traditionellt hör hemma i science fiction-litteraturen här har klätts i en anständig akademisk dräkt; man tycker sig läsa en strikt vetenskaplig avhandling. För Bostrom är AI bara ett första steg på vägen mot superintelligensen. Den är ju trots allt en fackidiot med en begränsad vision av världen. Den kommer att bli mer mänsklig som en AGI, en artificiell generell intelligens. Och denna kommer i sin tur att konstruera supersuperintelligenser som i sin tur… och så vidare. Frågan är hur vi ska kunna samexistera med maskiner om vilka vi varken förstår hur de är konstruerade eller hur de tänker.
Men i det teknologiskt mogna Utopia har vi uppenbarligen pli på maskinerna. Titeln på den nya boken är mångtydig. Vad är ett Utopia som är deep? Kanske är det författarens sätt att understryka att han beskriver ett reellt samhälle, inte en tänkt motbild som i klassiska utopier. Men ”deep” får mig också att associera till sådant som ”deep learning” eller ”deep mind”. Detta sker i en ”solved world” – som om världen är en ekvation som ska lösas. Utopia tycks vila på en bädd av algoritmer.
Upplägget i boken är ett annat än i Superintelligence. Läsaren går tillsammans med några fiktiva karaktärer till en serie föreläsningar av professor Bostrom. Interfolierat med dessa är en fabel om en sanningssökande räv och en klok gris. Vi får också följa ett smart värmeelements karriär mot allt större upphöjelse. Jag får inte riktigt ihop dessa utvikningar med huvudtemat; kanske måste man vara posthuman för att se sammanhanget. Det förefaller som om Bostrom har inspirerats av Douglas Hofstadters klassiker Gödel, Escher, Bach. An Eternal Golden Braid. Han har insett att något måste till för att levandegöra hans föreläsningar. I sina bästa stunder skapar han också bra metaforer och underhållande tankeexperiment men mycket förblir blodlöst och abstrakt. Jag betvivlar att Deep Utopia kommer att bli en lika stor succé som Superintelligence.
Vad kommer då professor Bostrom fram till i sina föreläsningar? I det ”post-instrumentella” Utopia tycks ju varje mänsklig strävan vara överflödig. Allt vad vi kan göra kan maskinerna göra bättre. Finns det värden som Utopia inte underminerar? Kan vi leva värdiga liv där? Bostrom är övertygad om att Utopias posthumana invånare inte kommer att ha tråkigt och inte kommer att finna tillvaron meningslös. De kan ägna sig åt estetisk kontemplation. De kan skapa sina egna ändamål. De kanske rentav hittar en överindividiuell, universell mening med livet att hänge sig åt. Eller också – i andra ändan av skalan – så räcker det för många kanske att leva för att njuta förutsatt att de underbara tekniska hjälpmedlen ständigt kan skapa nya fräscha sensationer.
Ofta spelar Bostrom med kort som inte går att syna. När han inte klarar av att precisera vilka värden som kan aktivera utopianerrna går det alltid att hänvisa till dessas uppgraderade medvetanden. De kan se en skönhet eller en mening som våra ofullkomliga hjärnor inte förmår uppfatta. Här är det bara att ta Bostrom på orden. Och när han kan ange sådana värden – till exempel att vilja lära sig nya saker eller att utforska något som man finner intressant – uppstår problemet att de självtillräckliga utopianerna inte finner dessa saker eftersträvansvärda. Då kan man skapa motivation med några smarta neuroteknologiska ingrepp. Varför skulle våra gudaliknande ättlingar acceptera den sortens manipulerad motivation? Mycket hos Bostrom känns solipsistiskt. Han fokuserar på individen medan de sociala sammanhangen är skuggor i fonden. Och det måste de väl vara i en värld där varje individ är totalt fri att omforma sig själv efter behag. Ett talande exempel är en diskussion om att ha sina barn och deras fostran som ett livsmål. Det är ett värde som inte håller eftersom de intelligenta maskinerna kan göra detta lika bra, nej bättre! Överlämna osjälviskt dina barn åt algoritmerna – att inte göra det kunde rentav vara brottsligt…
Populärt
Jupiter ned på jorden?
Medan europa lämnar ett viktigt val i Tyskland bakom sig pågår nu förberedelserna för nästa. Emmanuel Macrons femårsmandat – le quinquennat – lider mot sitt slut och skramlet inför första rundan i franska presidentvalet i april 2022 är redan i full gång.
Vad är en människa? Professor Bostrom svarar inte på den frågan men uppenbarligen är hans bild av människan mycket intellektualiserad. Hon är vad hennes hjärna är. Det är i linje med den transhumanistiska drömmen om att leva vidare digitalt efter att ha laddat ner hela hjärnans informationsinnehåll på en hårddisk. I A letter from Utopia – ett slags förstudie till Deep Utopia – målar Bostrom upp ett cerebralt liv utan kropp, ett änglaväsen i cyberrymden: ”Din kropp är en dödsfälla. Denna vitala maskin och detta dödliga fordon kommer, såvida det inte hänger upp sig eller kraschar, snart att rosta. Du har tur om du får sju decennier av rörlighet; åtta om du är en ödets älskling. […] Oh, det är inte gott att leva i en självantändlig pappershydda!”
Fram till i april förestod Nick Bostrom Future of Humanity Institute (FHI) på Oxforduniversitetet. FHI drog till sig flera transhumanistiskt inspirerade filosofer och deras dramatiska framtidsprognoser fick en hel del massmedial uppmärksamhet. Nu har FHI lagts ner i samband med omorganisering av den filosofiska fakulteten. Det hävdas att man alltför sent har kommit in med en strategisk plan för institutet, något som förnekas av FHI-företrädare. Det är ingen hemlighet att FHI varit en nagel i ögat på somliga akademiker i Oxford. Glimtvis kan man skymta dessa motsättningar i Deep Utopia. Den fiktive professor Bostrom blir avbruten därför att ett brandlarm går igång eller när någon hävdar att föreläsningslokalen är bokad av en annan institution. Och i en analys av begreppet ”mening” passar Bostrom på att rikta en spark mot det akademiska etablissemanget när han presenterar Gräsräknaren som räknar grässtråna på universitetets gräsmatta och som när han är färdig måste börja om, för nya grässtrån kan ju ha tillkommit.
Frågan är om det är meningsfullare att reflektera över Utopia än att räkna grässtrån. En kritiker av Superintelligence skrev om farhågorna om att en digital Storebror skulle ta över, att det är som att bekymra sig om överbefolkningen på Mars innan någon ens har satt sin fot på planeten. Detsamma kan sägas om Deep Utopia. Och jag kan bara instämma.
Vetenskapsjournalist och författare.