Människan är alltings mått, sade filosofen Protagoras för 2 500 år sedan, men de anonyma greker som ännu lite tidigare formulerade inskriften på Apollotemplet i Delfi hade redan överträffat honom. Γνῶθι σεαυτόν (gnōthi seauton), ”känn dig själv” måste vara de klokaste två ord som den västerländska civilisationen hittills har frambringat. Tog vi dem på allvar skulle vi lägga dem till grund för civilisationens fortsatta utveckling. Det är som om grekerna i förväg hade förstått begränsningarna med allt som sedan skulle hända, från renässans och upplysning fram till masskonsumtion och artificiell intelligens; som om de klart framför sig såg det dilemma som människan skulle hamna i när hon en vacker dag hade lyckats göra sig själv så mäktig som hon drömt om att vara.

Vad hjälper det människan om hon är alltings mått, om hon har vuxit sig så stor att gudarna och naturen inte längre besvärar henne – om hon har uppnått allt detta utan att känna sig själv, utan att förstå sina emotionella drivkrafter, sina behov och sina reaktioner? I så fall är hon fortfarande ett barn. Hon är ett barn som ger sig själv alltmer avancerade tekniska presenter, i hopp om att de ska tillfredsställa ett barns känslomässiga behov. Det kommer de inte att göra. Det enda de kan är att hålla henne kvar i en artificiellt förlängd vuxenbarndom.

Ska inte tekniken utmana gränser? Jodå, men det är märkligt att de som omfamnar disruptiv teknologi är så noga med att aldrig överskrida en viktig gräns inom sig själva – den som leder till ökad självkännedom. Barnsliga och oanalyserade känslomässiga behov gör att vi önskar att vi kunde ha samma sociala relationer till våra verktyg som vi bara kan ha till våra medmänniskor. Vi önskar oss ett verktyg som ska vara något annat än ett verktyg – det ska vara en kompis, en förälder eller en gud.

Det ska vara så fulländat att vi själva blir överflödiga. Vi ska inte behöva utveckla något omdöme: maskiner som analyserar oöverskådliga datamängder kommer att fatta bättre beslut. Vi kan fortsätta att bete oss som omogna egoister eftersom blockchain garanterar att bedrägerier blir omöjliga att genomföra. Vi ska inte behöva lära oss teckna eller fotografera: bildgenererande program kan förverkliga varje hugskott på ett ögonblick.

Vad betyder den sortens önskningar? De har en sak gemensam: vi ska äntligen slippa oss själva. Vi vill slippa ifrån vårt ansvar och vårt medvetande. Det är vad jag misstänker att de stora satsningarna på AI handlar om. I så fall kunde vi uppnå samma resultat snabbare och billigare med en pistol.

Om vi inte förstår oss själva och våra behov kommer vi också att missförstå våra verktyg.

Missförstånden leder till ständiga besvikelser. Vi blir beroende av nya tekniska framsteg, eftersom vi tror att nästa framsteg ska trösta oss efter att det förra framsteget har gjort oss besvikna. Windows 11, säger reklamen, är ett nöje att använda till skillnad från missfostret Windows 10, som i sin tur lanserades med motiveringen att det var mindre frustrerande än Windows 8. Utan självkännedom kommer vi aldrig att kunna utveckla teknologier som verkligen skulle vara gynnsamma för oss, eftersom det sannolikt förutsätter att vi går emot minsta motståndets lag, och vi kommer att skada oss på de teknologier vi redan har, utan att förstå vad vi gör för fel.

Den som läser lite teknikhistoria kommer att upptäcka att förhoppningarna om vad tekniken ska ge oss förblir konstanta; det enda som händer är att vi byter ut de verktyg som förhoppningarna knyts till. 150 år före internet förklarade 1800-talets teknik­entusiaster att telegrafen skulle förvandla världen till en global hjärna och göra slut på alla konflikter. Den teknik vi har är bara irriterande, men nästa teknologiska språng, som vi just har börjat föreställa oss, kommer att göra oss fria, lyckliga och kreativa. AI gick på mindre än ett år från farlig och lockande spetsteknologi (”tänk om maskinerna blir medvetna!”) till idiotiska bottar som missförstår vad vi säger när vi ringer kundtjänst.

Att våra förhoppningar aldrig infrias borde vi betrakta som en varningssignal värd att undersöka. Det betyder förmodligen att vi inte förstår vad vi håller på med. Istället för att utnyttja detta tillfälle att lära känna oss själva föredrar vi att bygga upp förväntningarna inför nästa stora teknologiska skifte: det ska bli en perfekt julafton och vi ska få de presenter vi önskat oss. Människans förhållande till tekniken påminner om en spelberoende pensionär som sitter framför en enarmad bandit i Las Vegas: Den här maskinen tar mina pengar och förstör mitt liv, men nästa gång jag drar i spaken vinner jag storvinsten! Det kan man kalla mycket, men särskilt vuxet är det inte.

Om man har förstått detta förstår man också att alla frågor av typen ”Kan vi kontrollera AI?”, ”Är AI farligt?” eller ”Hur ska vi lära oss att utnyttja AI på bästa sätt?” inte är något annat än villospår. Börja aldrig med tekniken; det är lika dumt som att spänna vagnen framför hästen. Börja med människan. Fråga dig vilket framtida samhälle som skulle vara önskvärt och människovärdigt. När du har gjort dig en bild av en sådan framtid – och ju friare och mer förutsättningslöst du tänker, desto bättre – kan du sedan, i nästa steg, fråga dig vilken teknik vi behöver utveckla för att komma närmare visionen. I det läget hamnar tekniken på rätt plats, och den får en uppgift där den kan utveckla hela sin imponerande kapacitet: som medel för att nå ett mål.

Om du däremot gör misstaget att utgå från tekniken kommer du att fastna i ett mentalt dödläge, i ett antingen-eller: antingen lär vi oss acceptera mer av den teknik vi matas med, eftersom vi inte kan föreställa oss några alternativ, eller också åker vi raka vägen tillbaka till medeltiden. Den tekniska utvecklingen kommer att framstå som en rät linje, där bara två rörelser är tillåtna: ”framåt” eller ”bakåt”. Så ser misstaget ut, men från den punkt där vi befinner oss nu kan vi röra oss framåt i vilken riktning som helst: ”framåt” är 360 grader, ”framåt” är en expanderande sfär. Det finns ett oändligt antal framtider, som vi inte ens har börjat föreställa oss, eftersom vi nö­jer oss med den smala, begränsade framtid som AI-branschen har förpackat och sålt.

Populärt

Hederskulturens medlöpare

Första skottet gick in i pannan, det andra i käken. Hon slapp höra hur fadern upprepade ordet ”hora” när han sköt. Obduktionen visade att den första kulan avslutade Fadime Sahindals 26-åriga liv.

Jenny Sonesson Samhälle 2021 7

Utgår du från mottot ”känn dig själv” kommer du kanske att bli beskylld för teknik­fientlighet, men alla sådana beskyllningar kommer att rinna av dig som vatten från en gås. Det handlar aldrig om att vara mot tekniken, utan om att vara för människan – och människan har alltid varit ett redskapsanvändande djur, det har vi varit ända sedan vi knackade fram bättre flintverktyg än neandertalarna.

Utan redskap kan människan aldrig bli sig själv, men alla redskap är inte lika nyttiga för oss. Vissa verktyg stimulerar och utvecklar oss (skriven text är förmodligen ett av dem), andra passiviserar oss, eller flörtar med vår självdestruktivitet. Fråga dig inte om du ska vara för eller mot AI, fråga hellre vilken teknisk – och mänsklig – utveckling som hämmas för att vi just nu är besatta av AI. Fråga dig vilka ännu outvecklade verktyg som skulle kunna göra människan lite mer vuxen. Varje gång någon vill sälja nästa befriande teknologi ska du vara en besvärlig kund: istället för att tindra med ögonen ska du undersöka om man ännu en gång vill göra dig till passiv konsument.

Idag har vi teknik som låter oss läsa och manipulera gener, samtidigt som vår människosyn ligger kvar på byskvallrets nivå. Vårt omdöme och vår självkännedom har inte hållit jämna steg med den makt som teknologin har lagt i våra händer. Här finns en enorm eftersläpning att ta igen.

Om jag i all blygsamhet får önska mig något inför framtiden skulle det vara två tusen års framsteg på självkännedomens område. De upptäckter vi har framför oss kommer säkert att vara lika omvälvande som de senaste årtusendenas tekniska och naturvetenskapliga framsteg. Fantasin om tänkande maskiner kan vi skicka tillbaka till 1900-talet, där den hör hemma. Vi förtjänar en större, roligare och mänskligare framtid.