Att ställa rätt frågor om AI är avgörande

Med artificiell intelligens är det som med Samuel Huntingtons Clash of Civilizations. ­Efter kalla krigets slut skrev Huntington en ­artikel i tidskriften Foreign Affairs (1993; senare utbyggd till en bok med samma titel) där han försökte förutse de nya konflikter som världen var på väg in i. Bit för bit har hans värsta tänkbara scenarier blivit verklighet – och samma sak har de senaste åren hänt med AI.

Tänkande och medvetna maskiner är en gammal 1950-talsfantasi, som skönlitterära författare alltid har skildrat med en stor dos skepticism, om de inte rent ut har varnat för den. ”The Techno-Optimist Manifesto”, som riskkapitalisten Marc Andreessen skrev 2023, för att argumentera för en hänsynslös och oreglerad AI-utveckling, är inget mer än ett uppkok av 70 år gamla tonårs­fantasier om teknik och makt. Den polske science ­fiction-författaren Stanisław Lem hade skrattat ut honom redan på 1960-talet, men vi är så fattiga på verkligt storslagna och människovärdiga framtidsvisioner att vi försöker förverkliga idéer som science fiction-litteraturen redan har tröskat igenom och lagt bakom sig.

Därför kan vi nu läsa nyheter som den här: det är juridiskt sett svårt att förhindra att du blir ett digitalt spöke efter döden, skrev Ashley Belanger nyligen på tekniksajten Ars Technica. AI-företag kan samla in dina videoklipp, foton och mejlkonversationer och sedan erbjuda din familj en digital kopia som de kan fortsätta att prata med – mot en månatlig avgift, förstås. Här förnedras inte bara den avlidne, som mot sin vilja får sin personlighet förvandlad till en digital kasperdocka, här förnedras också de ­efterlevande som berövas sin sorg. Det hade ­varit utmärkt om det stått i en paranoid novell av Philip K Dick, men det är inte riktigt den värld jag vill leva i.

Att följa AI-utvecklingen har varit som att se en välkänd dystopi bli verklig, ett litet stycke i taget. Ännu en bok om allt som håller på att gå snett skulle kunna vara lika tröstlöst som att läsa ytterligare en bok om klimatkrisen, men i The AI Con låter Emily M Bender och Alex Hanna som om AI-kritik fortfarande gjorde dem hungriga. Hanna är forskningschef vid Distributed AI Research Institute i Kalifornien. Bender är professor i lingvistik vid University of Washington.

I början är de lite för snälla, men det är svårt att misslyckas när allt de behöver göra är att rada upp de dummaste eller mest skrämmande exempel de kan hitta. Jurister i Storbritannien och Mexiko har använt Chat GPT för att sammanfatta texter de inte orkade läsa och sedan klistrat in resultaten direkt i sina domslut. I USA bedöms asylsökande med hjälp av maskinöversättning. De förutsägbara översättningsmissarna skulle vara komiska om de inte innebar att människor kunde förlora livet. En bekväm brasiliansk politiker har låtit Chat GPT skriva ett lagförslag.

Allt detta pågår utan att någon ställer sig de grundläggande frågorna – varför ska vi ha en teknik som fejkar mejl som vi inte vill skriva eller erbjuder fejkad sjukvårdsrådgivning till människor som inte kan betala för anständig vård? Teknik kan nog vara bra, men en sak kan den inte göra: den fungerar inte som plåster på sociala problem vi inte vill erkänna eller lösa.

Emad Mostaque, som har grundat AI-företaget Stable Diffusion, påstår att AI ska ”demokratisera bildframställningen”. Menar han kanske att fler människor ska få tillräckligt med fritid för att utveckla sina kreativa sidor? Nej, allt han vill göra är att degradera folk till mus­klickande konsumenter, så att han kan sälja sitt program Stable Diffusion.

Kring AI och kreativitet finns så många missförstånd att det skulle krävas en egen bok för att reda ut dem. Men i korthet: det som gör konst och litteratur meningsfullt för människor är mycket mer än slutresultatet, menar jag. Konst handlar inte om att producera ett antal färdiga verk. Tror man det – och att en syndaflod av verk som genereras utan mänsklig ansträngning skulle vara ett framsteg – då tror man också att AI kan ersätta oss som kulturskapare.

Det som gör konst värdefullt för människor är den förändring du genomgår när du lär dig något som förut var omöjligt. Musik, konst och litteratur förutsätter träning och observation. Du måste lära känna världen bättre – och i lika hög grad dig själv, för du kommer snart att upptäcka att dina kunskaper om dig själv är vaga och otillräckliga. Det du lär dig kommer att förändra dig både mentalt och på neurobiologisk nivå. Varför skulle vi tacka nej till det?

Motargumentet från AI-entusiaster och ­andra kulturfiender brukar låta så här: Visst, AI-programmen kan bara remixa det material som de har matats med, men det gör människor också! Vi är inte så originella som vi tror, vi sätter bara ihop de vanliga kulturella legobitarna i nya kombinationer.

Det är ett argument som avslöjar hur ointresserade de är. Jag kan inte börja remixa Lars Lerin i industriell skala bara för att jag har sett ett par av hans målningar. Innan jag ens kommer i närheten av att härma honom måste jag studera akvarellmåleri i åratal. Jag måste lära mig hur vatten, papper, pigment och penslar beter sig. Jag behöver lära mig att kontrollera min hand, så att den kan utföra rörelser som den aldrig har gjort förut. Det är inte riktigt samma sak som att mata en AI med stulna bilder och sedan skriva en fantasilös prompt i stil med ”Gandalf slåss med Trump målat av Lars Lerin”.

Bender och Hanna visar att entusiasterna i AI-branschen förstår sig på naturvetenskap lika dåligt som de förstår sig på konst. Istället för att göra sig en realistisk bild av de tekniska framsteg som eventuellt är möjliga föreställer de sig ett slags allsmäktig och önskeuppfyllande maskin. Maskiner av det slaget är vi bekanta med sedan länge. Vi har mött dem i skönlitteraturen, och det brukar inte sluta väl för den som blir besatt av dem.

Någon minns säkert W W Jacobs skräcknovell ”The Monkey’s Paw”, om en aphand som uppfyller önskningar mycket bokstavligt, på ett sådant sätt att varje uppfylld önskan leder till en ännu större förlust. Bröderna Grimms saga ”Fiskaren och hans fru” handlar om en man och en kvinna som är så fattiga att de bor i en pisspotta. Mannen fångar en talande fisk – och det som sedan händer gör att sagan, i alla fall för min del, blir en perfekt bild av människans relation till tekniken. Kvinnan begär att fisken ska ge dem ett hus och ett slott; därefter vill hon bli kung, påve och till sist gud. Människor kan aldrig bli tillfredsställda av att sitta passiva och få materiella presenter i knät, det förstod sagans anonyma upphovsman. Fisken tappar tålamodet och skickar tillbaka dem till pisspottan (senare och snällare versioner börjar och slutar med att de bor i en liten stuga, vilket förtar en hel del av effekten).

Det märkliga är förresten vad vi aldrig någonsin får, trots de miljarder som plöjs ner i programvaror och datateknik. Vi får aldrig ­program som är människovärdiga, pålitliga och lätta att jobba med. Jonas Söderströms Jävla skitsystem! (2015) är mig veterligt den enda ­svenska bok som tar upp vår tids största arbets­miljöproblem, gemensamt för alla branscher: de hopplöst usla dataprogrammen. Enkla rutinuppgifter blir en ständig källa till stress och frustration, eftersom de program vi måste jobba med är så dåligt utformade att de ­motarbetar oss.

En kassörska i en vanlig livsmedelsbutik kan behöva behärska 24 krångliga system, som givetvis inte samarbetar, skriver Söderström. Från mina år på Akademibokhandeln minns jag vårt nya, dyra affärssystem som krävde 16 knapptryckningar för att skriva ut en prislapp. Program­varubranschen kan ta betalt för produkter som är så användarfientliga att alla andra branscher skulle ha gått i konkurs. Ingen protest­erar mot det, som om dåliga dataprogram var en naturlag. Här finns gott om utrymme för inno­vation och förbättring, men ett bättre journal­system för sjuksköterskor är inte lika sexigt som att sälja nästa generations dysfunktionella programvaror under namnet AI.

Man ska vara kritisk mot AI – men det gäller att inte gå för långt! Bender och Hanna har inget tålamod med AI-kritiker som blåser upp tekniken till ett övermäktigt monster. Pessimister som varnar för att AI kan utrota mänskligheten gör samma sak som AI-fanatikerna: båda si­dor flyger iväg in i en fantasi om teknik som ännu inte finns, och kanske aldrig kommer att finnas. För att AI-kritiken ska vara relevant måste den utgå från vad som sker här och nu.

Till att börja med: AI är en miljöbov. Datacent­ren kräver enorma mängder energi. De AI-­före­tag som delstaten Wyoming har lockat till sig kommer att behöva fem gånger mer elektricitet än samtliga invånare i delstaten.

Hur framtida är AI när tekniken drivs med 1800-talets energikälla – kol? Amerikanska kolkraftverk som var på väg att stängas ner hålls nu igång för att tillgodose efterfrågan från techbolagens serverhallar. Att använda AI som sökmotor – något som ger dig en mer eller mind­re pålitlig sammanfattning av den information som systemen hittar på webben – drar 30 gånger mer energi än en vanlig googlesökning. Techbolagen hade lika ambitiösa utsläppsmål som många andra branscher, men efter att de blev besatta av AI har de kastat sina klimatmål i papperskorgen. Jämfört med åren 2019–20 har Microsoft ökat sina utsläpp med 30 procent och Google med 48 procent, skriver Bender och Hanna. När man har sett sådana siffror framstår det som komiskt att World Economic Forum påstår att vi måste ha AI för att kunna lösa klimatkrisen.

AI-kritiska techskribenter som Cory Doctorow och Ed Zitron har tittat närmare på branschens ekonomi – och kommit fram till att kejsaren är naken. De gigantiska företag som driver utvecklingen är tvungna att fortsätta växa, annars kollapsar deras börsvärde. Hur kan Google växa när de redan dominerar sökbranschen plus hela marknaden för nätannonsering? De måste lansera nästa tekniska revolution! Det måste vara 1990-tal en gång till – de där åren när internet växte som en underbar dröm och pengarna strömmade in av sig själva.

Techbranschens största företag erbjuder varken varor eller tjänster – de har gjort sig beroende av ekonomiska bubblor. Det kunde lika gärna handla om tulpanlökar, men för tillfället är det AI.

Observera att de inte säljer AI – de säljer förväntningarna om AI. Att tekniken sällan motsvarar förväntningarna bryr de sig inte om. Har man ingen revolutionerande teknik att erbjuda är det bara att spela teater och lita på att tillräckligt många spelar med – av rädsla, girighet eller uppriktig övertygelse.

Avslutningsvis presenterar Bender och Hanna några strategier för att sticka hål på AI-bubblan. Tro inte att du behöver anpassa dig – ställ kritiska frågor! Hos vem hamnar pengarna? Vems texter och bilder finns i systemens databaser? Har upphovsmännen godkänt att deras material används för att träna AI-systemen?

Till deras råd skulle jag vilja lägga det som fysikern Ulf Danielsson sade när jag intervjuade honom för Axess nr 5/2019. Om vi alls ska ha AI-system, ansåg han, är det viktigt att tekniken inte blir för människoliknande. Tvärtom, tekniken ska medvetet utformas för att påminna oss om att det inte är människor vi har att göra med. Ett verktyg ska se ut som ett verktyg, en maskin ska tala till oss som en maskin, så att vi inte luras att inleda mänskliga relationer med våra verktyg. AI-verktygen behöver ett visst mått av friktion och distans för att sabotera den illusion som annars ligger så nära till hands.

Den nyligen avlidne filosofen Daniel Dennett var inne på samma spår. Den som släpper ut fejkade mänskliga medvetanden i världen borde straffas lika hårt som den som släpper ut förfalskade pengar, ansåg han. I båda fallen korrumperas det förtroende som är en förutsättning för varje civiliserat samhälle.

Det enda som är bra med AI är att tekniken tvingar oss att ställa de stora, existentiella frågorna. Vad är en människa egentligen till för? Hur skulle ett människovärdigt arbete och ett människovärdigt samhälle kunna se ut?

Om det går åt helvete beror det som vanligt på att vi inte har vågat ställa och besvara dessa frågor.