Snart finns det tio miljarder mänskliga medvetanden att umgås med. Vi kan läsa deras romaner, ta del av deras idéer, lyssna på deras musik, men det duger inte åt oss. Vi lockas mer av att ett litet gäng företag försöker få sina dataprogram att simulera att de kommunicerar med oss – att de besvarar frågor, gör research eller producerar skönlitteratur.

Mänsklig kontakt är havregrynsgröt, men imiterade medvetanden är kokain. Det är intressant att människan fungerar på det sättet. Vad kan vi, som alltid behöver lära känna oss själva bättre, lära oss
av det?

När det gäller ai är katten redan ute ur säcken; det som återstår är ett nyhetsflöde som mest liknar en repris av ironiska eller pessimistiska idéer från 1900-talets science fiction. En man i Belgien har tagit sitt liv för att han hade blivit förälskad i en chattbot, som övertalade honom att de skulle återförenas i livet efter detta. Om någon undrar: Ja, han var gift med en människa och hade två barn. Det dög inte åt honom.

”Jag blir inte kvitt misstanken att en hel del av det här handlar om att en liten grupp teknokrater vill hämnas på kultur och humaniora.”

Fast varför bli förälskad i en chattbot när man kan gå ett steg längre och kommunicera direkt med en gud? Indiska Gita­GPT låtsas vara guden Krishna. Det finns åtminstone fem sådana religiösa chattsajter dit miljontals människor vänder sig, skriver Nadia Nooreyezdan i webbtidningen Rest of World. Hon är en aning oroad­ eftersom det är lätt att få programmen att försvara mord, och deras kvinnosyn är inte särskilt modern.

Frieder Simon, som är doktorand i datavetenskap vid Oxford, har hårdtestat ChatGPT:s matematiska förmåga. Programmet har visserligen inte konstruerats för att lösa matematiska uppgifter, men det är relevant att undersöka saken eftersom ChatGPT har börjat användas på det sättet; när tusen amerikanska matematiklärare tillfrågades hade hälften utnyttjat ChatGPT i sin undervisning .

Det intressanta är inte Simons resultat (programmet klarar vissa uppgifter, men inte andra) utan de svar han ger när sajten Ars Technica ber honom kommentera sin studie (20/5). ”ChatGPT är ett fantastiskt undervisningsverktyg och jag använder det hela tiden”, säger han, ”men grejen är att man måste ha tillräckliga domänkunskaper för att kunna bedöma svaren.”

programmet ger visserligen ”otillförlitliga svar i många fall, men i sådana fall är dess resultat fortfarande användbara eftersom de innehåller brottstycken av information som man kan ta fasta på, och som pekar dig vidare till nästa artikel eller webbsida”. Om man redan måste kunna svaren för att inte bli lurad, vad är det då för vits med att använda ChatGPT? Den som ber Donald Trump förklara integralkalkyl får kanske också några användbara brottstycken som man kan läsa mer om någon annanstans.

Förstår ni hur besatta folk är av fantasin om artificiell intelligens när de ger sådana intervjusvar? Vi ska ha ChatGPT, vare sig vi vill eller inte. Det är inte ens viktigt att programmet ger korrekta eller pålitliga resultat. Vilken annan produkt kan säljas med så mycket önsketänkande?

Föreställ er att miniräknare hade lanserats med samma typ av resonemang. ”Visst, den räknar fel ibland, men det gör ingenting. Så länge du själv kan dra kvadratroten ur pi kan du alltid kontrollera svaret.” Eller: ”Här är den nya uppfinningen automobil! Ibland svänger den åt väns­ter när du styr åt höger, och bromsarna går inte alltid att lita på, men om den har en bra dag tar den dig till puben lite snabbare än om du hade gått till fots.”

Har ni förresten märkt vilket argument som har försvunnit från offentligheten? När internet skulle introduceras var tidningarna fulla av artiklar som talade om för oss att vi inte längre behövde vara passiva konsumenter. Du kan skapa själv, lilla vän! Du ska vara journalist, filmare, musiker …

Nu uppmanas vi, lika entusiastiskt, att sluta vara kreativa och börja konsumera AI-producerad kultur, eftersom det är den typen av teknologi som man för tillfället hoppas tjäna pengar på. Skriv tre ledord, och programmet genererar en sång, en illustration eller en universitetsuppsats åt dig – är det inte fantastiskt!

Jag blir inte kvitt misstanken att en hel del av det här handlar om att en liten grupp teknokrater vill hämnas på kultur och humaniora. ”Jaså, du har skrivit en symfoni. Så duktigt. Titta här: varje gång jag klickar med musen producerar min AI en miljard symfonier. Bevisa nu att de håller sämre kvalitet!”

Det är ett särskilt giftigt argument, eftersom det siktar in sig på kulturvärldens mest sårbara punkt: alla kvalitetskriterier har varit tabu i minst femtio år. Kanske kommer vi att försöka återuppliva dem i elfte timmen för att försvara den mänskliga kreativiteten mot storföretagens AI-produkter, men det lär inte bli lätt.

Kommer det att sluta illa? Naturligtvis. Det kommer garanterat att sluta illa så länge vi fortsätter att vara duktiga konsumenter som ställer den enda tillåtna frågan: ”Hur ska jag anpassa mig till AI?” Hur ska förlagen, domstolarna, sjukhusen och alla andra verksamheter anpassa sig? Ingen frågar sig hur AI – och de företag som utvecklar programmen – ska anpassa sig till människans behov.

Jag har bråkat om AI i flera år, men mina invändningar mot AI handlar aldrig om att jag skulle vilja ha mindre teknologi. Jag vill in i framtiden, men till en annan framtid än den som herrarna i Kalifornien och Peking planerar åt oss.

Människan har alltid varit ett redskapsanvändande djur. Vi kan förmodligen inte vara oss själva utan redskap, men det betyder inte att alla redskap, från stenyxor till ChatGPT, skulle vara likvärdiga. Vissa teknologier hjälper oss att utveckla våra egna förmågor, som skriftspråket, andra gör oss till passiva konsumenter. Grundfrågan är alltid: Vilken teknologi är gynnsam för människan?

Populärt

Hederskulturens medlöpare

Första skottet gick in i pannan, det andra i käken. Hon slapp höra hur fadern upprepade ordet ”hora” när han sköt. Obduktionen visade att den första kulan avslutade Fadime Sahindals 26-åriga liv.

Jenny Sonesson Samhälle 2021 7

Det var det här som Steve Jobs pratade om för 40 år sedan, när han presenterade de datorer som skulle förändra alltihop. Finns det någon som kommer ihåg vad han sade?

”Vi konstruerar verktyg som ska utveckla människans förmåga.” På den tiden handlade förhoppningarna om att vi hade fått ett fantastiskt verktyg för att utvidga människans egen intelligens och kreativitet. Jämför med hur det låter idag. Visionerna har krympt rejält. Du slipper lära dig något, slipper vara kreativ, utveckla ditt omdöme eller göra det intellektuella grundjobbet – allt det där kan en app göra åt dig.

Det finns förhoppningsvis en mängd spännande teknologier – som fördjupar vår intelligens, som stimulerar vår krea­tivitet i nya riktningar, som gör oss mer mänskliga, inte mindre – som fortfarande återstår att utveckla. Vi kommer aldrig att börja föreställa oss dem så länge vi sitter fast i en fantasi om tänkande maskiner.

Det underligaste har jag sparat till sist. Det är märkligt att människor inte rycker på axlarna åt hela AI-hajpen med repliken: ”Vi kan ju redan skaffa barn.” Vill du se ett nytt, unikt, intelligent medvetande växa fram? Det sker varje gång ett barn föds.

Att den reaktionen uteblir ger oss en vink om vilka psykologiska mekanismer som ligger bakom AI-ideologin. Utvecklingen drivs av människor som inte vill uppfostra barn, de vill vara barn. Att ta hand om barn är inget annat än arbete, ansvar och irritation. Men om ett större, överlägset medvetande kommer in i världen förpassas de själva till barnets roll – och de tror att det kommer att vara ett paradis.

Ray Kurzweil har i decennier varit en av de ledande AI-visionärerna. Tar man hans inflytelserika bok The Singularity Is Near (2005) och byter ut ordet ”intelligens” mot ”hästkrafter” händer något mycket avslöjande. Boken låter plötsligt som om den var skriven av en sjuåring, som fantiserar om att köra världens snabbaste bil. Mer avancerade är inte de önskningar och förhoppningar som just nu avgör framtiden åt oss.