Som Håkan Lindgren konstaterar i sin intervju med Ulf Danielsson gör oss språket inga tjänster heller: när diskussionen handlar om intelligens fastnar vi snabbt i det mänskligas grammatik (Axess nr 5/19).

Wittgenstein noterade inte bara att lejon är omöjliga att förstå, utan också att det finns en serie språkspel som bara är meningsfulla om föremålet för dem lockar fram vad han kallade en attityd till en själ, och när vi ignorerar denna observation fastnar vi i diskussioner om förhållandet mellan maskin och människa som ytterst inte leder någonstans. Tydligast är detta när vi sugs ned i begreppet ”medvetande” och förlorar oss i resonemang som i bästa fall låser oss mellan David Chalmers eller Roger Penroses syn på medvetandet som en grundläggande kraft, lik gravitationen, och Daniel Dennetts övertygelse om det algoritmiska medvetandet som fullt tillräckligt och substansagnostiskt. Turing undvek för övrigt inte det begreppet för att det var för svårt. Han konstaterade att den invändningen leder rakt in i solipsismens labyrinter – för hur vet du att en annan människa har ett medvetande?

Diskussionen skulle må bra av en tredje term – låt oss kalla den soficitet – som helt enkelt beskriver den generella förmågan att lösa olika typer av problem och lära sig nya saker. Människors soficitet är betydande och de problem vi kan lösa och det vi kan lära oss är mycket imponerande. Maskiners soficitet har ökat över tiden och frågan om den kommer att vara ekvivalent med människors är just nu bara teoretiskt intressant. Maskiner har kanske 1 procent av människors soficitet idag, och på några områden är deras soficitet starkare och snabbare än vår – som exemplet med kalkylatorn i artikeln visar. Maskiner kommer kanske att nå 10, 20 eller 50 procent inom ett århundrade. När de når 100 procent kommer det att vara till stor hjälp för oss, och när de har mer soficitet än vi kommer det att vara ännu bättre, precis som när maskiner fick större mekanisk styrka än vi. Planetens maskiners samlade styrka överglänser mänsklighetens samlade styrka med flera storleksordningar. Det är inte ett problem. Inte heller en soficitet som överglänser oss kommer att vara problematisk – snarare tvärtom.

Det finns en annan historia här som kan vara värd att i alla fall reflektera över, och det är en i vilken komplexiteten i vår värld ökar och vår förmåga att hantera den stagnerar. Vår samlade soficitet – människa och maskin – ökar för långsamt för att möta de globala utmaningar vi står inför. Historikern Joseph Tainter menade att det är så samhällen går under: när deras förmåga att hantera komplexitet understiger den takt med vilken komplexiteten runtom oss växer. Vi behöver i detta scenario ständigt kraftfullare verktyg och om vi rullar tummarna medan vi speglar oss i tekniken likt en sentida Narcissus så kommer kollapsen oundvikligen att sätta stopp för vår självupptagenhet.

Detta scenario är givetvis för enkelt; samhälleliga eller historiska imperativ bör alltid betraktas med stor misstänksamhet. Samtidigt är det anmärkningsvärt att fördelarna med AI så sällan integreras i diskussionen: snabbare och billigare diagnos av allt från diabetes till cancer, nya vetenskapliga upptäckter, energieffektivisering som kan hjälpa oss att hantera klimatförändringarna – allt detta sveps under mattan när vi bekymrat skruvar på oss, oroliga över att skapelsens krona skall tas ifrån oss. Framsteget ställs mot självkänslan.

Danielsson har dock rätt i att vi måste vara försiktiga med att överlåta alltför mycket till maskinerna alltför snabbt. Dennett har påpekat att vi antar förståelse där vi ser förmåga, och att detta sällan är fallet när det gäller maskiners förmåga att lösa problem av olika slag. Här behövs inga förbud mot att utforma maskiner på olika sätt, utan en djupare förståelse av soficitetens begränsningar – samma sorts förståelse som är nödvändig i alla tekniska projekt. Att spänna upp en konflikt mellan ny teknik och människovärdet är en gest som är lika problematisk som den som eskatologiskt pekar ut tekniken som en stege till himmelriket och det eviga livet – och bygger på samma sorts missriktade antropocentrism.

I en tidig rapport om AGI (människoliknande intelligens) och risker tecknade ett antal forskare olika scenarier, och konstaterade att ett av de troligaste scenarierna var ett i vilket vi skapar en övermänsklig intelligens och den … lämnar planeten och oss, eftersom det finns så mycket att lära sig i resten av universum. Frågan är om inte den knäck detta skulle ge vår självkänsla skulle vara mer förödande än Skynets envisa försök att ta livet av Sarah Connor och hennes bekantskapskrets.

Människan är inte alltings mått.