Som om den vore intelligent

År 2006 besökte jag professor emeritus John McCarthy i hans lilla bostad i utkanten av Stanforduniversitetets campus. Det var ganska precis 50 år efter att McCarthy myntat begreppet ”artificiell intelligens” på en konferens om datorer och problemlösning, och jag ville fråga honom hur han tyckte att det gått. Då, när ämnet var ungt, var anspråken knappast små. En av de framträdande debattörerna, Marvin Minsky, menade att vi borde vara glada om vi i framtiden fick tjänstgöra som husdjur hos datorerna. De flesta forskare var ense om att det bara var en tidsfråga innan datorerna blev intelligentare än oss, och ”tog över”.
Men vad hände sedan? I en version av historieskrivningen följde 50 år av misslyckanden, där datorer om och om igen visade sig oförmögna att lösa ens enklare problem. Det mänskliga intellektet kunde inte fångas in i datavetenskapens algoritmer. Drömmen om, eller mardrömmen om, artificiell intelligens förvandlades till en stilla fascination för den mänskliga, naturliga intelligensen och dess unika ställning i kosmos.
Efter att ha slagit mig ned i en fåtölj hos professor McCarthy frågade jag honom om han inte trots allt var besviken över utvecklingen. Han skakade på huvudet. Tekniken, förklarade han, utvecklade sig snabbare än han hade vågat hoppats. När han började kunde en dator inte spela schack. Nu är datorer de bästa schackspelarna i världen. Lösningar som utvecklats för artificiell intelligens driver världens största sökmotorer och i datorspelens världar finns exempel på simulerade krigare och civilisationer som skulle varit otänkbara 1956. Faktum är, menade McCarthy, att 50 år efter det att Mendel upptäckte ärftligheten så fanns mycket få exempel på hur detta enkla begrepp kunde utnyttjas praktiskt. Men hundra år senare så sekventierade Craig Venter hela den mänskliga genkartan. I jämförelse med det exemplet har AI hunnit, sade McCarthy, mycket längre.
McCarthy pekade också på det märkliga fenomenet att så fort något blev praktiskt möjligt, ja, då kallades det inte artificiell intelligens längre. Ta till exempel datorspel. När vi strider mot simulerade imperier i krigsspel, ser vi inte den virtuelle motståndaren som en artificiell intelligens, utan som en del av ett bra spel. De sökresultat som ramlar in från sökmotorer och hela tiden förfinas, ja det ser vi som sökteknik. De avancerade expertsystem som hjälper oss att utföra allt från deklarationer till diagnoser är fina verktyg, men inte är de intelligenta? När något bara fungerar, ja, då tycks vi inte längre vilja kalla det intelligens. Idag använder vi tekniker som utvecklats inom forskningen om artificiell intelligens varje dag utan att tänka på det, utan att ens vilja kännas vid att det skulle kunna finnas spår av intelligens i sökningar och datorspel.
Vad är det som ligger bakom det fenomenet? En förklaring skulle kunna vara att intelligensen är den sista bastionen i kriget om människans unika ställning i skapelsen. Naturvetenskapens segertåg genom historien kan tecknas som ett antihumanistiskt korståg, en sorts människans resa till människa. Från att vara i centrum av universum kom vi att inse att vi befinner oss i periferin av periferin i ett ständigt expanderade kosmos, från att vara skapelsens perfekta krona och Guds avbild reducerades vi till produkten av en blind och nästan slarvig evolution som tycks nöja sig med det tillräckliga. Skulle då också vår intelligens, den ultimata aristoteliska differensen, kunna återskapas av datorer? Är inte ens våra tankar och känslor unika? Finns det ingenting speciellt med att vara människa som inte kan förklaras vetenskapligt eller reduceras till ingenjörslösningar? Finns det inget som vi kan göra som en dator inte kan göra?
Var vi än börjar studera artificiell intelligens är det i den frågan som vi förr eller senare landar, och med rätta. Det är en viktig fråga. Ytterst handlar det om en komponent i vår självförståelse. Är vi bara avancerade system av algoritmer implementerade i en biologisk maskin, eller finns det något mer? Något unikt? Något verkligt mänskligt?
Filosofin har närmat sig den frågan från olika håll. Det kanske mest intressanta svaret finner vi nog i Wittgensteins filosofi, med dess betoning på kroppens betydelse för kognitionen. Som Gunnar Svensson, vår förmodligen mest framträdande Wittgensteinkännare, noterat, är begreppet intelligens något vi använder om något som människor gör. Inte kretskort. Det är ett begrepp som beskriver en serie av mänskliga handlingar som låter sig tolkas på ett visst givet sätt, men hänvisar inte till något mystiskt inre tillstånd eller en uppsättning beräkningar. Vi kallar någon intelligent när denne beter sig på ett visst sätt, svarar på våra frågor och interagerar med oss som en människa. Att säga att en dator är intelligent är bara att missförstå både hur vi använder ordet ”dator” och ordet ”intelligens”, och skulle vi lyckas skapa intelligens är det bara genom att skapa en människa.
Den tanken, att den tidiga forskningen om artificiell intelligens missförstod relationen mellan kropp och intelligens, har gett upphov till en omfattande forskning om robotar och hur vi bemöter dem. I sin senaste bok Alone Together studerar Sherry Turkle detta fenomen, och pekar på hur vi tycks förprogrammerade att interagera med det människoliknande som om vore det intelligent. Hon varnar för att vår vilja att tillskriva artefakter intelligens kommer att missbrukas, användas för att skapa placebointelligens i virtuella husdjur eller i robotsköterskor för de gamla och sjuka. När vi förser datorn med kropp kommer vi att luras att tro att den är intelligent.
Låt oss kalla detta den wittgensteinska kritiken: det unika i människan är hennes naturhistoria, hennes biologi. Hennes intelligens är en del av hennes kropp, och hennes kognition kan inte abstraheras bort ur biologin och in i datavetenskapen. I sig utesluter inte detta resonemang att vi skulle kunna skapa intelligenta varelser, men det skulle då handla om mycket mer än att bara programmera en dator att svara på ett visst sätt, det skulle handla om att skapa kroppslig intelligens långt bortom dagens robotar.
En annan kritisk linje tar sitt motspjärn inte i biologin utan i kvantfysiken. Professor emeritus Roger Penrose, tidigare vid Oxford, har i böckerna The Emperor´s New Mind och Shadows of Mind utvecklat en komplicerad teori som i huvudsak går ut på att medvetandet har sin grund i kvantfysiska fenomen som inte kan kopieras av datorer. För några månader sedan lyssnade jag till Penrose när han berättade om hur ”mikrotuber” har vissa kvantegenskaper som han menade kan innehålla förklaringen till både fri vilja och medvetande. Det var en fascinerande föreläsning, och jag kan inte bedöma sanningshalten i forskningsresultaten (de är mycket kontroversiella), men det som slog mig var likheten mellan Penroses ständigt mer komplexa teori om medvetandet och försöken att rädda en geocentrisk astronomi med alltmer avancerade beräkningar och epicykler. I både den wittgensteinska kritiken och Penroses arbeten framträder den starka kopplingen mellan intelligens och medvetande. Det tycks nästan omöjligt att tänka sig verklig artificiell intelligens utan att också tänka sig ett medvetande. Om en dator blir intelligent betyder det inte bara att den blir smart, utan också att den rör sig från ett något till någon.
Här öppnar sig en avgrund av filosofi ska bekymmer som har att göra med allt från om hur du vet att det finns andra medvetanden över huvudtaget till vad det betyder att vara medveten, och om vi kan vara medvetna om att vi är medvetna, och här fastnade också mycket av den tidiga forskning en. Modeller av medvetandet debatterades sönder och samman, samtidigt som nya logiska system lanserades för att förstå hur en människa resonerar. Men under de gångna tio åren har ämnet förändrats. Peter Norvig, en av forskningsledarna på Google, noterar i sin historieskrivning över artificiell intelligens hur ämnet plötsligt slutade bekymra sig om medvetandemodeller och i stället började tillämpa olika sannolikhetskalkyler och probabilistiska modeller på de snabbt växande datamängder som finns tillgängliga i dagens nätsamhälle. Ett exempel på detta är Googles översättningstjänst.
Tjänsten innehåller inga medvetandemodeller, och bygger inte ens på någon speciell semantisk förståelse av olika ord, utan bara på probabilistisk mönsterigenkänning över stora, ständigt växande mängder av text. Resultatet är stundom komiskt, och det är lätt att säga att översättningstekniken inte är intelligent, men samtidigt är resultaten mycket starkare än några tidigare försök att skapa automatiska översättningsmjukvaror. Och det är lätt att se på förbättringskurvorna och förstå att det inte är omöjligt att vi i vår livstid kommer att kunna få nära perfekta översättningar från datorer. Låter det otroligt? Tänk på utvecklingen i schack.
Där finns spår av intelligens som inte bygger på några antaganden om medvetandet alls. Medvetandet har liksom blivit en hypotes som inte längre behövs i AI-forskningen. De alltmer framgångsrika rekommendationsmotorer som finns på webbsajter som Amazon. com bygger på samma sak: mönsterigenkänning i enorma datamängder. Och varefter dessa datamängder växer allt snabbare blir resultaten allt bättre, inte minst eftersom datorprogrammen kan utveckla sig själva och an passa sig till nya beteenden och nya data.
Dessa läraktiga program imiterar mänskligt beetende, försöker lära sig av vad vi gör för att skapa bättre och bättre mönsteranpassning, och vi är beroende av att de blir bättre och bättre. Ur ett perspektiv är nämligen jakten på artificiell intelligens det enda försvar vi har mot det framrullande brussamhället där mängden information fördubblas varje år. Det är därför de mest framträdande AI-forskarna idag arbetar för sökmotorer och sociala nätverk: vi använder vad vi kan återskapa av intelligensen för att ordna och sortera de väldiga informationsmängderna i vårt samhälle. I de flesta verktyg vi använder idag, sökmotorer, sociala nätverk, kartverktyg och till och med i något så enkelt som stavningskontroll, finns spår av forskningen om artificiell intelligens, och kanske också spår av intelligens.
Och det ger förstås upphov till en annan fråga: Vad händer med vår egen intelligens när den beror av teknikens kryckor? Frågan är inte ny. Framväxten av informationssamhället har skett i skuggan av kritik från tänkare som Jacques Ellul och Neil Postman. Vår egen tid har Jaron Lanier och Nicholas Carr. Tekniken, menar de, fräter sönder vår mänsklighet. Det stora problemet med den artificiella intelligensen är att den förstör den verkliga intelligensen, urholkar vår förståelse och förmåga till koncentration och lämnar oss utan förmåga att loda eller odla vårt eget djup.
Ett sätt att läsa Carr och Lanier är som utkast till en kritik mot artificiell intelligens som vrider frågan från möjlighet till lämplighet. Bör vi bygga ut artificiell intelligens om det sker på bekostnad av vår egen förmåga till verkligt tänkande och reflektion? Frågan om människans unika ställning blir här en fråga om en sorts självdisciplin. Vi kanske inte är unika, men vi borde försöka förbli det så länge vi kan. Tekniken tvingar oss in i användarrollen och förnedrar oss.
Det är lätt att känna viss sympati för detta synsätt. I en värld där verklig bildning ersatts av en snabb sökning på nätet eller i Wikipedia känns det som om något gått förlorat. Men samtidigt har den nostalgin ett obehagligt släktträd – det är samma nostalgi som en gång beklagade att Bibeln tillgängliggjordes på bönders språk, samma nostalgi som helst ville se skriftkonsten begränsad för att inte förvrida massornas huvuden. Det är samma nostalgi som varnade för människans kunskapslust i myten om Faust och som kunde se Prometeus öde som ett välförtjänt straff för att ha skänkt människorna elden.
Populärt
De sagolika systrarna Mitford
Bland de omtalade systrarna Mitford fanns både skickliga författare, fascistsympatisörer, en hertiginna och en kommunist, skriver Moa Ekbom.
Det handlar inte om ett antingen eller. Det är inte antingen vi eller maskinerna som är intelligenta. Det är inte antingen bok eller dator. De går att kombinera på en mängd olika sätt, och kunskapen kan förmedlas och förädlas på otaliga nya sätt i de digitala verktygen, samtidigt som det är fullt möjligt att njuta av ett requiem eller en bok. Den nya tekniken sprider kunskap och gör den mer tillgänglig, den ger verktyg till allt fler för att skapa kunskap. Att stoppa den tekniska utvecklingen blir därmed en sorts kunskapsaristokrati förklädd till eftertanke.
Det är klart, det är möjligt att säga att datorn gjort med kulturen vad klockan gjorde med tiden, delat upp den och förvandlat den från upplevelse till små mekaniska enheter. Att vi nu tänker på kultur som information, och att resultatet av detta blir en förskingring av inte bara kulturen, utan också av vår mänsklighet. Men det är att förta människan hennes val och förvandla henne till ett enkelt offer för teknikens blottläggande och tillgängliggörande. Tekniken kan förvandla en trolsk skog till virke, men det sker inte utan att vi gör ett medvetet val.
Men naturligtvis rymmer kritiken dimensioner som manar till eftertanke. En sak som framstår som klar är att diskussionen om artificiell intelligens långsamt borde ge vika för en diskussion om hur intelligenta våra sammanhang är. Kanske är intelligens inte ett atomärt fenomen som kan uppskattas absolut på individuell grund. Kanske är intelligens i stället ett begrepp för vår förmåga att hantera komplexitet i olika sammanhang, där människor och teknik utgör ett större helt. Det finns de som menar att denna Gaia-liknande tanke är vad vi verkligen borde koncentrera oss på: hur vi kan bygga en intelligens som inte är mänsklig eller artificiell utan planetär.
I dagarna tävlar Watson, en IBM-maskin, mot de mänskliga mästarna i Jeopardy. I övningsomgångarna klarade den sig mycket bra. Om den vinner eller ej är mindre intressant. Trenden är klar. Med dagens utvecklingshastighet kommer tekniken snart att nå en punkt där den på majoriteten av alla praktiska punkter beter sig som och kan hanteras som om vore den intelligent. Det är bara en fråga om tid. Om det finns en mänsklig rest eller ej, alltså, något som maskiner inte kan göra men som människor förmår göra utan problem, är en öppen fråga. Kommer maskiner kunna komponera musik, skriva romaner och skapa konstverk som är i sanning originella och som bryter ny mark? Kommer de att kunna älska, förlåta och hata?
Vi ryggar tillbaka inför frågan, men gör klokt i att fråga oss varför vi gör det. Vi blir inte mindre speciella om vi kan bygga intelligenta datorer – det är väl tvärtom? Om vi kan skapa tänkande maskiner är det väl ett tecken på det verkligt unikt mänskliga: en kunskapsdrift som inte stannar ens vid att försöka förstå kunskapen och medvetandet självt.