Maskindrömmar

De operatörer som desperat försökte stänga av Skynet förvärrade bara situationen, eftersom systemet uppfattade det som en attack mot sin existens och i självförsvar startade ett kärnvapenkrig mellan Ryssland och USA. Tre miljarder människor dog under den så kallade domedagen – Judgment Day.

De science fiction-bevandrade vet att ovanstående utgör handlingen i filmen Terminator. Det finns en uppsjö av mer eller mindre skrämmande filmer om självmedvetna robotar, som exempelvis I, Robot eller Chappie. Eftersom jag har skrivit en avhandling och en populärvetenskaplig bok om robotar med fokus på filosofiska aspekter, har jag intervjuats i olika sammanhang och fått svara på frågor om huruvida självmedvetna, eventuellt illasinnade robotar kan bli verklighet, och i så fall när. Frågorna avrundas ofta med oroliga konstateranden att det hela låter väldigt otäckt. Tänk om robotarna tar våra jobb och förintar oss? När det gäller den typen av spekulationer saknar jag som filosof säkra svar.

Någon som däremot har gjort ett grundligt försök att besvara frågor om framtidens robotar är Robin Hanson, docent i nationalekonomi vid George Mason-universitetet i USA och forskare vid Humanity Institute of Oxford University. Med en doktorsexamen i samhällsvetenskap (social science), examina i fysik och filosofi samt nio års erfarenhet av forskning inom artificiell intelligens torde han vara ovanligt lämpad att berätta om hur en värld där robotar tagit över kan komma att se ut.

Hanson tror inte att det är robotar med artificiell intelligens som kommer att utvecklas separat – han menar att det kommer att ske så kallade hjärnöverföringar, brain emulations, där en mänsklig hjärna kopieras och förs över till en dator, något han tror kan bli verklighet om ett sekel. Hanson använder teorier och trendprojektioner från ett flertal ämnen för att skapa en trovärdig och detaljerad bild av hur en värld med ems – em är benämningen på ”varelser” med överförda hjärnor – kommer att se ut.

En specifik hjärnas cellegenskaper och kopplingar scannas in, varpå en datamodell som processar signaler på samma sätt byggs och implementeras virtuellt eller i en robot. De första scanningarna kommer enligt Hanson troligen att göras av sådana som fryst ner sina hjärnor och låtit dem förvaras i flytande nitrogen. 2 000 personer som fortfarande lever har arrangerat så att de ska bli cryogeniskt frysta, bland andra Hanson själv.

Ems reproducerar sig genom att göra exakta kopior som kommer ihåg samma saker och har exakt samma färdigheter och personlighet, men som skiljer sig åt efter det att de har kopierats och fått andra upplevelser och erfarenheter. I början kommer urvalet av mänskliga hjärnor att göras bland vuxna personer som är framgångsrika och begåvade, vilket enligt Hanson kommer att leda till en överrepresentation av exempelvis judar, heterosexuella män och homosexuella kvinnor (!). Här ser vi ett exempel på de spekulationer som boken är full av.

Hanson menar att em-modeller inte behöver reproducera de aspekter hos hjärnor som inte substantiellt bidrar till att sända ut signaler som svar på inkommande stimuli och att de inte behöver reproducera icke-signal-aspekter av medvetande. Dessa icke-signal-aspekter av medvetande tolkar jag som upplevelsen att vara ett ”jag”, vilket jag strax återkommer till. Enligt Hanson kommer ems att ge intryck av att de hör, känner och tänker, men eventuellt är de inte ”sant medvetna” (truly conscious) – de ”pseudo-hör”, eller ”pseudo-känner”. Detta leder oss in på medvetandefilosofi, men eftersom Hanson menar att medvetande spelar en liten roll inom de teorier från fysik, ingenjörskonst och samhällsvetenskap som han använder som bas för sina förutsägelser, och eftersom han vill fokusera på det som har blivit försummat, bortser han från frågor om ems medvetande för att istället fokusera på sociala implikationer och vilken sorts liv ems kommer att leva.

Här kommer min främsta invändning mot boken. Att inte diskutera medvetande gör att bokens trovärdighet faller, särskilt med tanke på hur extremt detaljerat Hanson beskriver ems önskan att exempelvis ha sex, romantiska förhållanden, status, makt och att undvika pinsamheter och sådant som inte är estetiskt tilltalande. De kommer att vara optimistiska, glada, tålmodiga och fredliga arbetsnarkomaner, de kommer att vara religiösa och gifta – samt tacksamma gentemot dem som möjliggjorde deras existens. Men för att påstå sådana saker har Hanson nog utgått från att de har ett medvetande på samma sätt som människor. Många av dessa drivkrafter och egenskaper härrör sannolikt från den mänskliga, biologiska kroppen. Att inte problematisera och diskutera detta är en stor brist.

Inom medvetandefilosofin finns det olika synsätt på vad det är att ha ett medvetande. Descartes menade att ett medvetande är lika med en odödlig själ, som är av en annan substans än kroppen – substansdualism. Behaviorismen ser medvetandet som beteende. Fysikalismen sätter likhetstecken mellan medvetandet och hjärnan. Man kan också se medvetandet som en dator. Det kommer in indata som behandlas och ut kommer utdata. Något som krävs för att ha ett medvetande är mentala tillstånd, som trosföreställningar (beliefs) och önskningar (desires).

Turingtestet går i princip ut på att om en maskin kan bete sig som om den kan tänka, så ska man se på den som om den har inre tillstånd som kan producera detta ”simulerande” beteende. Testet, från 1950, är Alan Turings och syftet är att stödja hans påstående att maskiner kan tänka i relevant mening (och visa intelligens). Turings idé är att man bör se exempelvis tankar utifrån vad de har för funktion i ett visst system. Om något – i det här fallet interna tillstånd av något slag – verkar fungera på samma sätt som (mänskliga) tankar, så ska dessa interna tillstånd anses vara tankar. Det spelar ingen roll hur de är konstruerade eller vad de består av. Detta sätt att se på interna tillstånd kallas ibland funktionalism. Det innebär alltså att man utgår från vilken funktion tillståndet har, snarare än hur det verkligen är beskaffat.

Om något verkar fungera som en mänsklig tanke, så kan man anse det vara en tanke. Den mest kända kritiken mot detta är filosofen John Searles tankeexperiment Det kinesiska rummet. En dator är placerad i ett rum. Datorn är försedd med en översättningsmanual. En person som kan kinesiska stoppar lappar med frågor på kinesiska genom en lucka i rummet. Datorn i rummet bearbetar dessa frågor med hjälp av manualen och skickar sedan ut svaren, även de på kinesiska, genom en annan lucka. Frågeställaren skulle antagligen tro att den eller det som sitter inne i rummet förstår kinesiska. Men Searle menar att maskinen egentligen inte förstår – att det inte handlar om någon genuin förståelse. Om det finns förståelse är den syntaktisk – mekanisk skulle man kunna säga, snarare än semantisk. Semantisk förståelse är den typ av förståelse vi människor anses ha och innebär att man förstår meningen i något. Det är inte bara ettor och nollor, indata och utdata. Searle menar alltså att maskiner inte kan ha verklig förståelse.

Jag tolkar det som att Hanson utgår från ett funktionalistiskt synsätt, och en sådan grundpremiss kunde kanske vara acceptabel om boken inte var så belamrad med mer eller mindre fantastiska spekulationer där hoppen från teorier till detaljer om ems inre liv ofta blir galaktiska. Dessutom skriver han faktiskt att ems har en själ (sidan 106) – hur nu det skulle gå till, eftersom han ju inte anser att emulationen behöver reproducera ”icke-signal-aspekter av medvetande”. Även om en själ ändå skulle kunna uppstå är det märkligt att inte diskutera det. Att ems skulle sakna medvetande och därför inte kunna känna eller erfara något, ”seems very unlikely to me”, skriver Hanson och poängterar att ämnet ligger utanför denna bok.

Problemet med Hansons bok rör framför allt mänskliga drivkrafter i termer av både önskningar och drifter. Vad kommer att driva dessa ems? Vad händer när man inte har någon kropp? Blir den hjärna som kopieras och placeras i något ickebiologiskt något helt annat? Någon som inte har en biologisk kropp saknar ju förmodligen drivkrafter att hitta föda, och utan sexdrift inget sökande efter sexpartners. Hanson nämner visserligen att även hormoner ska kopieras, men hur fungerar syntetiska hormoner i en artificiell kropp? Kan man överföra psykiska sjukdomar, eller kanske radera schizofreni från en för övrigt briljant person, innan den kopieras till en dator?

När Hansson ändå har tagit upp så många detaljer som inte är riktigt underbyggda hade boken vunnit på fler exempel för att göra em-världen mer levande och boken mer underhållande. Han hade också kunnat ge plats till att diskutera fler filosofiska aspekter. Om ett helt avsnitt kan ägnas åt i hur stor utsträckning ems kommer att svära, borde man ha kunnat lägga till några sidor om medvetande, identitet och moralfilosofi. Han säger att arbete, reproduktion och levnadsförhållanden hos ems mer än idag bestäms av effektivitet. Betyder det att nyttofilosofin – utilitarismen – skulle regera i emvärlden? Han nämner faktiskt utilitarism och medger att om ems inte var medvetna, skulle emvärlden vara fruktansvärd enligt den hedonistiska utilitarismen – men lägger snabbt till att han alltså inte finner det troligt.

Jag hade också föredragit en annan struktur. Det dröjer innan man får reda på hur det går för människorna när em-världen är ett faktum. Enligt Hanson kommer några människor att finnas kvar och vara relativt rika, eftersom de lever på räntor och avkastningar. Få människor kan dock arbeta i em-världen, eftersom vi är så långsamma och inkompetenta. Frågan är vad människorna säger om att bli marginaliserade – att ha låg status och betala höga skatter till ems, vilket Hanson menar att vi kommer att göra.

Det tidsmässiga glappet från de första emen till dess att de har tagit över och människorna är en liten nedvärderad minoritet beskrivs inte. Kommer människorna att tillåta detta – och kan de tillåta det? Under avsnittet om krig hade det varit intressant att läsa om ett eventuellt krig mellan människor och ems snarare än spekulationer om krig mellan ems. Hanson hoppar alltså inte bara över den mest intressanta filosofiska diskussionen, utan också den mest intressanta tidsperioden.

Det enda som blir kvar för människorna blir kanske att påta i trädgårdslandet. Men eftersom mycket av det som människor uppfattar som roligt handlar om det absurda i att vara människa, kanske den sista mänskliga bastionen blir just humor. Kanske kommer komediklubbarna att frodas i den lilla människokolonin. Kanske tar vi tillbaka jorden genom roliga filmer som skapar syntax error i em-hjärnorna. Nudge nudge.