Rena tankar utan kött och känslor
Med denna förståelse borde vi kunna bygga maskiner som kan utföra samma arbete, vilket är Kurzweils stora dröm.
I grund och botten, menar han, består vi av ungefär hundra miljoner små moduler vars huvudsakliga uppgift är att detektera huruvida andra moduler eller sinnessignaler bildar ett visst mönster av aktivitet. Enkla moduler hittar mönster som linjer eller enstaka ljud, andra moduler använder dessa resultat för att känna igen bokstäver och ord, och den högre ordningens moduler representerar koncept, sekvenser och andra abstraktioner.
Kurzweils modell är förvånansvärt mycket mainstream. Tanken att hjärnans funktioner kan byggas från enkla enheter organiserade i ett adaptivt nätverk har en lång historia. Sturgis McCulloch och Walter Pitts skisserade redan på 1940-talet denna idé i en uppsats som kom att influera utvecklingen av både logiska kretsar i datorer och senare tiders neuronnätsmodeller. Donald Hebb och Friedrich Hayek föreslog oberoende av varandra teoretiska psykologiska modeller av hur system kunde lära sig mönster genom lokala interaktioner. Hade Hayek publicerat sin The Sensory Order när han skrev boken istället för 1952, hade neurovetare idag talat om hayekiansk inlärning istället för hebbiansk. Under 1970- och 1980-talen utvecklades konnektionistiska modeller som demonstrerade att teorierna faktiskt kunde fungera i verkligheten, låt vara med kraftigt förenklade ”nervceller” och för rätt små problem. AI-forskaren Marvin Minskys inflytelserika The Societyof Mind från 1988 visade hur intelligens kunde uppstå ur ”samhällen” av enklare agenter. Hemligheten ligger inte så mycket i delarna som i hur de organiserar sig till funktionella strukturer.
Vi vet idag att hjärnbarken har en rätt regelbunden organisation, där nervceller bildar kolumner med en standardiserad intern struktur. Svensken Torsten Wiesel fick 1981 Nobels medicinpris tillsammans med David H Hubel för att i hjärnans synområden ha funnit kolumner som tar hand om linjer av olika lutning: varje kolumn reagerar enbart på linjer med en viss lutning i en liten del av synfältet. Dessa kolumner är kapabla att reagera på specifika mönster och sända signaler vidare till andra kolumner, vilket är exakt vad Kurzweils modell går ut på.
Det fascinerande är att hjärnbarken verkar vara generell: samma små kretsar verkar kapabla att bearbeta synintryck, hörsel, minnesassociationer eller rörelsemönster, beroende på vad de är tränade till. I ett klassiskt experiment kopplade Anna W Roe och Mriganka Sur synnerven till hörselområdet på nyfödda vesslor. De växte upp och hade nu fungerande syn, hanterad av den del av hjärnbarken som i normala fall skötte hörseln. Hos från födseln blinda människor tas områden som hos seende sköter synen ofta över av känsel- och orienteringsfunktioner.
Bilden av hjärnan som ett självorganiserande system där små, oberoende men nätverkande delar spontant bygger upp komplexa hierarkier av funktion är populär inom vetenskapen. Om neurovetare har något att invända mot Kurzweil, är det att han utelämnar just teori om hur självorganisationen utförs (även om han gör ett tappert men till slut misslyckat försök att enkelt förklara de hierarkiska inlärningsmodeller han själv har varit med om att utveckla).
De skulle också invända mot utelämnandet av deras favoritdetaljer och favoritkomplikationer. Vad Kurzweil beskriver är en förenklad, renodlad modell utan den biologiska köttigheten. Han kommer från ett ingenjörsmässigt perspektiv där saker bör vara prydliga och modulära och där det vore irrationellt att komplicera saker i onödan.
Olyckligtvis är evolutionen inte en ingenjör. Biologi utmärks av barocka lösningar som visserligen fungerar, men som sällan löser saker på det enklaste sättet. Även där det finns regelbundenhet är den ofta en organisk soppa: träden i en skog stöter inte emot varandra, men de står inte på prydliga led om inte markägaren har planterat dem så. Mikrokretsarna är regelbundna i statistisk mening, men varje individuell kolumn i hjärnbarken är unik och har ofta slumpmässiga egenheter. Hjärnans fiberbuntar löper i eleganta banor som minimerar kabellängden, men tittar man noga hittar man ofta fibrer som ger sig av på avvägar. Nervceller kan påverkas av vad granncellerna gör, även om de inte har samma uppgift.
Därmed inte sagt att enkla grundprinciper inte kan skapa ett tänkande system. Men det kan visa sig mycket svårt att skapa en konstgjord hjärna som har samma egenheter, eller samma ”stil”, som en biologisk hjärna. Kurzweil antar att detta inte är något stort problem.
Kurzweils framställning är helt inriktad på hjärnbarken, och vänner av hjärnans andra delar kan nog med viss rätt anklaga honom för ”hjärnbarkschauvinism”: bara ett kapitel diskuterar de andra delarna. Problemet är att de står för viktiga drivkrafter. Hjärnbarken må låta oss tänka och finna nya mål, men våra grundläggande drifter och funktioner är förbundna med djupen. Utan belöningssystem som motiverar oss att göra lyckade saker igen (och därmed grundlägger både vanor och beroenden) och förprogrammerade paket av känslor som aggression, rädsla och åtrå, skulle vi varken vara mänskliga eller ens fungera praktiskt i tillvaron.
Kurzweil tar lätt på de gamla systemen. För honom är de föråldrade, specialiserade lösningar på överlevnad. Han verkar vara övertygad om att hjärnbarken rationellt kan lösa de problem en varelse ställs inför. Men människor med intakt tänkande men skadade känslosystem klarar inte att leva fungerande liv: det räcker inte att intellektuellt inse att bankrutt och arbetslöshet hämmar ens livsprojekt, man måste känna det för att faktiskt styra bort från sådana val (se Antonio Damasios Descartes misstag). Våra djupa hjärnkärnor är ansvariga för värde: de aktiveras naturligtvis av hjärnbarkens insikter, men utan dem motiveras vi inte att göra det som har värde för oss.
Detta är ett genomgående problem med Kurzweils upplägg. Han föredrar det rena och välorganiserade framför det organiskt trassliga, vare sig det är teorier om teknologisk tillväxt eller hjärnans funktion. Han erkänner existensen av det röriga, men verkar tro att det oftast inte spelar någon roll. Det fyller mig med skepsis. Philip Tetlock jämför i sin högintressanta studie Expert PoliticalJudgment hur olika sorters experter gör sina förutsägelser, och han visar att experter ofta har fel, men de ”rävar” som använde information från många källor och mindre teorier av lokal karaktär gjorde bättre ifrån sig än de ”igelkottar” som baserar sina profetior på en enda övergripande teori. Kurzweil är mer igelkott än han borde, särskilt när han ger sig in på ett område som han kanhända inte fullt behärskar.
Han är inte heller någon större medvetandefilosof. Trots bokens titel rör det sig här mer om ett recept på hur en hjärna kan tänkas fungera än ett övertygande resonemang för att ett sådant system kunde vara medvetet eller ha ett mentalt liv. Kapitlet om medvetande och identitet verkar nästan avsiktligt ha skrivits avväpnande amatörmässigt: en begåvad människa spekulerar lite löst om de stora frågorna.
Populärt
De sagolika systrarna Mitford
Bland de omtalade systrarna Mitford fanns både skickliga författare, fascistsympatisörer, en hertiginna och en kommunist, skriver Moa Ekbom.
På samma sätt avfärdar han väl lättvindigt problemet om hur man förser tänkande maskiner med ”moral”. Han antyder lite vagt att man borde lära dem den gyllne regelns etiska princip, och antar troligen att de med sina intellektuella gåvor kommer att kunna omsätta denna i förnuftigt beteende. Men intelligens och motivation är oberoende faktorer. Bara för att ett system är intelligent behöver det inte uppföra sig moraliskt: hotet är inte ett robotuppror utan artificiella sociopater med godtyckliga mål.
Att förse maskiner med motivationer som gör dem möjliga att leva med är en praktisk säkerhetsåtgärd. Det är också ett förvånansvärt svårt problem. Det räcker inte med enkla regler som Isaac Asimovs robotlagar, eftersom vi sällan kan förutse deras konsekvenser. Våra värderingar är komplexa och sammanbundna med vår förståelse av vad det innebär att vara människa: att förklara dem för en maskin låter sig inte göras. Att programmera en maskin att försöka lära sig förstå vad människor faktiskt vill (eller borde vilja) är minst lika svårt som att programmera intelligens. Vi tror att vi vet vad vi vill ha, men när vi närmar oss problemet visar det sig rymma oanade bråddjup.
Om Kurzweil har rätt om en nära förestående maskinintelligens, är denna frikoppling av motivation från intelligens ett allvarligt hot. Man kan hoppas att ovanstående farhågor är obefogade: kanske visar sig de framgångsrikaste systemen vara de säkraste och vänligaste, och deras snabba tekniska utveckling är ändå kontrollerbar nog för att misstag och oväntade sidoeffekter ska kunna hanteras. Men det är en riskabel strategi att lita på den förhoppningen.
Det är också ett misstag att räkna bort Kurzweil som science fiction och lösa spekulationer. Att kartlägga och simulera hjärnan håller på att segla upp som 2010-talets genomprojekt. EU har finansierat det ambitiösa Human Brain Project, medan USA har det aningen mindre men mer fokuserade Brain-projektet. Andra kommersiella och statliga projekt ligger i startgroparna. Kurzweil har själv börjat samarbeta med Google. Det är mycket möjligt att projekten aldrig kommer att producera några artificiella hjärnor, men osvuret är bäst. Det är troligt att de teknologier som utvecklas för att analysera hjärnor kommer att bli viktiga – inte bara för medicin och forskning, utan för att förstå oss själva. Det är här den verkliga intellektuella sprängkraften finns, vare sig vi innerst inne är prydligt modulära eller köttigt trassliga.