Det är lätt att bli dystopisk när man tänker på många av de avancerade tekniska verktyg som männi­skan har i sin hand. Fast bilden med handen fungerar väl inte längre? Det är bara bråkdelar av de digitala maskinernas kapacitet som vi har i handen. Det mesta finns därute någonstans, bortom individens händer och kontroll. Kanske är perspektivet istället omvänt, att det är maskinerna som har människan i sin hand? Men eftersom människan skapar maskiner och programvaror så kan man, med handens bild, säga att människan både är användare och den som blir använd. Både skapare och skapad. Både konsument och produkt. I den digitala eran är vi sammanvävda med systemen på ett komplext sätt. Det är inte lätt att säga var gränsen mellan mig själv och de smarta systemen går, om det alls finns eller är önskvärt med en tydlig gräns.

Om man undrar hur människan bör förhålla sig till den digitala sfären så är den första utmaningen att bestämma vilken fråga vi börjar med. Handlar det om hur människan ”behöver bli vuxen de verktyg hon omger sig med”, som Håkan Lindgren menar i en artikel för tre år sedan (SvD 23/8 2021)? Om det är utgångspunkten så blir följdfrågan vilka som avgör vem som är den vuxne i rummet.

Ska det bedömas i förhållande till nyttan, lyckan, njutningen eller andra konsekvenser? Eller ska det bedömas utifrån en eller flera universella principer som maskin- och programutvecklare bör underordna sig tillsammans med användarna, såsom formuleringar ur FN:s allmänna förklaring om de mänskliga rättigheterna? Att vara vuxen de verktyg vi använder kräver en hög grad av visdom (sophia) och empati (empatheia).

Om svaret blir nej, människan i allmänhet är inte vuxen i den meningen, ska vi då som mänsklighet göra allt vi kan för att bromsa den digitala expansionen? I ett upprop i mars förra året uppmanade världsledande AI-utvecklare till just det. De ville sätta framfarten av generativa AI (GPT-4 och dess efterföljare) på paus i ett halvår för att tillsammans diskutera hotande konsekvenser. Nivån på hotet jämställde de med kärnvapenkrig och pandemier. Världsledande AI-utvecklare menar alltså att människan ännu inte är vuxen nog att förstå eller hantera kraften i dagens mest utvecklade AI-system. Kommer vi någonsin att bli det?

Ett annat sätt att förhålla sig till den digitala sfären är att fråga sig vilka mål och medel som är rimliga för att världen ska bli bättre att leva i. Då är det inte vuxenheten som är det centrala utan vilka vi blir i interaktionen med våra smarta maskiner – och vilka som har inflytande över AI som styrmedel. Här kolliderar en stereotyp uppfattning om den moderna västerländska männi­skan som autonom och förnuftig med det faktum att hon är lätt att manipulera, att hon är osjälvständig och påverkas av diverse begär mer än av förnuft. Med sociala medier, digitala spår av transaktioner och rörelsemönster etcetera ger vi upp en del av vårt självbestämmande och vårt ”inre rum” i utbyte mot det digitala universumet som livsstil.

Om vi uppfattar spårning och beteendestyrning som integritetskränkande eller inte, beror på vad vi får ut av transaktionen. Saker eller sammanhang som vi gärna vill ha utifrån en omedelbar behovstillfredsställelse uppfattar vi i allmänhet inte som riskfyllda, även om det hotar livsvärlden på längre sikt – genom urholkning av demokrati, tillit och sanning.

Smarta prylar (Internet of Things) omfattar inte endast funktionerna i våra mobiler och fordon utan även exempelvis smarta leksaker för barn, sexleksaker för vuxna, hjälpredor i hemmet, myndigheters insamling och sortering av data (Big data) och säkerhetsprylar både i hemmen och i de offentliga rummen. Att systemen kommunicerar med varandra är till stor hjälp på både makro- och mikro­nivå, men det kan också användas för djupt destruktiva syften. Så är det förstås med all teknik och tekniken i sig är varken ond eller god, men skillnaden från förr, när systemen inte var smarta, är att effekterna blir monumentalt större.

Så hur ska vi förhålla oss till allt detta, vi som inte är AI-experter? Vilka förmågor och kunskaper har vi att göra val som leder oss mot en bättre värld än den nuvarande? Anta att människan i ytterst liten grad har kontroll över sina egna val och sina känslor. Då kommer hennes upplevda val och emotioner att styras av faktorer som hon inte själv rår över. Anta också att det ligger en bit av sanning i det som psykologiska och sociala experiment om mänskligt beteende som Stanley Milgrams lydnadsexperiment 1963 eller den ifrågasatta Stanfordstudien 1971 visade, nämligen att människor hyfsat enkelt kan manipuleras till att begå grymma handlingar mot varandra. Och extrema grymheter sker ju de facto hela tiden, oavsett resultaten av psykologiska studier. Så dels har vi denna fallenhet, bokstavligen, för grymhet hos människan, dels har vi också förmåga till altruism, empati, vishet och vänskap, för att nämna några av människans potentiella dygder – även under grymma villkor.

Populärt

Hederskulturens medlöpare

Första skottet gick in i pannan, det andra i käken. Hon slapp höra hur fadern upprepade ordet ”hora” när han sköt. Obduktionen visade att den första kulan avslutade Fadime Sahindals 26-åriga liv.

Jenny Sonesson Samhälle 2021 7

Hur våra smarta system utvecklas, används och kontrolleras är angeläget för planetens framtid. Det är en fråga till var och en av oss, till politiker, forskare, ekonomer, religiösa företrädare, journalister med flera: Hur önskar vi att livet på planeten ser ut om fem, tio eller femtio år och vad gör jag och vi för att bidra till att det blir så? Här finns det tyvärr återigen anledning att ansluta till den dystopiska sidan. Jag önskar att jag kunde annat, men manipulering av fakta, spridning av propaganda, triggande av motsättningar, kortsiktiga lösningar och litet tålamod för lyhördhet visar att vi som mänsklighet ännu inte är vuxna den teknik vi använder. Men den finns, är en del av vår livsvärld och den kommer att bli än mer kraftfull.

I livet med maskinerna blir vi till gudar, demoner eller slavar i ett system som styr oss mer än vi styr det.