Räkna med robotrevolution


Berättelserna om robotar som tar makten över människorna är många. Vissa menar att de bara är science fiction och teknikpessimism, andra att det med dagens snabba utveckling bara är en tidsfråga innan robotrevolutionen äger rum. Kommer artificiell intelligens bli slutet på mänskligheten?

Madeleine Bengtsson har pratat med Olle Häggström, AI-expert och professor i matematisk statistik vid Chalmers. Artikeln är ursprungligen publicerad i Tvärdrag #3 2015. 

Vi känner igen storyn. Den där roboten som skulle hjälpa mänskligheten, som vi haft ett förtroende för, blir plötsligt vår skräckinjagande fiende och motarbetar oss. Det mesta kända exemplet är datorn Hal i Stanley Kubricks ”2001: A Space Odessey” som plötsligt ser människorna som ett hinder i vägen för rymdexpeditionens högre syfte. Hal måste fatta beslut i en avgörande målkonflikt (precis som alla människor och i synnerhet politiker ofta tvingas göra) och väljer bort människan.

Filmen om Hal kom 1968 och sedan dess har utvecklingen gått otroligt snabbt. Programmeringen har på många områden vida överstigit science fiction-författarnas vildaste fantasier. Idag används maskiner och robotar på allt fler områden och de blir allt smartare.

Artificiell intelligens (AI) definieras här som programvara som kan resonera och lära sig nya saker. Det räcker alltså inte att kunna göra en enkel syssla, utan maskinen måste kunna programmera sig själv. Och det är inte nödvändigtvis en robot med klassiskt utseende vi ska föreställa oss; det kan lika gärna vara hela internet som räknas som AI. Utvecklingen av AI går hiskeligt fort eftersom det finns stora summor att såväl tjäna som spara – men är teknikutvecklingen bara av godo?

En som har funderat mycket på detta, och som tillhör en av få kritiska debattörer i Sverige, är Olle Häggström, professor i matematisk statistik vid Chalmers. Han använder sina matematiska kunskaper på större samhällsfrågor, som klimatfrågan och andra existentiella frågor. Frågan om AI passade hans matematiska färdigheter bra plus att frågan är ganska försummad, menar han.

– Diskussionen idag är ofta naiv och idealistisk. Jag kommer inte med några nya insikter, utan jag försöker helt enkelt plocka upp andras idéer och tankar och folkbilda vidare, berättar Olle Häggström.

AI kan sannerligen användas till fantastiska saker. Intelligensen i datorer och program underlättar enormt mycket för oss och endast fantasin sätter gränsen för vilka områden AI kan användas vid. AI utför arbeten på 15 minuter som för människor skulle ta år att göra. Vi slipper tråkiga och tidsödande arbetsuppgifter och på många områden ökar också säkerheten med hjälp av AI.

– Ta en sådan sak som förarlösa bilar. Googles variant har använts i några år nu, utan olyckor. Jag tror att om 20 år kommer det vara förbjudet för oss att köra bil själva, eftersom förarlösa fordon är många gånger säkrare, säger Olle Häggström.

Men förutom allt det storslagna och fantastiska, finns baksidor. Olle Häggström ser tre potentiella hot med AI. För det första: automatiseringen av arbeten. AI kan redan idag utföra arbeten mycket snabbare och effektivare än vad människor kan. Att industriarbetare har blivit ersatta av maskiner är inget nytt, men när även kontorsjobb försvinner och strukturomvandlingen kanske inte kan hålla samma takt som AI-utvecklingen, blir det en stor påfrestning på samhället.

– Finns det en politisk vilja att diskutera dessa frågor, att klara av omställningen? Här och var diskuteras sänkt arbetstid och medborgarlön som svar, men är det allt? Vad är det att vara människa om vi inte längre arbetar i framtiden? Här finns både möjligheter och utmaningar, men frågan diskuteras alldeles för lite, säger Olle Häggström.

För det andra: drönar-AI. Precis som med alla maskiner eller verktyg, kan AI användas för ont och för gott. AI kan hjälpa till vid sjukdomsdiagnosticering och bilkörning, eller vid anfall av städer under krig. Förarlösa drönare som på uppdrag av USA bombar i Mellanöstern har vi hört talas om och med AI kan drönare komma att användas i högre utsträckning. Redan idag arbetar bokförsäljaren Amazon med att ta fram en drönare som ska leverera böcker till konsumenter – vad händer om programmeringen för drönarna hamnar i fel händer och bokleveranserna blir till bomber? Jämfört med exempelvis kärnvapen är AI svårare att begränsa, menar Olle Häggström. Att kärnvapen efter 70 år fortfarande ägs exklusivt av bara ett fåtal stater är ganska unikt, och han menar att vi inte kan vänta oss samma sak inom AI.

– Med AI förskjuts balansen mellan anfallare och försvarare. Och den stora hämmande faktorn mot krig – att en nations unga män offras i strider – försvinner eftersom krig kan föras utan soldater. Vad gör det med terrorbalansen?

Det tredje och sista problemet med AI: kommer intelligensen överhuvudtaget vara kontrollerbar? Vissa forskare menar att den här frågan är onödig, eftersom robotarna aldrig kommer få ett mänskligt medvetande och därmed inte kunna göra något annat än det vi programmerar dem till. Men vad är egentligen ett medvetande? Vad är vilja? De beslut vi som människor fattar, hur ofta är de egentligen fattande utifrån vilja? Snarare är det kanske utifrån en målprioritering? Om en maskin är programmerad för att både göra gem och att inte skada människor, men ställs inför dilemman – hur ska vi försäkra oss om att den smarta maskinen inte väljer att skada oss?

Något som ofta lyfts är behovet av att skapa ramar för AI, typ en värdegrund. Att lära AI mänskliga värderingar, så att robotorna inte begår bestialiska handlingar framöver. Men vilka värderingar ska då gälla? Är det Moderaternas värderingar eller våra? Och om vi mot förmodan lyckas komma överens om värderingar, hur ska vi formulera dem så att en robot förstår? Trots de svåra frågorna, är Olle Häggström ändå optimistisk.

– Det är nu vi har chansen att forma framtiden, bland annat genom politiken bestämma vad som ska gälla. Mer fokus bör ligga på säkerhet och på att hantera de sociala konsekvenserna av AI, säger han.

Så brukar inte forskare säga. Brukligt är att politiker ska hålla tassarna borta från forskning och teknisk utveckling, men Olle Häggström menar att AI inte bara är forskarvärldens ensak.

– Detta är i högsta grad en demokratisk fråga. Vi måste lyfta problemen med AI till en publik diskussion och helt enkelt vara ödmjuka inför svårigheterna mänskligheten ställs inför.

Läs vidare:

Nick Bostrom: Superintelligence (2014)

Olle Häggström, Here Be Dragons: Science, Technology and the Future of Humanity (kommer i januari 2016)

Bloggen Häggström hävdar (http://haggstrom.blogspot.se/)