Jakten på det intelligenta beslutet

När beslut automatiseras förändras både praktik och maktrelationer på arbetsmarknaden, och den som väljer ut den artificiella intelligensens träningsdata får ett enormt inflytande. Med hjälp av AI kommer människan kunna fatta välgrundade beslut innan saker och ting har inträffat, men till priset av allt högre risker. Framtider lät tre AI-forskare spekulera utifrån det vi idag vet om den maskinella kunskapens system.

Den här texten ingår i nyhetsbrevet Framtider. Får du inte Framtider i din mejl? Prenumerera här så får du kommande nyhetsbrev och information om seminarier och evenemang. Nyfiken på tidigare nummer av Framtider? Du hittar dem i vårt arkiv.

På socialförvaltningen i Uddevalla kommun finns sedan ett år tillbaka en ny medarbetare. Han heter Robin och några av de arbetsuppgifter som han tagit över är registreringen av frånvaro av äldre som ligger på sjukhus - något som påverkar både hemtjänsten och äldreboende, administrationen av färdiglagad mat inom hemtjänsten samt kommunens vikariehantering. Varje år ska 110 000 frånvarotillfällen tillsättas.

Robin är ett datasystem – det är utvecklingschef Roger Granat som döpt systemet - och med dess hjälp har kommunen sparat fem miljoner kronor. Anställda som tidigare skötte Robins jobb har fått nya arbetsuppgifter eller tagit vakanta tjänster som kommunen nu inte behöver nyrekrytera till. Uddevalla är inte ensamma om att automatisera kommunjobb, utvecklingen är densamma i hela Sverige.

Nästa steg för Roger Granat är att införa AI-styrda system. Han hoppas till exempel att äldres trygghetslarm inom några år ska innehålla AI. Då skulle sensorer på larmen både larma och förmedla en utförlig beskrivning av vad som hänt.

Det nya med AI är dess förmåga att se samband, säger Fredrik Heintz som är AI-forskare vid Linköpings universitet och bland annat varit med att ta fram de etiska riktlinjerna för hur AI:s möjligheter ska hanteras inom EU.

– Det som finns idag, men som inte funnits tidigare, är fungerande maskininlärningssystem som kan se mönster i data som vi inte kan upptäcka själva. Det betyder att vi kan få fram lösningar genom att samla ihop relevanta exempel och sedan låta datorn själv hitta sammanhang. Det är väldigt användbart i många tillämpningar, framför allt när det gäller att förstå bilder, text och ljud. Redan idag används maskininlärning till exempel i röststyrda program och i översättningsprogram.

"Vill vi ha objektiva beslut som är exakt lika vid varje tillfälle, då finns det inget bättre än att låta en dator ta hand om den saken."

Hans bedömning är att övergången till AI sker succesivt. Den börjar i de delar som Robin redan sköter:  regelstyrda beslut där arbetsuppgifterna i hög grad består av att fylla i formulär rätt.  

– Sådant kan likaväl en dator göra. Vill vi ha objektiva beslut som är exakt lika vid varje tillfälle, då finns det inget bättre än att låta en dator ta hand om den saken.

Dessutom kan till exempel lärare och sjuksköterskor slippa administration och istället få ägna sig åt undervisning och vård, menar Fredrik Heintz.

– Vi ser ju att byråkratin och den administrativa bördan ökar utan att motsvarande resurser skjuts till i verksamheterna. Att ta hjälp av AI kan vara ett sätt att återta tid till kärnverksamheterna.

Nej, det kommer sannolikt inte att bli någon drastisk förändring när AI införs. Pontus Strimling, som forskar om AI:s samhällseffekter vid Institutet för Framtidsstudier, säger att i ett första skede kommer vi knappt att märka att tekniken ändrats.

Början på ett skifte

Precis som Fredrik Heintz säger han att de beslut som är lätta för AI att ta, där har vi redan i hög grad lämnat över besluten till datasystem som inte baseras på AI.

– Om jag går till banken för att ansöka om ett lån knappas mina uppgifter in i ett system som räknar ut om jag ska få låna eller inte. Men istället för att det finns fasta regler skulle AI:n kunna avgöra hur stor chansen är att jag kan klara amorteringarna. Men för de som jobbar på banken är det ungefär likadant som tidigare. De har ett system som de matar in information i och får rekommendationer av.

Digitaliseringen är början på ett teknikskifte som vi nu är mitt i. Det är Danica Kragic-Jensfelts beskrivning av var utvecklingen befinner sig. Hon är professor i datalogi vid KTH och en av Sveriges främsta robotforskare. Hon säger att med digitaliseringen samlas stora mängder information i databaser, nästa steg är att AI kan dra slutsatser av informationen.

– AI gör att vi kan ta beslut som baseras på ännu mer fakta. AI kan se relationer mellan data på ett sätt som människor inte har förmåga till. Det gör att vi kommer att få möjlighet att ta välgrundade beslut innan saker och ting inträffat.

Hon talar om prevention och att AI:n kan göra prognoser i en omfattning som en mänsklig hjärna aldrig skulle vara kapabel till. Som de sammanlagda samhällseffekterna av en persons klädkonsumtion eller risken för att drabbas av en viss sjukdom.

– AI ger möjlighet att visualisera utfallet av olika val och därmed uppstår möjligheter att verka förebyggande på ett helt annat sätt än idag.

Men de AI-drivna robotarna kommer låta vänta på sig. De är helt enkelt för svåra att bygga.

– Tro mig, jag har försökt, säger hon.

Förhoppningen att ge vårdpersonalen en evigt tålmodig robotkollega i hemtjänsten eller på demensboendet, som ibland framförts som en möjlighet att möta vårdbehov i länder med åldrande befolkning, är mest science fiction, enlig Danica Kragic-Jensfelt.

– Det kommer inte att hända inom de närmaste 20 åren – om det alls händer. Till exempel är rörelserna hos äldre subtila och svåra att läsa av. Talet är också ett problem, äldre pratar långsammare och de kan ha tappat talet.

Det robotar är bäst på är att flytta saker. De kan hämta sängkläder, komma med mat och bära sådant som är tungt. Men allt som människor använder händer, armar och ögon till, som att ta bort sängkläder, är nästan omöjligt för en robot. 

– Jag tycker att det vore fantastiskt om robotar kunde ta över uppgifter i hemtjänsten för så hemska saker som människor kan göra mot andra människor det kommer aldrig robotar att göra. Men jag tror inte på det för det är ett arbete som innehåller så många olika typer av moment. Däremot kan AI enkelt hitta optimala lösningar för att matcha vem som ska jobba med vilken brukare för att på så sätt sammanföra personer som passar ihop.

– Det jag vill säga, tillägger hon, är att AI inte kan ersätta mänskliga beslut men förhöja och förbättra människors förmåga att ta beslut.

Att AI så småningom kan fungera som en digital resurs som gör oss mer kompetenta, det tror också Fredrik Heintz.

– Det finns en utmaning på dagens arbetsmarknad att fler och fler arbeten blir alltmer avancerade. Den trenden kan delvis mildras av att man använder AI-baserade hjälpmedel som ger möjlighet att utföra ett jobb som man annars inte skulle klara.

Han tar en undersköterska som exempel. Undersköterskor får i många fall inte dela ut medicin men genom att rådfråga en AI om rätt dos kompletteras sköterskans kompetens och därmed skulle han eller hon kunna bli betrodd att utföra svårare arbetsuppgifter.   

AI skulle alltså kunna göra oss lite smartare. Lite kunnigare och definitivt effektivare.

Men Pontus Strimling framhåller att det finns ett stort problem som sällan tas upp och det är att även om AI:n tar rätt beslut lika ofta som människor så är de felbeslut den tar av en helt annan sort.

Nödvändigt analysera beslut för beslut

Han berättar om den första dödsolyckan med en bil med AI- teknologi. I Florida 2016 får en förare som kör sin Tesla ett oväntat möte. Teslan körs på autopilot vilket förenklat innebär att bilen själv kan hålla avstånd och bromsa. En traktor med släp svänger ut från vänster men varken föraren av Teslan eller autopiloten upptäcker traktorn. Istället fortsätter bilen rakt under det höga släpet. Föraren avlider omedelbart.

– Olyckan visade sig bero på att molnen speglades i traktorsläpets blanka sida och då läste AI:n släpet som om den var ett moln och körde helt enkelt bara rätt på.

Poängen med historien, säger Pontus Strimling är att den visar att det är nödvändigt att analysera beslut för beslut för att se vad som passar AI-teknologi. Det man behöver göra är att inte bara att undersöka vad som blir rätt utan vad som kan bli fel och hur farliga de felen är.

– En lösning är att minska antalet beslut som en AI står inför även om den möjligheten inte finns för självkörande bilar.

Han tillägger att egentligen hade det varit effektivare att satsa de stora investeringar som gjorts i självkörande bilar, på självkörande tåg eller tunnelbana istället. De går ju redan på räls och besluten blir därför få. En annan tillämpning kan vara vid medicinska kontroller som syftar till att sortera ut för vidare undersökning. Då finns det bara två alternativ att välja mellan.

– Man kan också bestämma hur generös AI:n ska vara. Den går att ställa så att den gör fler fel av typen att några fler kallas till ett extra läkarbesök. Ett fel som inte får allvarliga konsekvenser.

Men vem bestämmer när beslutsprocesserna inte styrs av tydliga befattningar? När inte banktjänstemannen avgör storleken på lånet utan datorsystemen. Eller om inte socialsekreterare bestämmer om socialbidrag ska beviljas – något som idag inte är tillåtet att automatisera men som SKL vill ändra på.

Pontus Strimling pekar på att när besluten automatiserats har de personer som utvecklat systemet den yttersta makten.

– AI bygger på att den tränas på stora datamängder och instrueras i att lära sig att utföra en särskild uppgift. Det är grundläggande för de svar som AI:n kommer att ge. Den person som väljer ut AI:ns träningsdata och utformar uppgiften, bestämmer därför jättemycket.

En position som är osynlig och kanske till och med bortglömd, säger han. I många fall överlåts på programmeraren att bestämma AI:ns målfunktioner. Och man tänker inte ens på att det är en nyckelposition.

På socialförvaltningen i Uddevalla får tjänstemännen lagom till jul en digital assistent. Förhoppningen är att den till exempel kan sköta journalskrivande och fakturahantering vid enklare ärenden på vårdcentralen. Roger Granat hoppas för egen del få hjälp att söka på intranätet. Istället för att för hand leta igenom hundratals dokument kan den digitala hjälpredan med bara ett kommando leverera vad han söker.

För sjuksköterskan kan det innebära att hon hinner med tre patienter istället för en, säger Roger Granat. Men själv vet han inte vad han ska göra med tiden som blir över. Kanske undersöka hur nästa steg i automatiseringen kan realiseras. 

Nya jobb skapas

Trots de rationaliseringar som uppstår när AI börjar användas i stor skala tror ingen av forskarna som medverkar i den här artikeln att massarbetslöshet är resultatet. Nya jobb skapas istället för de som tekniken tar över och mer tid kan frigöras för sådant som inte kan göras av datorer, som vård och omsorg. Men i den utvecklingen finns vinnare och förlorare, säger Danica Kragic-Jensfelt. På sikt kan omställningen bli radikal och hon ser förändringar som utmanar hela samhället.

– De som har jobb, de som har det bra, de som har tillgång till utbildning, de kommer att få det ännu bättre. Men de som inte är inkluderade, de som inte har hunnit omskola sig, de kommer att få det sämre. Det finns helt klart en risk att de klyftor som växer i samhället idag blir ännu större.

Hon menar att AI kommer att föra med sig en kedja av konsekvenser som återverkar på flera samhällsnivåer. Om företag investerar i teknik istället för mänsklig arbetskraft vad händer då med skattesystemet? Behöver skatt omfördelas från skatt på arbetskraft till skatt på teknologi? Om vi kan förutse sjukdomar kan vi då undvika dem med hjälp av förändrad livsstil? Och i så fall, vad händer med läkemedelsindustrin? Om människor som idag saknar rätt utbildning slås ut från arbetsmarknaden, vad sker med försörjningssystemen?

– Men diskuterar vi det här?  frågar hon retoriskt och svarar själv: nej inte alls i den utsträckning som vi behöver.

Men det finns fortfarande utrymme att ta kommandot över utvecklingen. Trots allt är hon optimistisk.

– Om vi får ihop skatter och välfärd på ett sätt så att människor inte blir missnöjda, då hoppas jag verkligen att vi jobbar mindre. Att vi får sex timmars arbetsdag, att vi spenderar mer tid tillsammans med våra barn, vilket i sin tur kan göra att förskolan inte behövs på samma sätt. Att vi människor har mer tid för varandra. Som i sin tur kanske kan leda till att vi inte behöver så mycket antidepressiv medicin. Då kan tekniken bli en kraft som underlättar för oss.

Fredrik Heintz säger att i dag är det de företag som har stora resurser i form av tekniskt kunnande och digital infrastruktur som är vinnare.

"Jag tror att det finns fördelar och nackdelar med att fatta beslut i AI men det är bara nackdelar med att vi i den offentliga debatten så lite diskuterar när vi vill och när vi inte vill att AI tar beslut."

– För de företag som redan har stora mängder information och beräkningsresurser som en del av en digital tjänst är steget litet till att börja använda AI-tekniker för att förbättra tjänsten och utöka den med nya funktioner. Google, Amazon och Spotify är alla exempel på företag som gör så.

Och i den digitalt drivna ekonomin är trenden att deras inflytande centraliseras och ökar. Vinnaren tar allt, som han uttrycker det.

– Det kommer att göras produktivitetsvinster och i grund och botten handlar det om hur de vinsterna ska fördelas. Om de kan komma alla till godo är det världens möjlighet. Till exempel kan vi arbeta mindre. Idag tänker många att syftet med samhället är att jobba. Jag skulle mycket väl kunna tänka mig att det är tvärtom: att meningen med samhället är att befria oss från arbete.

AI kommer snart att dominera våra liv på samma sätt som internet gör idag, förutspår Pontus Strimling. Därför behöver vi redan nu tänka på frågor som rör beslut, inflytande och makt. För när AI är en naturlig del av vardagen är det svårt att gå tillbaka och rätta till de fel som gjordes när systemen introducerades. Precis som Danica Kragic-Jensfelt efterlyser han mer debatt om de förändringar som är i antågande.

– Jag tror att det finns fördelar och nackdelar med att fatta beslut i AI men det är bara nackdelar med att vi i den offentliga debatten så lite diskuterar när vi vill och när vi inte vill att AI tar beslut. Nu finns en känsla av att det här är en teknologi som bara kommer och vi kan inte påverka resultatet. Men vi kan i allra högsta grad bestämma hur teknologin ska användas. Men då måste vi formulera det, säger Pontus Strimling.

Lotta Nylander