Qué futuro tiene el futuro? El País rapporterar om vår AI-forskning

"Vi lever i en oförutsägbar tid, berättar de ledande experterna inom artificiell intelligens. De har inga svar och vanliga medborgare är inte ens kapabla att ställa de relevanta frågorna. Vi reste till Institutet för framtidsstudier i Stockholm på jakt efter lite ljus."

Så börjar ett flera sidor långt reportage i den populära helgbilagan till Spaniens största morgontidning El País. I artikeln uttalar sig fem av de forskare som idag intresserar sig för artificiell intelligens på Institutet för framtidsstudier; dess olika varianter, deras spridning, och deras betydelse för demokrati, diskriminering, arbetsmarknad och existens. 

Gustaf Arrhenius, vd och professor i praktisk filosofi, pekar i reportaget på att vi behöver ha två tidslinjer i huvudet samtidigt när vi pratar om riskerna med AI. Det handlar dels om de områden där AI redan används och som kan utgöra problem för den personliga integriteten, skapa falsk information, utöka övervakningen i samhället eller orsaka felaktigheter i de beslutsprocesser som sker på våra myndigheter. Längs en betydligt längre tidslinje handlar det om superintelligenta AI:s påverkan på människans existens. 

– Personligen är jag mindre bekymrad över vad maskiner kan komma att göra på egen hand, än över vad människor kan tänkas använda dem till, säger Gustaf Arrhenius.

Också filosofen Karim Jebari pekar på att det är bra att skilja mellan de två typerna av AI - den svagare, mer specialiserade varianten som redan används, och den starkare, generella AI som inte existerar ännu. 

– De problem dessa olika AI kan orsaka skiljer sig åt, men de är båda relevanta att studera, säger Karim Jebari.

Att diskussionen om reglering kommer nu när AI redan används är inte konstigt, kanske tvärtom nödvändigt.

– Lagstiftare är av naturen långsamma medan utvecklingen av nya teknologier går fortare och fortare, säger ekonomen och normforskaren Pontus Strimling. Strimling anser att det kan vara en bra idé att pausa utvecklingen av så kallade LLM, large languange models som ChatGPT. - Jag tror det är en bra idé, inte för att jag oroar mig för människans existens, utan för att det skulle ge oss en känsla av kontroll. Vi tenderar att uppleva att teknologier är något som händer oss, istället för något vi skapar; vi glömmer att vi faktiskt redan äger kontrollen.

Ett område där den första typen av AI redan används är i samband med rekrytering av personal och sociologen Moa Bursell har tittat på hur detta påverkar tendenserna till diskriminering. I ett pågående projekt har hon kunnat konstatera att användningen av AI i ett företag ökade diskrimineringen.

– Men det var inte algoritmens fel!, säger Moa Bursell. AI gjorde tvärtom ett välbalanserat urval, men när cheferna sedan skulle gå vidare blev resultatet mer diskriminerande än när cheferna bestämde över hela processen, utan AI. – Problemet verkade istället ligga i interaktionen mellan människa och maskin, säger Bursell.

Att använda AI i beslutsprocesser har redan seglat upp som ett potentiellt demokratiskt problem eftersom en AI inte kan motivera sina beslut - maskinen blir en "black box" som därför blir svår att ifrågasätta. Så är det bra att låta AI fatta beslut bara för att de gör det effektivt?

– I en demokrati finns det krav på att beslut ska kunna motiveras inför folket. Folket har en rätt att veta varför de nekats ett tillstånd eller bidrag, säger statsvetaren Ludvig Beckman. – Problemet är alltså inte att AI skulle fatta dåliga beslut, utan snarare att det handlar om system som är självlärande på ett sätt som gör besluten icke-transparenta till och med för dem som programmerar AI:n.

AI har potential att åstadkomma radikala förändringar i våra liv på sikt, men redan nu kan man ställa viktiga frågor om hur. För har vi ens möjligheten att säga nej?

– Var finns valfriheten? frågar Pontus Strimling. Och var finns mångfalden när de som utvecklar den här teknologin är en väldigt homogen grupp människor - framför allt utvecklare i Silicon Valley - som utan att fråga oss andra fattar beslut om sådant vi alla kommer att använda dagligen imorgon?

Vilka dessa utvecklare är har Pontus tittat närmare på och resultaten kommer att publiceras i en nära framtid.

Hela artikeln finns utöver i den tryckta tidningen även bakom betalvägg på El País webbplats med rubriken: "Preguntas muy humanas sobre la inteligencia artificial", skriven av Patricia Gosálvez.