AI på frammarsch: vad bestämmer hur teknologin sprids?
Visste du att den serie du senast fick rekommenderad för dig på Netflix, din smarta dammsugares städschema och vilka annonser du ser på sociala medier alla är resultatet av artificiell intelligens? Utan att vi märker det har AI redan blivit en tyst men kraftfull aktör i våra liv. Vad styr egentligen hur AI sprids? Vilka konsekvenser får den? Vad bestämmer om vi tar till oss en ny teknik eller inte? Projektet “Ramverk för att förutsäga hur artificiell intelligens sprids” har tagit sig an dessa frågor för att förstå hur teknologin formar vår samtid och framtid.
Pontus Strimling, professor i analytisk sociologi och framtidsorienterad normforskare, ledde projektet och den tvärvetenskapliga teknologen Dr. Emma Engström var en av de deltagande forskarna.
Berätta om projektets övergripande mål.
Pontus: Målet var att undersöka hur AI sprids i samhället och att förutsäga vilka tillämpningar som snabbare skulle bli vanligare och vilka som kunde ta längre tid. Vi ville också förstå vilka faktorer som påverkar spridningen, både de tekniska och sociala aspekterna. Från förståelsen ur ramverket går det att utveckla styrmedel för att hindra skadliga användningar och stödja bättre användningar.
Emma: Vi hade ett brett angreppssätt, vilket gjorde att vi kunde fånga både tekniska detaljer och de större samhälleliga effekterna, som att analysera värderingar och tillämpningar kopplade till AI.
Ni använde en blogg för att kommunicera era resultat. Hur fungerade det?
Emma: Bloggen gav oss möjligheten att snabbt dela våra tankar och resultat utan att vänta på den ofta långsamma akademiska publiceringsprocessen. Vi använde den också för att initiera samarbeten och för att resonera öppet kring våra idéer. Det var ett forum där vi kunde tänka högt.
Pontus: Den blev också ett verktyg för oss att själva reflektera över vad som verkligen var viktigt. Att skriva för bloggen krävde att vi kondenserade våra insikter på det begränsade utrymmet, vilket gjorde vår kommunikation tydligare. Ett exempel är när vi skrev om AlphaGo:s påverkan på spelindustrin. Det väckte stort intresse i vissa delar av världen, som Östasien där spelet är vanligt, vilket ledde till vidare dialoger både inom och utanför projektet.
Emma: Samtidigt var det inte utan utmaningar. Att upprätthålla bloggen blev svårare med tiden när andra uppgifter krävde mer av vår tid. Många forskare känner att bloggande kan bli en extra börda, men det är en kraftfull kanal om den används strategiskt.
Vilka var de största utmaningarna ni stötte på under projektet?
Pontus: Det var otroligt svårt att få tillgång till data. Min tidigare forskningserfarenhet är från moralåsikter, men företag är oftast ovilliga att dela information om sina AI-modeller och målfunktioner. Detta begränsade vår möjlighet att analysera vissa aspekter. Tidigare forskning på området har ofta undersökt vilka användare som tagit till sig tekniken snabbast. Vi fick istället använda alternativa metoder för att mäta egenskaper hos teknologin, som data från App Annie och Google Play, för att undersöka hur appar laddas ner och används.
Emma: Under projektets gång såg vi stora genombrott, som lanseringen av ChatGPT, och ökad reglering i form av AI-förordningen. Det påverkade både forskningen och de frågor vi behövde prioritera. Vi fick använda andra sorters källor än forskningslitteratur; som bloggar och nyhetsmedier, för att följa den snabba utvecklingen. Vi gjorde också undersökningar för att få perspektiv från hur andra discipliner relaterar till AI-fältet, som när vi studerade radiologers praktik och hur de tar till sig teknologin. I det fallet kunde vi använda en specifik fallstudie och göra djupintervjuer med tematisk analys om hur gruppen förhåller sig till teknik då användningen sker i en mer kontrollerad kontext.
Hur speglade ni de positiva och negativa aspekterna av AI:s spridning i era analyser?
Emma: Det är alltid en balansgång. Å ena sidan rymmer AI en enorm potential att effektivisera och förbättra – som i sjukvården, där det kan hjälpa till att identifiera sjukdomar snabbare och mer precist. Å andra sidan finns betydande risker, som integritetsproblem och brist på transparens. Vi försökte alltid lyfta fram båda sidorna.
Pontus: En särskilt intressant insikt var hur AI ofta sprids "osynligt", det vi kallar infusion. Teknologier som djupinlärning integreras i produkter efterhand, utan att konsumenterna aktivt kan fatta beslut om det. Till exempel rekommendationssystemen som introducerades på YouTube eller Spotify. Vi använder dem varje dag utan att alltid förstå hur de påverkar vårt beteende.
Vilka var de mest oväntade resultaten från projektet?
Pontus: För mig var det insikten att pris sällan är en avgörande faktor för spridningen av AI-tillämpningar. Smarta dammsugare och klockor, som är relativt dyra, sprids ändå. Däremot är användarvänlighet en mycket starkare faktor, det var den faktor som spelade absolut störst roll.
Emma: En annan överraskning var hur kraftfullt AI redan påverkar vårt samhälle, ofta utan att vi märker det. Många algoritmiska beslut sker i bakgrunden, med uppdateringar och buggfixar, vilket gör det svårt för användare att förstå eller ifrågasätta dem.
Hur kan ramverk som Digital Services Act (DSA) användas för att hantera AI:s effekter?
Pontus: Det är viktigt att vi har ett ramverk som DSA eftersom det krävs regler för AI, och de flesta är överens om det. Då det finns få konkreta förslag, är vi forskare välkomna till bordet, och vi uppfattar att många aktörer lyssnar på oss. Då alla stora appar har spridits genom infusion, har få tänkt på det, men det ställer andra krav på etik av utvecklarna. DSA kräver att företag delar information om sina algoritmer. Men det är inte helt enkelt, ansvaret har inte prövats i domstol ännu. Infusionen av AI skapar nya utmaningar. Företag som Netflix och Spotify optimerar sina system för sina kostnader, snarare än för användarnas bästa. Det kan vara bra, men transparens här skulle kunna hjälpa forskare att identifiera vad som fungerar bra och vad som inte gör det, särskilt i frågor som desinformation. DSA är ett steg i rätt riktning, men det behöver utvecklas vidare. För att det ska fungera effektivt måste vi också bygga strukturer som gör det möjligt för forskare, journalister och lagstiftare att granska AI- och rekommendationssystem på djupet och förstå hur de påverkar både individer och samhällen.
Hur ser ni på framtiden för AI-forskning och vilken roll som resultaten från ert forskningsprojekt kommer att få?
Pontus: Nästa steg är att fokusera på specifika tillämpningar av AI; till exempel inom offentlig sektor, transport och sjukvård. Det är också viktigt att fortsätta kommunicera resultaten till allmänheten för att minska klyftan mellan forskning och samhälle. Det nya forskningsprojektet “Automatiserad politisk makt” har rötter i våra studier om AI-ramverket. Vi går också vidare med en avsiktsförklaring om centrumbildning hos finansiären Wallenberg AI, Autonomous Systems and Software Program - WASP.
Emma: Det är också intressant att se hur generativ AI, som används för kreativt skapande, börjar skilja sig från andra typer av AI i sitt genomslag och användning. Generativ AI är en mer kreativ och lekfull användning för konst och dikter. Tidigare har frågorna till forskningen varit om AI i allmänhet. Nu utvecklas olika typer av AI, och begreppet delas upp i mer precisa klassificeringar. Jag ser fram emot att tekniken kommer att diskuteras mer för användningar inom områden som precisionsjordbruk, läkemedelsutveckling och optimering för energi- och transportsystem.
Text: Waldemar Ingdahl
