Så får vi demokratisk kontroll över AI
Vi erbjuds alla att ta del av AI som konsumenter, men vi har inget inflytande över AI som medborgare. Om AI är så kraftfull som dess företrädare hävdar har vi att göra med ett betydande demokratiskt underskott i en utveckling med potentiellt revolutionerande konsekvenser. Forskarna Eva Erman och Markus Furendal skriver om hur vi kan ta demokratisk kontroll över AI.
Detta är en del av Institutet för framtidsstudiers nyhetsbrev mars 2025. Prenumerera här.
Av: Eva Erman och Markus Furendal
Vi får ständigt höra om den pågående AI-boomen att lever vi i extraordinära tider. AI förväntas revolutionera i princip alla områden. Produktiviteten kommer att öka explosionsartat, sjukdomar kommer att botas och kanske hotas hela människosläktet när AI blir mer intelligent än oss.
Open AI:s vd Sam Altman anspelade på dessa stora ord när han i en artikel i Washington Post menade att kontrollen över AI, i kraft av dess revolutionerande förmågor, måste behållas inom demokratiska stater. Han ramade därmed in frågan om demokratisk AI som om det skulle handla om vilka länder som ligger i framkant i AI-utvecklingen - det demokratiska väst, eller auktoritära stater annorstädes. Han poängterade också att USA och andra demokratier måste leda arbetet med att få på plats internationella institutioner liknande Internationella atomenergiorganet (IAEA) så att “världen formas enligt en demokratisk vision för AI”. Inramningen är “demokratisk AI” mot “auktoritär AI”.
Altman har rätt i att AI bör ses som en internationell angelägenhet. AI drivs av multinationella techbolag som Microsoft, Google och Meta, datan den tränas på består av information från hela världen och konsekvenserna för människor av införandet av AI är kännbara över nationsgränser. En parallell kan dras till utsläpp av växthusgaser vars konsekvenser på liknande sätt är globala.
Men Altmans analys är också förenklad. Han använder kraftfulla termer som demokratisk och auktoritär utan att förklara vad de betyder. Han verkar anta att det enda vi behöver veta för att bestämma om AI är demokratisk eller auktoritär är i vilket land den utvecklats. Detta resonemang håller dock inte. Kina kritiseras ofta för att använda AI för att övervaka och förtrycka minoriteter och oliktänkande, men en förutsättning för detta är att amerikanska chiptillverkare som Nvidia gladeligen gör affärer med dem. Donald Trumps helomvändning gällande amerikanska relationer med det auktoritära Ryssland illustrerar vidare att det inte kan tas för givet att “demokratisk AI”, i meningen att den är utvecklad i USA, inte skulle kunna hamna i händerna på diktatorer som anses stå på god fot med USA.
Altman, och andra, blandar också ofta samman “demokratisk” med inkluderande och tillgänglig. Här kan det handla om att göra AI tillgänglig för fler att använda, eller att öka mångfalden bland AI-utvecklare. Detta lämnar viktiga frågor om vad det är som utvecklas, vem som tjänar på det och vilka konsekvenser tekniken får för samhället, därhän.
Vi föreslår i stället att begreppet “demokratisk AI” bör handla om huruvida AI-utveckling och tillämpning står under demokratisk kontroll - i verklig mening. I dag har enskilda individer i Silicon Valley, riskkapitalister och AI-utvecklare nästan full kontroll över utvecklingen, medan alla vi andra som påverkas av utvecklingen i det närmaste inte har någon kontroll alls.
Detta betyder inte att alla beslut om AI ska fattas av demokratiska kommittéer. Det är inte görbart och skulle säkerligen hämma en ofta positiv teknologisk utveckling. Vad det betyder är snarare att skapa demokratiska processer där de som påverkas av besluten har inflytande i hur besluten tas. Konkret kan detta betyda att vi rör oss bort från dagens situation där regelverk, etiska ramverk, riktlinjer och standarder ofta är av typen “soft law”, det vill säga frivilliga åtaganden och icke-bindade regler med otydlig jurisdiktion, ofta formulerade av AI-aktörer själva. I stället bör vi röra oss mot mer “hard law” - bindande lagar där företag som bryter mot dem drabbas av konsekvenser. Ett exempel är EUs “AI act” som trädde i kraft 1 augusti 2024.
Självreglering i form av “soft law” kan inte leva upp till demokratiska principer av flera skäl. Dels för att de som påverkas av AI, det vill säga det stora flertalet, inte är inbjudna till beslutsfattandet, men också för att själva agendan för beslutsfattandet är på förhand given. Det är inte bara så att demokratiska beslut måste fattas enligt vissa inkluderande former, demokratisk kontroll handlar också om kontroll över vad det ska fattas beslut om, det vill säga den politiska agendan.
Dagens situation kan beskrivas som att vi alla erbjuds att ta del av AI som konsumenter, men att vi inte har något inflytande över AI som medborgare. Om AI är så kraftfull som dess företrädare hävdar har vi att göra med ett betydande demokratiskt underskott i en utveckling med potentiellt revolutionerande konsekvenser. För att åstadkomma demokratisk styrning av AI måste vi hela tiden påminna oss om att vi alla sitter i samma båt. Och trots att det i dag är AI-utvecklarna som ror båten, kan en demokratisk reglering av AI säkerställa att vi alla är med och bestämmer i vilken riktning vi ska.
Denna text bygger på artikeln The Democratic Challenges Facing the Global Governance of Artifical Intelligence, i tidskriften Current History, Volume 124.
Eva Erman och Markus Furendal studerar frågor om AI och demokrati i projektet Automatiserad politisk makt.
