Den offentliga sektorns beslut har långtgående konsekvenser för våra liv, och makten att fatta dessa beslut delegeras i allt högre utsträckning till maskiner. Stora framsteg inom AI-teknologi har fört med sig att politiker och byråkrater världen över börjat hoppas att AI kan effektivisera offentlig sektor och fatta snabbare, mer konsekventa och rättvisa beslut. Bara i EU finns nästan 700 exempel på AI-användning i offentlig sektor och i Sverige har myndigheter nyttjat tekniken i högre utsträckning än den privata sektorn. Vem som ska bli villkorligt frigiven, har rätt till bidrag, och har rätt att korsa en gräns avgörs allt oftare av ett AI-system.
Denna aspekt av samhällets digitalisering har emellertid inte studerats systematiskt, trots att den medför allvarliga risker. I Sverige har företag vunnit upphandlingar genom att felaktigt påstå sig erbjuda AI-tjänster, och automatiska system som av misstag anklagat medborgare för att fuska med bidrag har skapat politiska kriser i USA, Nederländerna och Australien. Samtidigt visar undersökningar att AI-algoritmer sällan är bättre än existerande modeller för att göra förutsägelser om individer. AI-beslutsfattande riskerar dessutom vara
oförenligt med de normativa krav på legitim auktoritet som kännetecknar offentligt beslutsfattande i liberala demokratier.
Syftet med detta sexåriga forskningsprojekt är att skapa en interdisciplinär forskningsmiljö som kan analysera användningen av AI i den offentliga sektorn, hur den påverkar besluten som fattas, samt dess implikationer för demokratisk legitimitet. Sex forskare kommer att använda sig av en bred uppsättning teoretiska ramverk samt metodologiska och normativa tillvägagångssätt i fem delstudier som samverkar och kritiskt granskar detta fenomen. Projektet kommer därmed dels
(1) beskriva hur AI används i offentligt beslutsfattande och under vilka omständigheter som det är demokratiskt legitimt, samt
(2) ge en vetenskaplig grund och praktiskt stöd för hur AI kan användas för offentliga beslut.
