"Sverige måste återta makten över algoritmerna”
Foto: Markus Spiske on Unsplash
"Något är trasigt i den svenska digitaliseringen. Livsavgörande beslut om boende, stöd och vård har närmast rutinartat automatiserats, vilket undergräver offentlighetsprincipen och rättssäkerheten. Hur överklaga ett beslut när man inte förstår hur det har fattats?" Det skriver Maja Fjaestad, före detta statssekreterare och affilierad forskare vid IFFS, Karim Jebari, filosof vid IFFS, med flera på DN debatt.
Forskarna beskriver en utveckling som går snabbt. Ibland för snabbt utan, att konsekvenserna utretts tillräckligt. Digitaliseringen och automatiseringen kan till exempel innebära att data hamnar i andra länder, att arbetsbelastningen för medarbetare på myndigheter blir högre trots att det omvända var syftet, och att beslutens grunder blir omöjliga att förstå för medborgare. Ibland blir det också bara helt fel.
"I Göteborg fick familjer besked om vilken skola deras barn var antagna till. Barnen placerades kors och tvärs över stadens vattendrag med orimligt lång skolväg som resultat. En grupp föräldrar la pussel och såg att 12 000 placeringsbeslut tagits samma dag, och att placeringsbesluten baserats på fågelväg, inte barnens riktiga skolväg runt älven. Det blev uppenbart att en algoritm fattat besluten, och att många av besluten blivit oriktiga. Trots att stadens egna revisorer slog fast att besluten tagits av en algoritm lämnades inte källkoden ut till föräldrarna och majoriteten av besluten korrigeras inte."
I slutändan kan detta innebära eroderat förtroende för samhället, menar debattörerna:
"Det offentliga Sverige lyckas inte kombinera rättssäkerhet, öppenhet och teknikutveckling och då riskerar demokratin att bli en svart låda som ingen litar på."
Läs hela artikeln på DN debatt: Sverige måste återta makten över algoritmerna
