Risker med automatiserade beslut

Det finns stora och uppenbara risker med automatiserat beslutsfattande för myndighetsbeslut som kan få långtgående konsekvenser för den enskilde individen. Det hävdar Heike Erkers och Simon Vinge (bilden förstasidan), Akademikerförbundet SSR.

De pekar på att den offentliga förvaltningen i stat, region och kommun fattar allt fler beslut med algoritmers hjälp.

– Delar av detta är en positiv utveckling med stor potential. Vi vet alla att det finns många rutinartade arbetsuppgifter som kan lyftas bort och administrativa bördor som kan förenklas. Samtidigt är det lika uppenbart att denna utveckling kräver reglering på många håll, framhåller de båda i en debattartikel i GP den 17 januari 2022.

OFFENTLIGA AFFÄRER ställde frågor till Simon Vinge som är chefsekonom på Akademikerförbundet SSR.

Ni skriver: ”I många av Sveriges kommuner experimenteras med automatiserat beslutsfattande och beslutsstöd, ofta med begränsad insyn, otillräcklig dokumentation och oklart rättsläge. Förvaltningen behöver bli mer transparent, inte mindre.” Har utvecklingen med AI och automatiserat beslutsfattande gått för långt, anser du och SSR?

– Vi ser att automatisering och AI har en viktig roll att fylla för att minska rutinartade och adminstrativa uppgifter, och vi ser mycket väl att de kan utformas till goda stöd i våra medlemmars arbete på kommuner, regioner och i myndigheter. Samtidigt konstaterar vi att verkligheten befinner sig en bra bit från denna målbild: de system vi har sett och algoritmer vi försökt ta del av är många gånger dåliga, har bristande insyn, är konstruerade utan medarbetarnas kompetens, utan riskanalys, och är ibland direkt lagstridiga (GDPR, kommunallagen). 

Ni anser att utvecklingen i grunden är positiv och har stor potential, men att det krävs reglering. Vilken typ av reglering är det som ni efterlyser?

– Några exempel är att offentlighetsprincipen ska förtydligas i relation till algoritmer och automatiserade förfarande, att riktlinjer ska sättas upp kring hur sådant förfarande ska redovisas och förklaras på ett begripligt sätt, att medborgare alltid ska ha någon att vända sig till i frågor som rör automatiserat beslutsfattande och att det ska framgå och alltid ha en ansvarig handläggare, att det behövs ett ramverk för AI som inkluderar en svart lista när det inte ska vara tillåtet i dagsläget. 

Ni riktar i första hand kraven mot staten och har under flera år påtalat frågan och de uppenbara risker som ni ser, men utan något svar från regeringen. Hur känns det? 
– Vi ser det som flera förlorade år för Sverige, där både allmänhet och våra medlemmar hade vunnit enormt på tydlig och ändamålsenlig reglering. 

Hoppas ni att få svar nu när ni går ut offentligt i en debattartikel?
– Det gör vi och vi vet att flera av dessa frågor bereds på Regeringskansliet.