Styrning halkar efter i AI-satsningar

För att offentliga AI-satsningar ska bli långsiktigt hållbara krävs tydliga ramar, etisk förankring och en helhetssyn på ansvar genom hela AI-livscykeln. Det skriver Therese Dahlstrøm von Scholten, nordisk försäljningsdirektör för offentlig förvaltning på SAS Institute, i denna debattartikel.

Samtidigt som AI öppnar nya möjligheter för effektivare handläggning, smartare planering, automatisering av administrativa processer och bättre beslutsstöd, ökar kraven på styrning, transparens och ansvarsutkrävande.

Therese Dahlstrøm von Scholten.

AI håller snabbt på att bli en naturlig del av offentlig sektors verksamhet. Från handläggning och ärendehantering till planering, analys och operativ uppföljning visar tekniken möjligheter att frigöra resurser, förbättra service och stödja viktiga beslut. Men samtidigt som användningen breddas växer också utmaningarna. Förmågan att styra, säkra och förklara AI-system utvecklas inte i samma takt. Här uppstår ett glapp mellan teknisk utveckling och ansvar.

Enligt IDC Data and AI Impact Report: The Trust Imperative, en rapport framtagen av IDC på uppdrag av SAS Institute, arbetar endast 16 procent av europeiska offentliga organisationer effektivt med att säkerställa tillförlitlig AI. Samtidigt befinner sig 37 procent i en riskzon, där hög tilltro till tekniken kombineras med bristande styrning och otillräckliga skyddsmekanismer.

Det är ett mönster som riskerar att underminera både samhällsnytta och medborgarnas förtroende. När AI får större inflytande över beslut som rör människors vardag räcker det inte att systemen fungerar tekniskt. De måste också vara robusta, rättvisa och möjliga att granska. Det yttersta ansvaret kan aldrig överlåtas till en algoritm.

Transparens måste byggas in från början

Många offentliga organisationer har redan infört AI-assistenter som skriver mötesprotokoll, sammanfattar journaler eller hanterar enklare ärenden. När sådana system används med begränsad mänsklig inblandning ökar kraven på insyn i hur beslut och rekommendationer tas fram.

Det handlar inte bara om att kunna granska resultat i efterhand, utan om att säkerställa att beslutslogiken går att förstå, spåra och förklara. Transparens får inte bli ett tillägg i slutet av ett projekt, utan måste byggas in i modellernas arkitektur från början. För offentlig sektor, där legitimitet och rättssäkerhet är grundläggande, är detta avgörande.

AI ger överblick när resurserna är begränsade

AI kan analysera och sammanställa stora datamängder i realtid. Det gör tekniken värdefull när offentliga resurser måste fördelas snabbt och med precision, både i vardagen och vid extremväder, olyckor eller ökat tryck på sjukvården.

När beslutsfattare behöver överblick över personal, utrustning eller vårdplatser kan AI fungera som ett centralt beslutsstöd. Men det måste vara tydligt vem som ansvarar när prioriteringar påverkas av AI-baserade rekommendationer.

Styrning är inte ett hinder utan en förutsättning

AI har potential att förändra offentlig sektor i grunden. Men för att den potentialen ska bli verklighet krävs rätt förutsättningar. Styrning, transparens och säker hantering av data är inte bromsklossar för utveckling, utan grundläggande byggstenar för att tekniken ska kunna skapa långsiktig samhällsnytta.

Det är först när dessa delar finns på plats som vi fullt ut kan dra nytta av AI:s möjligheter.

Nu behöver kommun- och regionledningar, myndighetschefer och politiskt ansvariga tydligt redovisa hur de säkerställer styrning, transparens och ansvarsutkrävande i sina AI-satsningar, innan tekniken ges ett ännu större inflytande över offentliga beslut.

Therese Dahlstrøm von Scholten, nordisk försäljningsdirektör för offentlig förvaltning på SAS Institute