Myndigheter satsar på etisk AI

Skatteverket och Arbetsförmedlingen skalar upp etisk AI-governance med ny svensk plattform.
– Det går inte att överlämna till IT-avdelningen att ta ansvar för och kontrollera hela verksamhetens användning av AI, menar digitalseringsexperten Anna Felländer som skapat den plattform som de båda myndigheterna nu ska använda. OFFENTLIGA AFFÄRER ställde frågor till henne.

När AI blir en del av kärnverksamheten öppnas dörren för nya verksamhetsrisker, som diskriminering och social exkludering, något som lett till att EU planerar ny lagstiftning. Nu har Skatteverket och Arbetsförmedlingen valt att använda en ny svensk plattform för att kunna möta dessa utmaningar i sina organisationer.

– Som myndighet har vi högt satta standarder att förhålla oss till och har inte råd med någon form av etisk riskexponering i våra AI-projekt. anch.AI är en pålitlig partner sedan tre år som stöttar oss med att uppnå etisk AI genom transparens och anpassning i hela vår organisation, säger Göran Sundin, AI-strateg på Skatteverket.  

Komplett plattform 
Digitalseringsexperten Anna Felländer skapade först anch.ai som en tankesmedja och konsultverksamhet för etisk AI och har nu utvecklat företaget till en komplett plattform för organisationers styrning, samordning, samarbete runt och rapportering av datadrivna tjänster och AI.

– IT-, juridik- och affärsavdelningen måste samarbeta på ett helt nytt sätt för att säkerställa utvecklingen runt AI inom organisationen. Plattformen vi lanserar idag är baserad på ett ramverk som utgår från mångårig forskning och fokuserar på både riskeliminering och att förmågan att snabbare utveckla tillitsfull AI, förklarar Anna Felländer. 

Ständigt uppdaterat ramverk
Ethical AI Governance Platform hjälper organisationen att förstå och rapportera sin användning av AI utifrån tre perspektiv – det tekniska, det legala och det affärsmässiga. Anna Felländer menar att plattformens värde ligger i att få ett ständigt uppdaterat ramverk för etisk AI. Uppdateringar sker i takt med att nya efterlevnads- och regleringsåtgärder kommer. 

– Den kommande EU-förordningen om AI kräver tvärfunktionell styrning av AI. Därför är anch.AI en avgörande partner för oss att förbereda och granska vår AI, säger Beatrice Sablone, digital chef på Arbetsförmedlingen.  

Här följer intervjun med Anna Felländer.

Du menar (enligt pressmeddelandet) att det inte går att överlämna till IT-avdelningen att ta ansvar för och kontrollera hela verksamhetens användning av AI. Är det vanligt att så sker i svensk offentlig sektor, enligt dig?

– Liksom i privat sektor saknas organisationsstrukturer för att kontrollera för AI risker. Både när det gäller regelefterlevnad och efterlevnad av en organisations värderingar och i den offentliga sektorn – den statliga värdegrunden. 

– Kritiska affärsbeslut och etiska avvägningar behöver visualiseras, diskuteras och alieneras överenskommas mellan IT, rättsavdelningen och verksamheten. 

Plattformen hjälper organisationen att förstå och rapportera sin användning av AI utifrån tre perspektiv – det tekniska, det legala och det affärsmässiga. Du menar att plattformens värde ligger i att få ett ständigt uppdaterat ramverk för etisk AI och att uppdateringar sker i takt med att nya efterlevnads- och regleringsåtgärder kommer. Det finns alltså en förväntan om att regelverket kommer att öka på området?

– EU kommisionens förslag kring en AI reglering implementeras 2024. Det innebär att många AI-applikationer i offentlig sektor, bland andra, klassas som hög risk AI. Det innebär i sin tur omfattande rapportering och efterlevnad av till exempel förklarbarhet, transparens och styrning och monitorering av AI, över hela livscykeln. Sanktionerna är i linje med de för brott mot GDPR. 

– Det är hög tid att agera nu för att skapa styrningsprocesser kring regelefterlevnad. 

Vad vill du säga i övrigt – framför allt gällande aktörer i offentlig sektor – om problematiken kring att ha koll på sitt IT-användande utifrån en etisk aspekt?

– Offentlig sektor behöver hålla den högsta standarden för att undvika oavsiktlig diskriminering, integritetskränkande och social exkludering. Partiskhet i data behöver filtreras, kodare behöver alienera beslut och avvägningar med rättsavdelningen och verksamheten, och Rättsavdelningen och verksamheten behöver förstå hur de kan kontrollerar för att lagar och etiska principer efterlevs i kod, data hantering, validering.  Det är även av kritisk betydelse att IT förstår slutanvändaren och dess olika kontexter, med de risker som finns av överanvändning och missbruk av data och Ai lösningen.

– AI är självlärande och självskalande och utan ett etiskt filter kan etiska risker och regelbrott uppstå utan kontroll. Det är hög tid för offentlig sektor att kontrollera för etiska risker i AI lösningar eftersom offentlig sektor har allt att vinna på, tillsammans med oss medborgare, att omfamna värdet av AI. 

– För att vara beredda inför 2024 så måste det förberedande arbetet budgeteras redan nu så att det finns med i 2023 års budget. Annars står många organisationer inom offentlig sektor inför samma situation som när GDPR infördes, massor att göra men ingen budget.  

Om anch.AI 
anch.AI grundades 2018 av Anna Felländer, en av Sveriges ledande experter på hur digitaliseringen påverkar organisationer, samhälle och ekonomi. anch.AI är en plattform som ger organisationer förmåga att skala upp och säkerställa sin etiska styrning av AI och göra den förenlig med de kommande EU-reglerna för AI. Användare av plattformen är globala läkemedels-, detaljhandels- och telekommunikationsföretag samt nationella myndigheter över hela Norden. Företaget har säkrat 2,1 miljoner US dollar i startfinansiering. Huvudkontoret finns i Stockholm. Läs mer på: https://anch.ai