Lanserar modellkort för tillförlitlig AI

Innehållsdeklarationer för AI-modeller möjliggör transparens och öppenhet och synliggör potentiell bias och avvikelser hos modellen över tid. Det framhåller AI-företaget SAS Institute som på tisdagen lanserade nya produkter och tjänster för tillförlitlig AI.

– Våra kunder är entusiastiska över de stora möjligheterna med AI, men många är osäkra på när och hur man bäst använder tekniken. De ställer kloka frågor om ansvarsfull och etisk användning av AI, och vårt mål är att ge dem de verktyg och den vägledning de behöver i sitt arbete, säger Josefin Rosén, specialist på tillförlitlig och etisk användning av AI på SAS Institute, och fortsätter:

– Det gör vi med stöd av decenniers erfarenhet av att använda AI på ett sätt som främjar lönsamhet och minimerar risken att någon eller något far illa.

Josefin Rosén, specialist på tillförlitlig och etisk
användning av AI.

Vid en internationell presentation via Teams förklarade Josefin Rosén de principer som styr bolagets AI- och teknikarbete. Hon menar att mediebilden av AI tyvärr ofta är mörk och målar ut allt det som kan gå snett. Därför behöver AI bli tillförlitligt och då räcker inte teknik utan det behövs människor som agerar och styr. För att AI ska bli säkert på alla plan är hanteringen av data A och O. Matar man in skräp så kommer det ut skräp. Det finns ingen bra AI utan goda data. Att kunna spåra data och veta varifrån den kommer, samt en transparent beslutsprocess och uppföljning av modellerna över tid, blir också en avgörande fråga för att göra AI tillförlitligt.

En medarbetare gav också bakgrunden till EU:s GDPR-reglemente och de kommande regler som är avsedda att reglera Artificiell Intelligens framöver. EU reglerar AI utifrån en rad områden; konkurrens, konsumentskydd och strategisk ekonomisk tillväxt. De etiska frågorna och skyddet av individen spelar stor roll. Hanteringen av data hanteras och kvaliteten på data är ytterligare viktiga frågor som EU vill greppa.

Även globala aktörer håller ögonen på AI; OECD, Unesco, WHO, G7, Europarådet samt FN.

Modellkorten släpps sommaren 2024 och kan beskrivas som ”innehållsdeklarationer för AI-modeller”, där informationen hämtas direkt från SAS Institutes lösningar. Användarna slipper det tidskrävande arbetet med att samla in och sammanställa informationen. SAS Viya kan även hantera öppna källkodsmodeller och modellkorten kommer även att kunna skapas för dessa. Till en början kommer funktionen att vara tillgänglig för modeller skapade med Python.

Ramverk för AI-styrning

För att hjälpa kunder som alltmer funderar över hur AI kan användas på ett produktivt och säkert sätt, lanserar SAS Institute tjänsten AI Governance Advisory. Tjänsten är avsedd att hjälpa kunder att hantera och undvika AI-relaterade risker samt stötta dem i att utveckla ramverk för AI-styrning.

Erfarenheter från pilotprojekt där tjänsten använts visar på följande fördelar:

Förstärkt produktiviteten genom tillförlitlig och transparent beslutsprocess.
Förtroendet ökar tack vare förbättrad kontroll och ansvarstagande över dataanvändningen.
Förmågan att rekrytera och behålla kompetent personal som kräver ett ansvarsfullt arbetssätt stärks.
Konkurrensfördelar och ökad marknadsflexibilitet uppnås genom att underlätta anpassning till framtida regelefterlevnad.
Varumärket stärks genom att belysa den potentiella påverkan av AI på samhälle och miljö.

Lanseringen genomfördes på SAS Innovate, ett evenemang för företagsledare, tekniska användare och partner till SAS Institute. OFFENTLIGA AFFÄRER erbjöds möjlighet att följa evenemanget som förmedlades via Teams. De senaste nyheterna från SAS Institute nås genom att följa företaget på Linkedin.