Fortsatt debatt om AI

Debatten om Artificiell Intelligens och dess eventuella faror nu och i framtiden fortsätter. Nu får de globala aktörer, däribland Teslas Elon Musk, som nyligen krävde en paus av all AI-utveckling, svar av fem andra forskare.
– Reella risker blandas ihop med rena spekulationer, hävdar dessa.

De tillägger:
– Att kräva en sex månaders paus på AI-utveckling är både missriktat och svårt att genomföra. 

Kring månadsskiftet februari/mars hävdade dessutom en svensk forskargrupp knuten till Uppsala universitet att ”AI-tekniken kan göra oss dummare”. OFFENTLIGA AFFÄRER rapporterade om detta den 2 mars 2023.

– Risken med Chat GPT och motsvarande verktyg är att de komplexa och unikt mänskliga förmågor som har att göra med intellektet, beslutsfattandet, det konstnärliga skapandet och det kritiska tänkandet nu kan hotas på ett mycket mer direkt sätt än tidigare, hävdade de fem.

Liksom de som krävde en sex månaders paus av all AI-forskning så blev även ”varningstexten” stort uppmärksammad i medierna. Undertecknare var Sandra Friberg, docent i civilrätt, lektor på juridiska institutionen, Uppsala Universitet, Lars Karlander, jur.dr i konstitutionell rätt, Yulia Razmetaeva, jur.dr, gästforskare på CRS, Johan Eddebo, fil.dr i religionsfilosofi, samt Oliver Li, fil.dr i religionsfilosofi, präst i Svenska kyrkan.

Risker och spekulationer

Nu hävdar fem andra AI-forskare och menar att brevet som kräver att AI-utvecklingen tar ett halvårs paus, tar upp flera reella risker med teknologin, som spridning av desinformation och effekter på arbetsmarknaden. Tyvärr blandas detta upp med rena spekulationer om framtida AI system som skulle utgöra en katastrofal risk för mänsklighetens överlevnad.

Att lägga fokus på ”existentiell risk” drar uppmärksamhet från de risker som finns här och nu, vilket vi skrivit om tidigare. Det som snarare krävs är en öppen diskussion och samarbete mellan akademi, myndigheter och samhälle, men ”AI-hypen” i det öppna brevet kan i stället leda till att storföretagen ytterligare begränsar möjligheterna till att vetenskapligt granska teknologin. 

De fem som nu svarar på AI-kritiken håller med om att riskerna med AI-teknologin bör diskuteras:

Den nya teknologin, som är central i vår IT-infraskruktur kan inte lämnas enbart i händerna på ett fåtal stora techföretag (BigTech) att exploatera för maximal vinst. Vi har idag en situation där det råder mer eller mindre monopol. Detta har negativa konsekvenser för samhället: det påverkar demokratin negativt och kväver bredden inom innovation. Kraftfull AI-teknik kan ytterligare befästa detta.

Lagstiftning och regleringar är det enda effektiva medel som demokratiska samhällen har för att med säkerhet kunna skydda sig.

Hela artikeln kan läsas här:

De fem undertecknarna av debattartikel ni GP är: Devdatt Dubhashi, Professor, Division of Data Science and AI, Chalmers, Moa Johansson, Docent, Division of Data Science and AI, Chalmers, Shalom Lappin, FBA, MAE, Professor of Natural Language Processing, Queen Mary University of London and Senior Researcher in Computational Linguistics University of Gothenburg, Gerardo Schneider, Professor, Computing Science Division, Gothenburg University. Moshe Y. Vardi, Professor, Rice University, USA; Hon. Doctor University of Gothenburg (2021)