Framtidens AI – en balansgång mellan teknik och etik

Artificiell intelligens, AI, blir en allt större del av våra liv. Professor Virginia Dignum vid Umeå universitet forskar om AI:s påverkan på en samhällelig, etisk och rättslig nivå. 

Virginia Dignum är en av de ledande forskarna i världen inom ett fält som under de senaste åren tagit plats på listan över de allra största och viktigaste globala framtidsfrågorna.

Nya tillämpningar av AI innebär både möjlighet och risker. När system som bygger på artificiell intelligens fattar beslut som direkt påverkar användare och samhällen väcks frågor om dess sociala, ekonomiska, politiska och etiska inverkan. Kan maskiner fatta moraliska beslut och hantera moraliska dilemman? Vilka etiska principer borde inbegripas i utvecklingen av AI-system?

Verktyg som ser till att etiska principer följs

I sin forskning undersöker Virginia Dignum hur AI-system kan utvecklas för att leva upp till det sociala ansvarstagandet, så att beslut och resultat är pålitliga och relevanta. Det innebär att utveckla teorier, modeller och verktyg som kan stötta utvecklare att kontrollera systembeteenden; att mäta vilken den sociala effekten blir, och att verifiera att beteenden följer en rad etiska principer.

Virginia Dignum deltar aktivt i flera nationella och internationella initiativ om riktlinjer för AI-forskning och AI-tillämpningar. Sedan 2023 är hon medlem i Förenta nationernas expertorgan för AI som fungerar rådgivande kring styrning av AI globalt. 

– Målet är att folkvalda och myndigheter ska förstå sin roll och sitt ansvar för hur AI implementeras. Vi behöver säkerställa att de strategier för AI som tas fram verkligen är i linje med visionen för socialt ansvarstagande AI, säger hon.