Hoppa till huvudinnehåll
RISE logo

AI-agendan — Intervju Virginia Dignum

"Det är viktigt att systemen utvecklas och används på ett etiskt och lagligt sätt och att deras resultat är gynnsamt för människa och miljö"

 

 

 

Foto: Mattias Pettersson

Virginia Dignum, Umeå Universitet

Representant från arbetsgrupp Allmänhet

Virginia Dignum är professor i artificiell intelligens med inriktning mot social och etisk AI vid Institutionen för datavetenskap vid Umeå universitet och associerad med TU Delft i Nederländerna. Hon är programdirektör för WASP-HS, The Wallenberg AI, Autonomous Systems and Software Program – Humanities and Society. Hon är en deltagare i European Artificial Intelligence Association (EURAI), medlem av Europeiska kommissionens expertgrupp för artificiell intelligens, World Economic Forums Global Artificial Intelligence Council, verkställande kommittén för IEEE Initiative on Ethically Aligned Design och en av grundarna av ALLAI-NL i Nederländerna.

Virginia Dignum är författare till “Responsible Artificial Intelligence: developing and using AI in a responsible way”, publicerad av Springer 2019. Hon har en doktorsexamen i artificiell intelligens 2004 från Utrecht University och hon fick det prestigefyllda Veni-stipendiet av NWO (Nederländska organisationen för vetenskaplig forskning) 2006.

 ”Pålitlig AI i människan tjänst” – vad innebär det?

Min uppfattning är att vi måste kunna lita på de AI-system som vi använder eller som används av andra för att fatta beslut om oss. Detta innebär att själva systemet (mjukvaran och hårdvaran) måste vara tillförlitligt, att organisationerna som utvecklar och distribuerar systemen tar ansvaret för systemen och är ansvariga i fall saker kan gå fel. Men också att systemen utvecklas och används på ett etiskt och lagligt sätt och att deras resultat är gynnsamma för människor och miljö.

På vilket sätt går det att säkerställa att AI-system formas så att de inte strider mot mänskliga värderingar och etiska principer?

Det är svårt, om inte ens omöjligt, att se till att AI-system aldrig strider mot etiska principer och mänskliga värden. Vi människor är inte alltid överens om hur man tolkar dessa värden och beroende på sammanhanget ger vi olika prioriteringar till olika principer och värderingar. Det som är viktigt är att principerna och värderingarna bakom ett AI-system är transparenta och har utformats på ett deltagande och öppet sätt, så att det tar hänsyn till mänsklig variation. Vi kan till exempel definiera ”rättvisa” både som lika tillgång till resurser eller lika tillgång till möjligheter. Beroende på sammanhanget kan det faktiska resultatet bli mycket annorlunda. Det är därför viktigt att ha öppenhet om vilken strategi som används av ett AI-system och varför valet har fallit på just det systemet.

Hur anser du att Sverige skiljer sig från andra länder avseende hur vi arbetar inom ramen för AI?

Jag tror inte att det är väldigt stor skillnad, åtminstone inte med andra europeiska länder. Den svenska metoden är mycket inkluderande genom att ta in ett stort antal grupper och aspekter i deltagandet i AI-agendan. Det återspeglar Sveriges socialdemokratiska principer. Detta är en bra metod.

Vad anser du vara särskilt betydelsefullt i arbetet med Sveriges AI-agenda?

Jag tror att Sveriges socialdemokratiska rötter återspeglas väl i dagordningen. Jag skulle vilja se att vårt arbete kan bära med sig principerna för demokratisk välfärd som är så stark i Sverige in i framtiden på ett sätt som resulterar i AI med fokus på människan.

Länkar

"AI kommer att underlätta våra liv"
Tidningen Akavia Aspekt, ny medlemstidning för fackförbundet Akavia, har intervjuat Virginia i en lång featureartikel om AI i arbetslivet. Artikeln finns på sidan 10-13. 

Mer om Virginia

Publikationer

Forskning

Omnämnanden