Hoppa till huvudinnehåll
RISE logo

Tillförlitlig AI: Konsten att få användare att våga lita på tekniken

AI och maskinlärande kan förenkla och förbättra vår vardag på fritiden, på jobbet och i den globala samhällsutvecklingen. Men hur ska vi våga lita på maskinerna?

Precis som i mänskliga relationer tar förtroende, tillit och pålitlighet ofta lång tid att bygga upp – men kan också raseras på några sekunder.

– Tänk dig att du kör en bil på en 70-väg. Plötsligt bromsar fordonet in, utan uppenbar anledning. Du förstår ingenting. Vad hände? Efter en sådan upplevelse av oförklarligt beteende är det lätt att misstro tekniken, säger Cristofer Englund, AI-specialist och enhetschef på på avdelningen Humanised Autonomy på RISE.

Att kunna förklara grunderna för sina beslut är en viktig del i att skapa grundläggande tillit. Så har det alltid varit, i alla relationer – avsett om det rör sig om en chef som tagit beslut om att din avdelning ska läggas ner, eller en partner som oväntat meddelat att hen ska åka bort över helgen. Frågan uppstår: Varför?

Ovisshet och otydlighet skadar tilliten, transparens stärker den.

– Så om bilen låter dig veta att inbromsningen skett på grund av isfläckar på vägen, är det troligare att du känner mer tillit till tekniken och vågar låta bilen ta över mer av körningen.

Det här är vad ”Trustworthy AI” handlar om – "pålitlig och tillförlitlig AI" på svenska. Forskarna har insett att förtroendet för tekniken ofta är lika viktig som tekniken i sig om den ska få fäste och bred användning.

Kommunikationen är en viktig del för tilliten

Tilliten kan skadas på flera sätt

Det finns mycket som kan skada tilliten. Rapporter om hur AI agerat partiskt eller snedvridet förekommer ofta i media. Allt från rekryteringsprocesser som favoriserar män framför kvinnor (Amazon), annonsverktyg som stärker könsstereotyper (Facebook), algoritmer som förutspår att färgade skulle vara i större behov av sjukvård (USA) eller ansiktsigenkänning som felidentifierar asiatiska eller afroamerikaner mellan 10 och 100 gånger oftare än vita.

– En av teknikens utmaningar är att kunna visa vad det är algoritmen ser, det vill säga premisserna för bedömningarna. Idag när jag använder tekniken inom HR för att rekrytera jobbkandidater, eller på banken för att bevilja eller avslå låneansökningar, ser jag bara vad AI:n har kommit fram, inte hur den kom fram till det. Det är rimligt att användare får veta vilka val som gjorts på vägen.

Men då uppstår en svårighet till som påverkar förtroendet för AI:n. Hur ska den där förklarande kommunikationen se ut?

Kommunikationen är viktig för tilliten

– Kommunikationen är en viktig del för tilliten. Men den kommer med utmaningar. Att exempelvis förklara ett juridiskt beslut för en jurist är en sak, att förklara bevekelsegrunderna för samma beslut för gemene man en annan. Kommunikationen måste anpassas efter användaren. Inte bara efter kunskapsnivå, utan även om efter varierande grader av intresse hos mottagarna kommunikationen, och andra personliga preferenser. I en självkörande bil kan kommunikation ske med ljud med olika styrka, med vibrationer i sätet, med visuella markörer och så vidare.

Och för att öka komplexiteten ännu mer; en och samma person kan vilja kommunicera med tekniken på olika sätt i olika situationer. Den ena dagen, eller i en specifik situation, finns både tiden, nyfikenheten och tålamodet, en annan dag eller tillfälle är toleransnivån obefintlig. Bara om tekniken lyckas anpassa sig efter användaren kan relationen bli riktigt bra.

AI som ser sina egna begränsningar

En princip som forskarna pratar om när det gäller tillförlitlig AI är ”operational domain design”. Där tränas tekniken på att se sina egna begränsningar, och att ärligt kunna säga ”det här är en ny situation för mig” .

– Om systemet exempelvis lär sig att köra bilen på sommarväg med fint väder, då vill du också att den känner igen en situation som inte påminner om den. Till exempel om det börjar regna. Då bör användaren uppmärksammas på att systemet inte är förberett för den situationen i stället för att fortsätta som om inget hänt.

Publicerad: 2021-05-19
Cristofer Englund

Kontaktperson

Cristofer Englund

Enhetschef

Läs mer om Cristofer

Kontakta Cristofer

* Obligatoriskt Genom att skicka in formuläret behandlar RISE dina personuppgifter.