Hoppa till huvudinnehåll
RISE logo

AI ska stoppa spridningen av desinformation

I dagens digitala värld möts vi av tusentals budskap varje dag. Ofta hinner vi inte reflektera över om budskapen kan vara riktiga eller falska och tyvärr florerar det allt mer information i digitala kanaler som är desinformation, propaganda eller har ett polariserat innehåll. Denna information kan vara farlig för vårt samhälle och demokratin. RISE har startat projektet Fact checking AI där artificiell intelligens används för att kontrollera sanningshalten i nyheter och information som vi läser och ser i digitala kanaler.

Dagens digitala kanaler har förändrat hur vi konsumerar och delar information och även öppnat upp för att effektivt och billigt sprida information viralt. Tyvärr har detta också lett till att felaktig information, uttalanden tagna ur sin kontext eller artiklar utan bakomliggande fakta sprids och delas. Desinformation, propaganda eller polariserat innehåll kan påverka länders valresultat och demokrati. Flera västerländska val har omgärdats av faktiska eller beryktade inslag av så kallade fake news eller utländsk hacking och många är idag undrande och oroliga för vilken påverkan detta kan få på vårt samhälle.

RISE projekt Fact checking AI ska bygga system som kan kontrollera sanningshalten i olika påståenden i digitala kanaler. Programvaran ska upptäcka desinformation, verifiera korrekthet och kvantifiera referenskvaliteten för att motverka spridning av falska nyheter.

– Det finns ett nästan oändligt hav av information. Med AI kan en dator korrelera fakta från miljoner källor och räkna ut hur stor sanningshalt det finns i ett påstående. Om vi till exempel läser på nätet att Stalin har mördat fler människor än Hitler och inte vet om detta stämmer eller är ett falskt påstående så kan AI söka igenom referenser, tillförlitliga källor, siffror och så vidare och snabbt förklara om påstående bör vara sant eller falskt, berättar Ather Gattami, Head of Intelligent Dynamical Systems på RISE.


Det skulle krävas miljoner människor för att processa samma mängd information

AI noggrannare än en miljon människor

AI möjliggör att processa miljontals källor oerhört snabbt. Det är ett jobb som en människa aldrig skulle klara av.

– Det skulle krävas miljoner människor för att processa samma mängd information men en dator skulle ändå göra det både fortare och mer noggrant, säger Ather Gattami.

Även video kan sprida desinformation

Även videor på nätet kan vara manipulerade och bestå av falska budskap.

Seeing is believing brukar man ju säga men även att man ser något i ett klipp på nätet så betyder det inte att det inte kan vara ett manipulerat klipp eller taget ur sitt sammanhang. Rörlig bild blir att vanligare i digitala kanaler och rörliga manipulerade klipp blir också vanligare, säger Ather Gattami.

Globalt problem som kräver lokala lösningar

Fact checking AI startade våren 2019 och efter ett halvår har projektgruppen definierat vad programvaran ska göra och satt designen på systemet.

– Grunden är lagd och nu är vi redo för att leta efter fler behovsägare, det vill säga målgrupper med tydliga behov, som vi kan börja bygga systemet för, säger Ather Gattami.

Det är ett stort projekt och i andra länder har liknande projekt också startats. Desinformation som sprids i digitala kanaler är ett globalt problem men det kräver lokala lösningar i och med de språkliga och kulturella skillnaderna.  

– Det här är en stor satsning och vi välkomnar framtida finansiärer att höra av sig för att vara med i utvecklingen, avslutar Ather Gattami.