Gå direkt till innehåll

Kan bevis från datacentret göra det lättare att lita på AI-tjänster?

AI-användare vill veta hur deras känsliga uppgifter hanteras. Leverantören vill skydda sin modell och bevara företagshemligheter. Går det att bevisa att det som leverantören säger att deras AI gör, faktiskt stämmer? Det undersöker RISE i forskningen om verifierbar AI.

Tillit och förtroende för AI är en brännhet fråga. Å ena sidan ökar användningen av generativ AI snabbt i samhället. Å andra sidan växer också oron och skepsisen, visar forskning från Göteborgs universitet. Hela 62 procent av svenskarna ser AI som en risk snarare än en möjlighet, och 54 procent betraktar tekniken som ett hot mot mänskligheten.

En central del av tillitsfrågan handlar om vilken insyn vi har när vi använder AI. I dag är den ytterst begränsad.

– Det är väldigt svårt för någon utanför systemet att se och förstå vad en AI gör. Om du driver datacentret där AI:n körs kan du eventuellt inspektera vad som händer i dina egna maskiner, men som användare av AI-modellen har du ingen insyn, säger Simon Bouget, senior forskare med fokus på cybersäkerhet och uppkopplade system på RISE.

Söker mer än svar från AI

Han är en del av RISE-projektet ”Verifierbar AI”, som handlar just om att skapa insyn i vad som händer i våra datacenter. Projektet tog form när ett startupbolag vars mål var att bygga och sälja verktyg för att öka insynen i AI-tjänster kontaktade RISE. Bolaget ville ha hjälp med att öka säkerheten i sina verktyg, för att säkerställa att dessa tillhandahåller tillförlitlig information, att leverantören av en AI-tjänst inte kan lura insynsverktygen och att verktygen i sig inte kan läcka känslig information.

Samarbetet satte strålkastarljuset på en fråga som angår alla företag som utvecklar, driver eller använder AI-tjänster. Hur kan de kontrollera vad som faktiskt händer bakom kulisserna när en AI-modell körs?

Typiskt sett är varje fråga som ställs till AI en förfrågan om en beräkning i ett datacenter. I kontexten ”Verifierbar AI” ska svaret på denna förfrågan kompletteras med bakgrundsinformation, såsom modellens identitet och hur stora resurser som har använts i form av energi och beräkningstid. Förhoppningen är att maktobalansen mellan AI-leverantör och tillsynsmyndigheter i någon mån kan utjämnas när processer, beräkningar eller beslut kan spåras och bevisas i efterhand.

När tekniken har mognat och utvecklats mer blir den ett verktyg för svensk industri att erbjuda digitala tjänster med bättre integritetsskydd och starkare säkerhetsgarantier.

Simon Bouget, senior forskare på RISE

Är det som att öppna den ”svarta lådan”?

– På ett visst plan. Det handlar inte om att undersöka hur AI:n fungerar rent tekniskt och fullt ut förstå hur den resonerar. Men vi öppnar en svart låda i den meningen att när vi skickar en prompt till en AI, vill vi ha mer än bara resultatet presenterat för oss.

Vi vill ha viss metadata och starka garantier för att dessa metadata stämmer, säger Simon Bouget.

Användningen av AI involverar flera aktörer. Det är modelleverantören som har skapat och tränat modellen, som inte vill att den tillgången ska läcka eller användas utan deras godkännande och därför håller modellerna privata och stängda för insyn.

– På andra sidan har du slutanvändarna som skickar förfrågningar till modellen och får svar tillbaka. Slutanvändarna delar ibland känsliga och privata uppgifter och vill få sin integritet respekterad. Båda dessa parter har alltså saker de oroar sig för, och därför behöver de kunna lita på varandra, förklarar Simon Bouget.

Modelleverantören och slutanvändaren behöver dessutom lita på datacenteroperatören, att denne kan vara motståndskraftig mot cyberhot och skydda båda parternas känsliga data.

– Aktörerna litar inte riktigt på varandra i dag. Särskilt för slutanvändaren handlar det om en väldigt obalanserad relation. När vi använder digitala tjänster i dag klickar de flesta på ”godkänn användarvillkor” utan att läsa igenom villkoren. Det finns inget förhandlingsutrymme där – antingen accepterar du eller så kan du inte använda tjänsten. Det skulle inte jag kalla för tillit, det liknar snarare utpressning, säger Simon Bouget.

Ett nyckelord inom ”Verifierbar AI” är garantier. Det handlar inte om klausuler i ett avtal, utan om tekniska garantier i form av konkreta belägg och data som bevisar att en AI-modell körs som avsett, utan att data manipuleras eller att en annan, billigare eller enklare variant körs i stället.

– Här vill vi använda kryptografi (matematiska metoder för att skydda och verifiera information, reds.anm.) och traditionella cybersäkerhetstekniker på nya sätt, anpassade till AI-system, säger han.

Vad går att verifiera i dag, och vad är fortfarande föremål för forskning?

– Det tillspetsade svaret är att ingenting går att verifiera i dag och att det är därför vi har det här projektet på RISE. Många enskilda länkar finns redan, men vi behöver bygga en hel kedja. Det är den komplicerade delen. Det som ligger närmast till hands är att verifiera identiteten på modellen som används. Det handlar om att kontrollera att en fil är oförändrad, och det kan man göra med traditionella signaturer, integritetskontroller och liknande.

I andra änden av skalan finns något mer ambitiöst: Att verifiera vilken sorts beräkningar, eller vilken typ av uppgift, modellen utför. Forskarna på RISE söker sätt att kunna avgöra vad en modell arbetar med, för att kunna blockera uppgifter som inte ska tillåtas. Det kan handla om att utveckla biologiska vapen exempelvis.

– När tekniken har mognat och utvecklats mer blir den ett verktyg för svensk industri att erbjuda digitala tjänster med bättre integritetsskydd och starkare säkerhetsgarantier, säger Simon Bouget och fortsätter:

– Och om vi ska välja att vara optimistiska kan den här typen av forskning bli en byggsten i en internationell överenskommelse, där alla parter går med på att använda lösningar för verifierbar AI för att granska varandra.

Simon Bouget

Senior Researcher
+46 10 228 43 90 Läs mer om Simon

Kontakta Simon

CAPTCHA

* Obligatoriskt

Genom att skicka in formuläret behandlar RISE dina personuppgifter.