Hoppa till huvudinnehåll
RISE logo

Så kan AI och cybersäkerhet stärka varandra

Artificiell intelligens, AI, och cybersäkerhet är två tekniker som blivit allt viktigare i takt med den ökade digitaliseringen i samhället. Men går det att kombinera teknikerna, och vilka fördelar kan det i så fall ge? Vi lät två av RISE verkliga experter på respektive område, Shahid Raza och Daniel Gillblad, förklara närmare och berätta hur artificiell intelligens och cybersäkerhet kan dra nytta av och stärka varandra.

När allt fler enheter i vår vardag blir uppkopplade ökar också behovet hos oss att behöva lita på externa leverantörer. Både leverantörer av molntjänster, leverantörer av tjänster för internet of things och hårdvaruleverantörer kan utgöra potentiella säkerhetsrisker.

– Det kan handla om en molnleverantör som använder data på ett otillåtet sätt eller till exempel en smart högtalare som lyssnar när den inte är tänkt att göra det, säger Shahid Raza, chef för cybersäkerhet på RISE.

Snabbare och säkrare med distribuerad analys

För att upptäcka och hindra attacker av det här slaget och öka säkerheten kan ny AI-teknik hjälpa till, och det på ett nytt, distribuerat sätt.

– Vi brukar ibland prata om att flytta ut AI och maskininlärning till ”the edge”, det vill säga kanten på nätverket, säger Daniel Gillblad. I praktiken betyder det att vi inte behöver skicka all data till en central enhet för analys, utan kan göra analysen mycket närmare enheten som till exempel riskerar utsättas för en attack. Det här gör att analysen går snabbare och blir säkrare eftersom vi heller inte behöver skicka potentiellt känsliga data.

– Den här distribuerade tekniken kan vi sedan använda för att lösa säkerhetsproblem i en internet of things-miljö, säger Shahid Raza.

Lättare att identifiera avvikelser

Artificiell intelligens används också för att känna ingen och stoppa intrångsförsök och attacker i traditionella IT-system. Där det för människor är svårt att förutspå alla tänkbara situationer som kan uppstå kan ett säkerhetssystem istället tränas i att lära sig vad som är normalt beteende och agera vid undantag.

– AI är en fantastisk genväg när det kommer till hantering av stora datamängder, säger Daniel Gillblad. I och med att allt fler datadrivna system utvecklas kommer också säkerheten att bli ännu viktigare än vad den varit tidigare.

– Extra kritiskt är det att säkra system där attacker kan åsamka stor skada, till exempel samhällskritiska funktioner som el- och vattenförsörjning eller försvar och säkerhet, fyller Shahid Raza i. Men användningen av AI i säkerhetssyfte kan tas ända upp på nationsnivå, där tekniken kan användas för att identifiera desinformationskampanjer i sociala medier.

Korrekta data behövs vid träning

På samma sätt som artificiell intelligens kan skapa bättre lösningar för cybersäkerhet är cybersäkerhet centralt i utvecklingen av AI-tjänster. När stora datamängder används för att träna artificiell intelligens måste datan vara korrekt och inte manipulerad.

– Det är faktiskt relativt enkelt att lura AI eller maskininlärning, säger Shahid Raza. Det räcker med mycket små avvikelser i träningsdatan för att systemet i slutändan ska identifiera ett intrångsförsök som normalt beteende.

Data som beslutsstöd ställer högre krav på säkerhet

Att se till att data hanteras säkert är i sig inget nytt utan har varit en viktig fråga länge. Skillnaden är att när AI-tjänster börjar användas som beslutsunderlag för till exempel lag, ordning och säkerhet så måste de gå att lita på, att besluten som fattas baseras på data som kommer från en verifierad källa och att datan i sig inte är felaktig.

– Oavsett om det är människor eller AI som lägger grunden till beslut så kan felaktiga data in givetvis ge felaktiga beslut, men när besluten som fattas rör till exempel medicinska behandlingar eller automatiserade fordon får det inte bli fel, avslutar Daniel Gillblad.