Har AI gett upphov till en ny sorts cyber-superskurk?

Har AI verkligen skapat en helt ny typ av cyberhot? 

”Idén om AI-superhackern som uppfunnit helt nya typer av cyberattacker har vi faktiskt inga tydliga belägg för. Men man skulle kunna säga att AI har gett de vanliga hoten superkrafter. 

Det som framför allt har förändrats är tempot och skalan. Angripare använder fortfarande välkända metoder som nätfiske, stulna inloggningsuppgifter och sårbarheter i mjukvara. Men med AI kan attackerna bli både snabbare, billigare och mer övertygande. Nätfiskemejlen kommer på felfri svenska och kartläggningen av potentiella mål kan automatiseras.” 

Hur ser en AI-driven attack ut i praktiken? 

”Den behöver inte alls se misstänkt ut. Angripare kan använda legitima verktyg, giltiga inloggningar och beteenden som liknar vanliga arbetsmönster. 

Ett talande exempel är när en anställd på ingenjörsföretaget Arup 2024 lurades att föra över motsvarande 25 miljoner dollar efter ett videomöte med vad personen trodde var bolagets finanschef och kollegor. Mötesdeltagarna var i själva verket deepfakes. Många säkerhetssystem är byggda för att upptäcka avvikelser. Men vad händer när attackerna ser helt normala ut?” 

Om en organisation bara kunde göra en sak för att skydda sig bättre? 

”Se till att inget enskilt mejl, samtal, videomöte eller inloggning ensamt kan ge tillgång till känsliga system eller godkänna stora betalningar. 

I praktiken handlar det om nätfiskeresistent autentisering, exempelvis passkeys, och att alltid verifiera känsliga förändringar via en separat kanal. Det gäller exempelvis betalningar, lösenordsåterställningar och ändrade bankuppgifter hos leverantörer. När AI gör bedrägerier allt mer övertygande kan säkerheten inte längre bygga på att människor alltid ska kunna genomskåda dem.” 

Hur kan vi använda AI i försvaret utan att skapa nya sårbarheter? 

”Testa först! Försök lura systemet, överbelasta det och mata det med vilseledande data, precis som en angripare skulle göra. 

Behandla sedan AI-systemet som en nyanställd med höga behörigheter. Ge det bara den åtkomst det behöver, logga vad det gör och kräv mänskligt godkännande för beslut som inte går att ångra. Och glöm inte att skydda AI-systemet självt. Konton, åtkomst och nycklar kan också bli måltavlor.” 

Så, vilken av era säkerhetsrutiner skulle hålla om er vd ringde i morgon – men inte var er vd? 

AI och cybersäkerhet på RISE 

På RISE möts forskning inom AI, cybersäkerhet och utveckling av resilienta digitala system. Här arbetar forskare med allt från att förstå och förebygga cyberhot till att utveckla metoder för att testa och stärka säkerheten i AI-baserade system. 

Genom forskning, samverkan med industri och offentlig sektor samt test- och demonstrationsmiljöer som Cyber Range omsätter RISE kunskap om digitala hot och sårbarheter i praktisk säkerhetsförmåga. Det handlar bland annat om att erbjuda träning och övning i realistiska miljöer, där organisationer kan testa sin motståndskraft och stärka sin beredskap mot cyberangrepp. 

För fler insikter om AI-drivna cyberhot och hur vi kan skydda oss mot dem, läs När AI driver cyberangreppen måste försvaret följa med, där Apostolos Pyrgelis och hans kollegor på RISE delar med sig av sin kunskap.