När AI driver cyberangreppen måste försvaret följa med

Nobelpristagaren som kallas AI:s gudfader, Geoffrey Hinton, har jämfört AI-utvecklingen och en hägrande artificiell superintelligens med att ha en ”jättesöt tigerunge” som husdjur. Att det känns okej för stunden, så länge det går att garantera att tigern inte vill döda oss när den blir vuxen.

AI-modeller kan skriva och anpassa skadlig kod i stor skala

Efter ett flertal incidenter under 2026 känns ”gudfaderns” liknelse från 2024 än mer brännande. Nyhetsmedier har rapporterat om AI-agenter som har tagit egna initiativ, hittat vägar ur sina isolerade träningsmiljöer och gjort intrång i externa plattformar. 

Cyberattacker och cyberhot har traditionellt handlat om att en människa skapar skadlig kod, exempelvis i form av utpressningsprogram, beroende på vilket mål angriparen har. Angriparen kör någon form av skript för att hitta svagheter i digitala system och nätverksinfrastruktur. Processen har fram till nyligen varit relativt manuell i den mening att angriparen behöver vara närvarande, köra skripten och samordna attacken. 

– Nu befinner vi oss i ett paradigmskifte, där vi har AI-modeller som kan skriva och anpassa skadlig kod med hög hastighet och i mycket stor skala. Den mänskliga angriparen är fortfarande en del av processen, om än mer i bakgrunden, men vi kommer att se fler cyberhot framåt där AI agerar helt på egen hand, säger Apostolos Pyrgelis, senior forskare på RISE med fokus på digital integritet och integritetsbevarande teknik.

Därför går utvecklingen så snabbt – och så kan vi möta den

Utvecklingen går i ett rasande tempo, drivet av en enorm ekonomisk kapplöpning och en kraftig ökning av både datorkraft och datamängder för modellträning. Dessutom hjälper AI utvecklare att utveckla AI – kraftfulla verktyg kan hjälpa människor att snabbare bygga nästa generation verktyg.

Modellerna som används för cyberangrepp är redan i dag väldigt kapabla, och kan testa många olika saker samtidigt. Även om AI:n skulle fatta ett felaktigt beslut, fortsätter den att försöka tills den hittar sårbarheter som går att utnyttja. 

Vad innebär detta för organisationer som vill införa AI-lösningar i sin verksamhet? Går det att bygga cyberresilienta system, som står emot AI-drivna hot och fortsätter att fungera? 

– Ett digitalt system blir inte resilient bara för att man upprätthåller eller skyddar säkerheten så långt det går. Resiliens är ett bredare begrepp. Det utgår från att ett system förr eller senare kommer att utsättas för en attack, att skyddet som man har byggt upp kommer att brytas igenom. Det man vill uppnå är att systemet ska överleva attacken, återhämta sig och i slutändan behålla sin funktion, säger Apostolos Pyrgelis.

En försvarande AI som håller jämna steg med den angripande

Den naturliga vägen framåt, menar han, är att först och främst ha förebyggande åtgärder på plats. Och det bästa sättet att bygga ett resilient system är att integrera AI även på försvarssidan.

– Då låter man på sätt och vis den försvarande AI:n hålla jämna steg med den angripande. Det är förstås inte enkelt. Vi måste se till att AI:n vi använder för försvaret är robust och fungerar korrekt, och människor måste ha tillsyn över processen. Vi måste också säkerställa att försvaret inte kan manipuleras, eftersom angriparen sannolikt kommer att försöka utnyttja att ett system har ett AI-baserat försvar, säger han. 

Men hur vet man att försvaret som man har byggt upp håller måttet? Penetrationstester i en säker miljö är ett effektivt sätt att utvärdera detta. Under strikt ordnade former angrips systemen, för att bättre förstå hur cyberskydd kan utformas. 

De reaktiva processerna, alltså hur en organisation agerar när det blir skarpt läge, är också viktiga.

– När man inför ett nytt digitalt system i sin verksamhet, oavsett om det är en AI-baserad lösning eller inte, behöver man kunna följa och övervaka systemet. Snabb upptäckt och snabb respons vid hot är centrala delar som jag tycker att alla organisationer bör börja diskutera, säger Apostolos Pyrgelis.

Angriper högaktuella frågeställningar genom forskning

Forskare på RISE jobbar aktivt med frågor som hur AI-modeller kan göras mer robusta och mer motståndskraftiga mot attacker, och hur man kan säkerställa att AI inte manipuleras till att göra saker som den från början inte var avsedd att göra. RISE deltar också som en av huvudparterna i RESIST, ett forskningscentrum för motståndskraftiga AI-system. 

– Här undersöker vi bland annat hur vi kan verifiera att AI-systemen fungerar enligt den avsedda funktionaliteten, hur vi kan säkerställa att AI-genererad programvara eller kod inte tillför nya sårbarheter eller angreppsytor, och hur vi snabbare kan upptäcka attacker för att kunna anpassa försvar och återhämtning. Planen framåt är att jobba med partners för att demonstrera hur våra lösningar fungerar i verkliga tillämpningar, säger Apostolos Pyrgelis.

Det bubblar alltså inom forskningen – men kunskapsnivån inom näringsliv och offentlig sektor varierar. En rapport från IVA, Kungl. Ingenjörsvetenskapsakademien, pekar på att många organisationer saknar tillräckliga rutiner för att minska onödig exponering mot cyberhot och att upptäcka incidenter i tid. Rapporten lyfter, precis som Apostolos Pyrgelis, vikten av att ansvarsfullt införa AI i cyberförsvaret.

– Nu gäller det att förbereda sig på organisationsnivå, i administrationen och ledningen, såväl som på den tekniska nivån. Man måste följa utvecklingen även om den kan kännas som ett skenande tåg. Förstå vilka möjliga hot som kan riktas mot den egna organisationen och försök fatta beslut som minskar riskerna, säger Apostolos Pyrgelis och fortsätter: 

– Om organisationen till exempel inte behöver AI till en specifik uppgift, då ska man inte införa tekniken i sina system bara för att det är trendigt. Som sagt kan man skapa en ny angreppsyta genom att införa AI. 

Ett strategiskt beslut kan alltså börja med frågan ”Behöver vi AI här?”. Om svaret är ja, då är nästa fråga: ”Hur inför vi tekniken på ett sätt som gör att vi kan sätta in skyddsåtgärder, så att AI:n inte beter sig felaktigt eller utnyttjas av illvilliga aktörer?”. De som skapar sig en grundförståelse för farorna har betydligt bättre förutsättningar för att återhämta sig från ett AI-drivet hot, jämfört med organisationen som har skjutit problemet på framtiden.