FutureFraming: Cybersäkerhet är nu en kamp mellan algoritmer

Året är 2035. Jag står i säkerhetscentralen på ett större sjukhus och tar del av en genomgång av en cyberattack som nyligen hotade att slå ut kritiska funktioner. Min värd, sjukhusets säkerhetschef (CISO), räcker mig ett AR-visir. En holografisk översikt vecklar ut sig framför oss — en dynamisk karta över sjukhusets digitala ekosystem. Medicintekniska IoT-enheter, molntjänster, identitetssystem och externa leverantörer framträder som sammankopplade noder. Röda spår visar hur angriparen rört sig genom infrastrukturen. 

Allt började i leverantörskedjan. En manipulerad firmwareuppdatering skapade en vilande bakdörr. Veckor senare aktiverades en självutvecklande skadeprogramvara som spred sig mellan uppkopplade medicintekniska enheter. Den anpassade sig i realtid, lärde sig hur försvaret fungerade och förändrade sitt beteende för att undvika upptäckt. Bilddiagnostik och patientövervakning påverkades. 

Men återhämtningen gick snabbt. Inom minuter aktiverades autonoma försvarsagenter som isolerade angripna delar av nätverket, analyserade den föränderliga koden och återställde systemen. Varje åtgärd dokumenterades. Varje beslut var spårbart och gick att förklara. Människor övervakade processen och tog ställning i de mest avgörande besluten. Krisen var över på några timmar. 

Scenariot är fiktivt. Teknikutvecklingen är det inte. 

När AI driver både angrepp och försvar 

I dag står AI i centrum för cybersäkerheten — på båda sidor. 

För angripare innebär AI en kraftfull förstärkning. Social ingenjörskonst har blivit mer träffsäker genom generativa system som kan anpassa budskap på individnivå. Leverantörskedjor kartläggs automatiskt för att identifiera svaga länkar. Självanpassande skadeprogram undviker upptäckt genom att kontinuerligt förändra sitt beteende. Stora språkmodeller kan identifiera sårbarheter, ta fram fungerande exploits och välja mål utifrån maximal effekt. Samtidigt manipuleras försvarssystem genom förvanskad eller avsiktligt påverkad träningsdata, och AI-drivna botnät samordnar attacker globalt. 

Skalan och tempot har förändrats. 

Men AI stärker också försvaret. Dynamiska fällsystem som lockar angripare, så kallade honeypots, anpassar sig efter angriparens beteende och samlar in värdefull underrättelseinformation. AI-drivna red teams, interna säkerhetsteam som simulerar verkliga attacker, testar kontinuerligt organisationers motståndskraft. System som kombinerar signaler från nätverk, moln, enheter och identitetslager kan upptäcka subtila och långsamma angrepp som tidigare passerade obemärkta. Autonoma responsfunktioner sorterar larm, begränsar intrång och återställer system, samtidigt som besluten görs transparenta och spårbara. 

Cybersäkerhet har blivit en kamp mellan algoritmer. 

Människan försvinner inte — men rollen förändras 

Trots den ökade automatiseringen är människan fortsatt avgörande. Det som förändras är vår roll. 

AI kan identifiera mönster och sårbarheter, men det är människor som sätter riktning, prioriterar och väger konsekvenser. Angripare formulerar strategiska mål. Försvarare avgör hur säkerhet ska balanseras mot integritet och verksamhetskrav. 

I stället för att hantera oändliga mängder larm kan analytiker nu fokusera på arkitektur, risk och långsiktig resiliens. Det handlar inte längre bara om att reagera snabbt — utan om att bygga system som tål påfrestningar och anpassar sig över tid. 

Att säkra AI är avgörande 

När AI blir en integrerad del av säkerhetsinfrastrukturen blir den också ett mål. Manipulerade modeller eller intrångsdrabbade AI-plattformar kan få konsekvenser långt utanför den enskilda organisationen. 

Att använda AI inom cybersäkerhet kräver därför robusthet mot angrepp, motståndskraft mot datamanipulation, transparens, spårbarhet och tydligt ansvar. Det kräver fortsatt forskning inom adversariell maskininlärning, formell verifiering och säker datastyrning — samt utveckling av AI-system som är säkra och etiskt förankrade redan från designstadiet. Arbetet behöver ske i samklang med ramverk som NIST AI Risk Management Framework och EU:s AI-förordning. 

Här bidrar RISE tillsammans med Linköpings, Lunds och Örebro universitet genom forskningscentret RESIST (RESIST) — Resilience and Security for Trustworthy AI Systems — finansierat av Stiftelsen för Strategisk Forskning. 

Misslyckas vi med att säkra AI kan konsekvenserna eskalera i en hastighet vi inte längre kontrollerar. Lyckas vi kan vi ta steget från reaktiv brandsläckning till verkligt adaptiv motståndskraft.