Människocentrerad cybersäkerhet

Cybersäkerhet handlar inte enbart om tekniska sårbarheter. Människor tolkar och anpassar teknik, organisationer utvecklar arbetssätt för att hantera säkerhetsrisker och angripare utnyttjar både tekniska och sociala förutsättningar. När säkerhetsmekanismer inte fungerar som avsett kan konsekvenserna bli omfattande, samtidigt som ny teknik skapar nya möjligheter till manipulation, missbruk och digital skada.

Människocentrerad cybersäkerhet undersöker hur säkerhet och personlig integritet formas genom samspelet mellan människor, teknik och organisationer. På RISE kombinerar vi perspektiv från människa-datorinteraktion, cybersäkerhet, design samt beteende- och samhällsvetenskap för att förstå hur säkerhetsproblem uppstår, hur människor påverkas och hur digitala system kan utformas för att bättre hantera både risker och konsekvenser.

När säkerheten inte fungerar som tänkt

Säkerhetsmekanismer fungerar inte alltid som avsett. Hur människor förstår tekniken, vilka organisatoriska förutsättningar som finns och hur säkerhetsåtgärder passar in i vardagliga arbetssätt påverkar både hur sårbarheter uppstår och hur incidenter hanteras.

En medarbetare kan luras att installera skadlig programvara på sin arbetsdator i samband med en falsk rekryteringsprocess, vilket oavsiktligt ger angripare tillgång till organisationens interna system. På liknande sätt kan säkerhetsutbildningar och instruktioner ges på ett språk eller i ett format som inte är tillgängligt eller inkluderande för alla, vilket gör det svårt för vissa medarbetare att förstå och tillämpa säkerhetsanvisningarna. Ett säkerhetssystem kan vara tekniskt väl utformat men ändå skapa problem om människor inte förstår dess varningar eller upplever att det hindrar deras arbete. Sådana situationer visar varför cybersäkerhet behöver förstås i sitt sociala och organisatoriska sammanhang.

Vår forskning undersöker hur människor uppfattar och hanterar säkerhetsrisker, hur de interagerar med skyddsmekanismer och hur individer och organisationer agerar när incidenter inträffar. Vi studerar också hur erfarenheter från incidenter kan användas för att utveckla mer ändamålsenliga säkerhetspraktiker och tekniska lösningar.

Denna kunskap kan hjälpa organisationer att identifiera hinder för säkert beteende, förbättra incidenthantering och utveckla säkerhetslösningar som fungerar under verkliga användningsförhållanden.

Ny teknik, nya sätt att angripa och missbruka

Generativ AI, extended reality, smarta glasögon, drönare och robotar förändrar hur människor interagerar med digitala system och vilka säkerhetsrisker som uppstår. När tekniken kombinerar sensorer, automatisering och tillgång till fysiska och digitala miljöer skapas nya möjligheter att samla in information, påverka system och utnyttja sårbarheter.

En AI-assistent kan exempelvis manipuleras genom instruktioner som döljs i information den behandlar, medan smarta glasögon kan samla in känsliga uppgifter om människor som inte är medvetna om eller har samtyckt till insamlingen. Sådana situationer visar hur nya hot kan uppstå genom samspelet mellan tekniska funktioner, mänsklig interaktion och de miljöer där tekniken används.

Vår forskning undersöker hur sårbarheter och skadliga beteenden uppstår och utvecklas i relation till ny teknik. Vi studerar bland annat adversariell interaktion, manipulation av AI-system, integritetsrisker kopplade till sensorteknik och missbruk av autonoma och kroppsnära system. Vi utforskar även människocentrerade metoder för att identifiera och analysera dessa risker, exempelvis genom adversariell testning och red-teaming.

Genom att undersöka hur teknik kan användas, manipuleras och missbrukas kan vi bidra till att organisationer identifierar risker som annars kan förbises och utvecklar mer genomtänkta skyddsåtgärder vid införandet av nya tekniker.

Säkerhet som slår olika

Säkerhetsåtgärder skyddar inte alltid alla människor på samma sätt. Hur tekniken utformas och används kan påverka tillgänglighet, autonomi, samtycke och människors möjligheter att förstå och kontrollera digitala system.

En autentiseringslösning som förutsätter tillgång till en personlig mobiltelefon kan exempelvis skapa hinder för personer som saknar en sådan enhet eller inte kan använda den på det sätt som förväntas. På liknande sätt kan övervakning och datainsamling som införs för att förbättra säkerheten samtidigt innebära intrång i den personliga integriteten.

Vår forskning undersöker hur säkerhetsteknik och säkerhetspraktiker påverkar olika människor och intressenter. Vi studerar användbar och inkluderande säkerhet, motstridiga behov och intressen samt hur tekniska och organisatoriska beslut påverkar människors handlingsutrymme. Dessa frågor blir särskilt viktiga när digital teknik används över gränserna mellan arbetsplatser, hem och offentliga miljöer.

Genom att synliggöra olika användares förutsättningar och möjliga konsekvenser av säkerhetsåtgärder kan vi bidra till att organisationer utvecklar lösningar som är mer tillgängliga, begripliga och ansvarsfulla.

Så kan vi hjälpa er

På RISE integrerar vi människocentrerade perspektiv i forskning och innovation inom cybersäkerhet. Vi studerar hur säkerhet och integritet formas genom sPå RISE kombinerar vi forskning inom människa-datorinteraktion, cybersäkerhet, design samt beteende- och samhällsvetenskap för att undersöka säkerhetsutmaningar där människor, teknik och organisationer samverkar.

Vi samarbetar med näringsliv, offentlig sektor och forskningsaktörer för att utveckla kunskap, metoder och lösningar inom människocentrerad cybersäkerhet. Beroende på organisationens behov och de aktuella frågeställningarna kan samarbetet exempelvis omfatta:

• Användarstudier och utvärdering: Undersöka hur människor förstår, använder och påverkas av säkerhetslösningar samt identifiera hinder för användbar och inkluderande säkerhet.
• Incidentanalys: Studera mänskliga och organisatoriska aspekter av cybersäkerhetsincidenter för att förstå hur de uppstår, hanteras och påverkar människor och verksamheter.
• Adversariell testning och red-teaming: Utforska hur nya tekniker, exempelvis AI-baserade system, kan manipuleras eller missbrukas genom mänsklig interaktion.
• Forsknings- och innovationsprojekt: Tillsammans med organisationer undersöka nya säkerhetsutmaningar och utveckla människocentrerade metoder och angreppssätt.

Vill ni förstå hur mänskliga, tekniska och organisatoriska faktorer påverkar cybersäkerheten i er verksamhet? Kontakta oss för att diskutera era utmaningar och möjligheter till samarbete.