Hoppa till huvudinnehåll
RISE logo

När AI kör bilen krävs ett samhällsperspektiv

Allt fler fordon och allt större del av vår trafikinfrastruktur är uppkopplad. Ny teknik skapar nya möjligheter, men också nya hot. RISE vill ge företag, individer och samhälle förutsättningar att ställa rätt krav på datasäkerhet i ett kommande tvärdisciplinärt projekt. Målet är flytta fokus från enbart teknisk utveckling, till att även innefatta samhället, individen och ett etiskt synsätt. 

– Utvecklingen av artificiell intelligens inom fordon går så snabbt att samhället inte hinner med.

Det säger Anders Johnson, specialist och rådgivare inom transporteffektivitet, mobilitet och logistik på RISE. Anders är en av RISE experter som arbetat i C-UFO, ett projekt där RISE genomfört en genomförbarhetsstudie inför ett större arbete vars syfte är ge samhällets aktörer förståelse för det digitala landskapet så att de kan agera säkert i sitt sammanhang.

Utvecklingen inom uppkopplade fordon sker idag främst ur ett teknikutvecklingsperspektiv, där behoven på samhälls- och individnivå inte prioriteras, delvis beroende på att de är svåra och komplexa att förstå.

– Risken med det synsättet är att samhället blir sårbart och att felaktiga investeringar och prioriteringar görs, kanske till ett högt pris senare, säger Peter Ljungstrand, specialist på användarcentrerad design på RISE. Data samlas inte bara in från förare och passagerare i fordonen utan också från människor och infrastruktur kring fordonet.

Säkerhetsklassad infrastruktur kan bli svårare att skydda

Människor som lever under skyddad adress, eller som kontrolleras av andra familjemedlemmar kommer att få det svårare att ta sig fram i samhället om olika data kan kombineras så att det blir möjligt att följa dem utifrån. På samma sätt kan säkerhetsklassad infrastruktur bli svårare att skydda när uppkopplade fordon detekterar sin omgivning. Peter Ljungstrand utvecklar:

– Vi vet från tidigare teknikskiften att många effekter inte kan förstås fullt ut förrän långt senare, som till exempel miljöförstöring som bieffekt från industrialiseringen, eller stress och utbrändhet som tilltar i arbetslivet. Kan vi hitta sätt att hantera liknande problematik bättre här, och undvika de värsta fallgroparna? Och hur ställer vi detta i relation till den mängd data som behövs för att de uppkopplade fordonen ska vara säkra för sin omgivning.

Projektet har också undersökt relationen och framtida risker i mötet mellan personlig integritet och den fysiska och samhälleliga säkerheten. Det finns en ökad oro kring hur personlig information om individer kan komma att användas, samtidigt som vi vill och behöver använda informationen för att upprätthålla säkerhet. Det kräver en medveten och explicit balansgång mellan olika, ibland motsatta, värden. 

– I förstudien vände vi på förhållandet och tittade på kraven på cybersäkerhet för uppkopplade fordon utifrån ett samhälls- och individperspektiv, för att på så sätt kunna få reda på inte bara vilka tekniska begränsningar som finns för en viss teknik, utan även hur normer påverkar kravställningen, säger Jacob Dexe, integritetsforskare på RISE.

Programvaror fattar besluten

När programvaror tar besluten rörande människors säkerhet och integritet påverkas omgivningen därefter. Om systemet är implementerat på ett sätt som gör att det börjar fungera felaktigt, slutar kommunicera eller om det tas över av externa parter kan resultatet bli olyckor, hotad integritet hos användare och kaos i trafiken.

– Ett kommande projekt inom det här området behöver adressera den integritetsmässiga säkerheten kring användningen av personliga data och data från samhället som registreras i uppkopplade fordon, säger Thomas Carnehult, senior expert inom cybersäkerhet på RISE.

Så fort som utvecklingen av självkörande fordon går just nu så behöver de personliga och samhälleliga konsekvenserna belysas inom två år. Cybersäkerhet, etik och integritet förändras över tid och i olika sammanhang.

– Vi vill verkligen djupdyka i konsekvenserna för integritet, etik och datasäkerhet när vi har uppkopplade fordon som rullar i vårt samhälle, säger Jenny Holgersson från RISE, projektledare för C-UFO. Baserat på det vill vi ta fram en beskrivning av ett vägbaserat trafiksystem och utveckla en modell för konsekvensanalys vid införandet av nya produkter och tjänster i trafiksystemet. I första skedet vill vi fokusera på en väl avgränsad del av trafiksystemet, mer explicit lokaltrafiken.

Stort intresse från många aktörer 

Intresset för förstudien och det föreslagna projektet har varit stort från både fordonsindustri och offentlig verksamhet.

Dessutom har TCA, Australiens statliga myndighet för integritetsfrågor i transportsektorn och en av världens ledande organisationer på området uttryckt intresse av att delta.

– Så vitt vi vet har relativt lite investerats i beaktandet av de mänskliga faktorerna i omställningen till uppkopplade fordon och den påverkan som omställningen kommer att ha på samhälle, kultur, etik. Utmaningarna kring säkerhet och integritet, så väl som möjligheterna som kommer med den data som sådana system genererar behöver också tittas närmare på, säger Philip Lloyd, General Manager Implementation på TCA.

En ansökan har lämnats in för att studera den framtida lokaltrafiken. Om ansökan beviljas, beräknas projektet komma igång  2019 och är tänkt att pågå till 2020. RISE hoppas på inspel från ytterligare aktörer som kan bidra med sina synpunkter och erfarenhet inom området.

– Vi vill samarbeta brett kring de här frågorna, säger Jenny Holgersson. Både fortsatt inom RISE och med representanter från industri och offentliga aktörer. Vi ser fram emot att knyta ytterligare deltagare till projektet.