Den retoriska frågan ställs av RISE innovationsexpert Dennis Pamlin.

– Klimattoppmötet i Egypten i november 2022 demonstrerade allt i innovationsväg: från de som verkligen brinner för en idé som kan revolutionera ett helt sätt att leva, till de som hittat extremt innovativa sätt att mäta så det som egentligen förstör miljön plötsligt framstår som nollutsläppare, förklarar Dennis Pamlin och fortsätter: Det är därför vi tror att det behövs en förändring i mindset. Vi ska gå från att varje sektor för sig ska jaga sina och sina leverantörers utsläpp till att vi ställer frågan: vad behöver vi verkligen för att leva goda liv i en värld med snart 11 miljarder människor?

Det är ett skifte i synsätt som kan låta som en lek med ord, men som gör skillnad i vad som faktiskt blir gjort. Som exempel lyfter Pamlin Irlands transportpolitik. På den gröna ön arbetade man, som på många andra håll, med att elektrifiera bilpark och vägar för att kunna fortsätta köra och transportera som idag. Skiftet kom när man gjorde en Human Needs Scanning och ställde sig frågorna ”varför kör vi?” och ”vad transporterar vi?”

– Då blev det mer intressant att fundera på hur mat kunde odlas närmare de som ska konsumera den, hur städer kunde planeras annorlunda, och inte minst hur statusen runt bilägande kunde förändras.”

Många svenska innovationer

Pamlin framhåller att det här är ett område där det finns lika mycket svenska innovationer som inom utsläppsminskning. Ett exempel är klädföretaget Houdini som hjälper människor att lämna fast fashion och stora garderober till färre och hållbara plagg tillverkade för att stödja livsstilar där vi lever mer i harmoni med naturen.

– Det här är en transformativ förändring, och den är nödvändig. Värdekedjorna förutsätter fortfarande mer och mer. Då når inte jakt på utsläppsminskningar hela vägen. Det är klart att det är viktigt med grönt stål, men till oljeplattformar och fossilflygplan ska vi inte tillverka något stål alls eftersom det är verksamheter vi kanske inte ens ska ha i framtiden. Och det som kommer till stålverket ska hellre komma från stadsmiljöerna själva, från urban mining, än från linjära flöden mellan gruva och avfall. Genom att utgå från vad vi behöver och var vi behöver det öppnar sig ett helt annat sätt att arbeta.

Fokus på att undvika utsläpp

Pamlin konstaterar att inget företag startas för att minska utsläppen i sin leverantörskedja, utan för att fylla ett behov. Så hur möter man de verkliga behov en rättvis 11-miljardersvärld har? RISE arbetar i samarbetet Mission Innovation, som startades i samband med Parisavtalet av Bill Gates och andra företagsledare tillsammans med de 22 regeringar som har störst innovationsbudget. RISE driver där initiativet Net-Zero Compatible Innovations Initiative, och Dennis Pamlin förklarar att man tagit på sig ansvaret att mäta positiva effekter av nya lösningar för att hjälpa företag att hitta de lösningar som världen behöver.

– Vi är duktiga på att mäta problemet: utsläppen. Men det vi arbetar med är att komplettera med mått på lösningarna, på hur vi undviker utsläpp: avoided emissions. Då kan vi hitta innovationer som vi inte idag ens vet är lösningar. Och investeringar i en grönare framtid för människor i det globala syd som på grund av fattigdom idag har mycket små utsläpp blir lika intressanta som investeringar i industriella anläggningar i nord.

För 30 år sedan fanns inte internet. Elbilar och förnybar energi sågs inte som seriösa alternativ. Fortfarande när Kyotoavtalet undertecknades såg man på utsläppsfria alternativ som något som kunde inta en del av marknaden. Först nu handlar det om hur hela ekonomin ska ställas om. Då behövs lika disruptiva innovationer som digitaliseringen, streaming och AI. Med lång bakgrund i miljörörelsen har Dennis Pamlin en vana av att försöka förklara hur världen måste förändras.

– Men det är en skillnad när man kommer med svenska start-ups, IT-företag och andra innovatörer. När vi kom från miljörörelsen tänkte folk att förändring innebar att vi skulle in i grottorna. När företag med spännande lösningar säger samma sak tänker många ’wow, vad kommer det för nytt nu?’ Då blir det lättare att se en framtid framför sig där bilåkande, flygande och köttätande inte är norm – för att vi helt enkelt kan hitta mer lockande sätt att mötas, resa och äta. Det som släpper ut måste fortfarande bort, men drivkraften kommer ur att skapa något nytt och bättre.

Dags att implementera lösningar

På COP27 har RISE arbetat i partnerskap med OECD och med ICLEI som samlar de ledande regionerna och städerna i världen. Tre nya verktyg har lanserats och en klimattävling för inkubatorer startat med en partner i Indien. Nu ser Dennis Pamlin fram mot att komma hem från toppmötet och börja implementera lösningarna.

– Sverige är ett land där vi redan, tillsammans med Energimyndigheten, har identifierat lösningar som skulle kunna minska de globala utsläppen med en gigaton koldioxidekvivalenter – 20 gånger mer än Sveriges samlade utsläpp – så det är svårt att hitta ett mer spännande land att verka i.

Vinsterna med att effektivisera svenska myndigheters processer med AI värderas till omkring 140 miljarder kronor per år. Störst potential finns inom administration – ekonomihantering, HR, juridik etc – och inom planering och diagnostisering inom vården.

Men än så länge verkar svensken tveksam till direkt AI-beslutsfattande. I rapporten Svenska folket och AI är det bara mellan 15 och 20 procent som anger att de är okej med att algoritmerna tar beslut som påverkar sådant som försäkringspremie, föräldrapenning, pension, lånelöfte och så vidare.

Kan mer transparens vara verktyget för att öka acceptansen för den här typen av datadrivet beslutsfattande?

– Transparens löser inte frågan isolerat, säger Jacob Dexe som i sin forskning bland annat synat vad försäkringsbranschen ser för värde med transparens och hur myndigheter upphandlar så kallade beslutsrobotar.

– Du får ingen tilltro genom att dela en hel databas. Du behöver förklara hur informationen skapas. Paketera, formulera, ge transparensen en riktning för att uppnå ett syfte.

Sätt rätt förväntningar

I praktiken borrar det ner till att veta vem man har som kund. Veta vilka värderingar den har, vad den ser i produkten. Och sedan sätta rätt förväntningar.

– Det finns specialiserade tjänster, som träningsappar, där ett smalt kundsegment har en helt annan förväntan (än i andra appar) som funkar i just det sammanhanget. Men jag skulle kanske inte tycka att det är så fantastiskt om min pulsdata skulle spridas i en annan kontext, utanför min träningsapp, säger han.

– Har kunderna en bild av vad systemet gör som inte stämmer överens med vad som faktiskt sker så kommer de att bli besvikna.

I det här arbetet med att förklara sammanhang och teknik kan flera yrkeskategorier bidra, tipsar Jacob Dexe. Vid sidan av ingenjörer och jurister finns förmodligen andra med mer kunderfarenhet av vilka frågor och förväntningar en användare kan ha.

Mer avancerade system blir svårare att förklara

Jacob Dexe är verksam på RISE-enheten för samhällstransformation. Förhoppningen är att kunna hjälpa organisationer att skapa mer ansvarsfull transparens och förklarbarhet i AI-tjänster.

I takt med att AI-systemen blir allt mer avancerade blir det också svårare att förklara exakt vad som sker under huven. Maskininlärning med hjälp av neurala nätverk liknas ibland med en svart låda där själva processen är dold. En tröst är att det i många sammanhang räcker för en användare att ha vetskap om att något sker och vad det kan innebära.

– Vi har inlärda kontexter hur vi förklarar saker, säger Jacob Dexe och exemplifierar med hur försäkringsbolag förklarar prissättning i en hemförsäkring.

– Du anger ålder, var du bor, försäkringsvärdet och så vidare. Eftersom du ställt en fråga om försäkring så förstår du att processen handlar om någon form av beräkning av risk, utifrån de här variablerna. Då behöver man inte förklara i detalj för att ändå nå ett tillräckligt förklaringsvärde.

Återfå förtroende

Jacob Dexe säger att transparens är ett bra verktyg för att återfå förtroende vid negativa AI-beslut.

– Om du får ett positivt beslut av en AI så innebär det förmodligen att det matchar vad du förväntade dig. Om beslutet inte skulle matcha vad du förväntade dig så kan transparens i hur det negativa beslutet tagits ändå ge en acceptans. Man kan komma tillbaka i samma nivå i förtroende. Däremot ser vi inte att transparens kan öka förtroendet vid ett positivt beslut i samma utsträckning.

Något av det svåraste som finns verkar vara att bygga digitala tjänster för äldre. Den senaste årsrapporten ”Svenskarna och internet” sammanfattar läget så här:

• Färre än hälften av födda på 1920- och 30-talen har använt e-tjänster det senaste året.
• 6 av 10 kan inte logga in på 1177 utan hjälp.
• Bland de äldsta är det bara var tredje som tycker att e-tjänster underlättar.

Ungefär så fortsätter det. Det digitala utanförskapet i Sverige drivs i första hand av ålder. Inte så konstigt kanske, när internet fick ett bredare genomslag i mitten av 1990-talet var den här gruppen redan i 60- och 70-årsåldern. Även faktorer som utbildningsnivå, inkomst, funktionsvariation och ursprung inverkar. Kort sagt sådant som avviker från normen.

– Om man tittar på vilka som bygger våra digitala lösningar idag är drygt 80 procent av världens utvecklare män. Av dem är 75 procent vita med ursprung i Europa eller Nordamerika. Det är klart att den gruppen blir väldigt homogen, säger Melinda From på RISE.

– Det här ser vi symptom på i våra digitala produkter. Till exempel röststyrning som fungerar bättre för män eller ansiktsigenkänning som fungerar bra för vita ansikten men sämre för andra hudtoner.

Melinda From menar att våra tjänster synkar bättre med normen om de också utgår från normen, och däri problemet.

– Istället borde vi utveckla för dem som har svårast att använda de här tjänsterna.

Behöver hitta alternativa vägar

Som tjänstedesigner med öga för vad normer kan ställa till med listar Melinda From flera exempel på lösningar som landar snett. Ibland är det redan insamlad data som snedvrider utformningen, ibland är det inte givet att en digital tjänst löser hela problemet utan istället låser ute människor som saknar BankID eller tillräcklig datorvana.

– Någonstans måste det finnas alternativa vägar. Vi digitaliserar ibland in absurdum när vi istället borde utgå ifrån människors behov först.

Detta gäller både privat och offentlig sektor, och som invånare och skattebetalare kan man tycka att det offentliga Sverige ska finnas till för hela befolkningen, resonerar Melinda From. Hennes råd till utvecklare är att dra nytta av Sveriges diskrimineringslagstiftning som listar sju olika diskrimineringsgrunder.

– Mycket är vunnet om du i designfasen tänker in parametrar som kön, ålder, sexuell läggning, funktionsnedsättning, trosuppfattning, etnicitet och könsöverskridande identitet eller uttryck. Sedan finns så klart även andra perspektiv som inte är fästa i lag, stad och land är ett exempel, säger Melinda From

Satsning på inkluderande systemomställning

På RISE arbetar ett antal tjänste- och interaktionsdesigner. Här finns även flera normkritiska experter som kan hjälpa till att granska ur ett systemperspektiv och i tidig fas prototypa lösningar i ”verkliga livet”.

–Vi stöttar både offentlig sektor och näringsliv, bland annat med att ta fram underlag för långsiktiga strategier, genomföra normkritiska analyser, etablera systemdemonstratorer för normförflyttning och bidra till inkluderande innovationer och ett inkluderande innovationssystem, avslutar Melinda From.