När varje beslut är rationellt, och resultatet ändå blir fel

Vi oroade oss för att unga kvinnor jämförde sig med retuscherade bilder. Nu kan vem som helst använda generativ AI för att klä av, sexualisera och pornografisera en verklig kvinna utan att hon någonsin har tagit av sig kläderna.

Vi talade om sociala medier som en demokratisk revolution. Nu används samma plattformar för att sprida propaganda, förstärka motsättningar och försöka påverka val.

Inget av detta var teknikens ursprungliga löfte, men allt fanns inbyggt i möjligheten. Det här är inte en argumenterande text mot digitalisering. Tekniken har fört människor samman, spridit kunskap och skapat nya former för kreativitet, företagande och delaktighet. Spelvärldar kan ge barn gemenskap. Sociala medier kan ge människor en röst. Generativ AI kan göra kunskap och skapande tillgängligt för fler. Men just därför måste vi kunna hålla två tankar i huvudet samtidigt; teknik kan vara både frigörande och farlig. Något kan vara lagligt, efterfrågat och tekniskt briljant och ändå få konsekvenser som vi inte borde acceptera.

När ansvaret inte följer rådigheten

Vi har länge behandlat sociala medier, digitala spel och generativ AI som produkter på en marknad. Men de har blivit något större: miljöer där barn leker, relationer skapas, identiteter formas, nyheter distribueras och demokratins samtal utspelar sig, de har blivit samhällsinfrastruktur.

Samtidigt har mycket av ansvaret placerats hos dem som har minst möjlighet att påverka systemen: Barnet ska blockera groomaren, föräldern ska kontrollera skärmtiden, kvinnan ska anmäla den falska bilden, medborgaren ska genomskåda propagandan.

En enskild användare kan emellertid inte granska en rekommendationsalgoritm, upptäcka systematiska kontaktmönster eller bedöma hur en plattform har testat sina säkerhetsfunktioner. Ansvar behöver följa rådighet: Den som kan utforma miljön, analysera mönstren och minska riskerna måste också bära ett större ansvar för att göra det.

Frågan har nu fått ytterligare politisk aktualitet. I en debattartikel i Dagens industri konstaterar Liberalerna att techjättarnas brist på ansvarstagande är ett globalt problem. När bolagen prioriterar vinst framför ansvar för det som sprids på plattformarna måste staten kliva fram och sätta tydligare regler. Det är en viktig markering, men den väcker också nästa fråga: Vad krävs för att politisk vilja, nya regler och myndighetsuppdrag faktiskt ska förändra de digitala miljöerna?

Från politisk riktning till styrförmåga

Något håller på att förändras. EU:s reglering börjar nå plattformarnas arkitektur: algoritmerna, standardinställningarna, belöningssystemen, annonseringen och företagens egna riskbedömningar. I Sverige börjar digitalt våld behandlas som verkligt våld och barns trygghet på nätet som ett ansvar för fler än familjen. Det är viktiga förflyttningar, men en strategi är inte samma sak som ett fungerande skydd, ett regeringsuppdrag är inte samma sak som förändrade plattformsfunktioner, ett möte med teknikbolagen är inte samma sak som bindande ansvar.

Problemet är alltså inte bara att regler har saknats. Vår förmåga att upptäcka konsekvenser, samla signaler och kalibrera om har också varit svagare än teknikens förmåga att förändra samhället. Det är skillnad mellan att ha regler och att ha styrförmåga. Styrförmåga är att tidigt upptäcka när en till synes neutral funktion får skadliga effekter. Att låta erfarenheter från barn, kvinnor, skolor, polis, forskning och civilsamhälle nå hela vägen fram till dem som kan förändra systemen. Att veta när en insats ska förstärkas, göras om eller avslutas.

Tydligare spelregler behöver inte stå i motsats till innovation, de kan ge seriösa företag bättre förutsättningar att utveckla tjänster som människor vågar använda och lita på. Vi behöver alltså inte mindre teknikutveckling, vi behöver större samhällelig förmåga att styra teknikutvecklingens konsekvenser.

Att kalibrera om är inte att backa från digitaliseringen, det är att göra den starkare: genom att bygga miljöer där barn kan utforska tryggt, kvinnor delta utan att deras kroppar används som vapen och tekniken stärker det demokratiska samtalet.

Jag utvecklar resonemanget i essän ”När varje beslut är rationellt, och resultatet ändå blir fel: Om digitaliseringens spelregler och samhällets förmåga att kalibrera om.” Länk här nedanför!