När AI-agenter tar över allt mer av utförandet skiftar den knappa resursen. Det är inte längre produktionsförmågan som bromsar. Det är de kognitiva kraven på människan: att förstå tillräckligt mycket av vad som pågår för att kunna styra, bedöma och fatta rätt beslut.
Agentisk AI beskrivs ofta som en produktivitetsteknik. Det stämmer. För större uppgifter handlar det ofta inte om att ge en enda agent allt ansvar, utan om att låta flera agenter arbeta med olika delar av processen: skriva kod, köra tester, felsöka, granska resultat och föreslå nästa steg. Med allt kraftfullare verktyg kan uppgifter som nyligen krävde ett helt mjukvaruutvecklingsteam ibland utforskas eller drivas långt av en enda utvecklare med en laptop, några promptar och en uppsättning agenter.
Men berättelsen slutar inte där. I takt med att agenterna tar över mer av utförandet förändras den mänskliga rollen. Den försvinner inte. Det som väger tyngst är inte längre främst teknisk skicklighet eller skrivhastighet, utan förmågan att hålla ihop bilden: att förstå tillräckligt mycket av vad som pågår för att kunna styra processen, väga alternativ och avgöra vad som faktiskt spelar roll.
– Vi använder gamla gränssnitt för ny teknik, säger Laurynas Adomaitis, AI-forskare på RISE.
Från kodskrivande till produktionsledning
Idén om den "mörka mjukvarufabriken" – en fabrik så automatiserad att inga människor behöver vara på golvet – har börjat dyka upp i AI-kretsar som en metafor för hur mjukvaruutveckling kan komma att se ut. OpenAI har exempelvis släppt Symphony, en öppen specifikation som gör ett vanligt ärendesystem till ett slags kontrollplan för kodande agenter.
– Du leder produktionen av mjukvara på en hög nivå. Du ger uppgifter. Sedan skriver agenterna koden, granskar den, testar den och gör resten, säger Laurynas Adomaitis.
Det sker redan idag. Kodagenter bygger prototyper, felsöker system och jobbar direkt i utvecklingsmiljöer. På RISE Mimer AI-fabrik dyker startups regelbundet upp efter att ha "vibe-kodat" en fungerande produkt, och tonåringar bygger appar som tjänar pengar på samma sätt.
Men fabriksmetaforen kan vilseleda. En fysisk mörk fabrik producerar standardiserade saker. Kunskapsarbete är annorlunda – det handlar inte bara om att utföra, utan om ett kontinuerligt flöde av val: vad ska byggas, hur ska målet tolkas, vilka kompromisser är rimliga?
– Varje icke-trivialt projekt stöter på komplexitet, säger Sverker Janson, föreståndare för Centrum för tillämpad AI på RISE. Det finns många val och riktningar, och jag behöver hålla agenten i handen och styra den.
Den nya flaskhalsen
En enskild kodagent är hanterbar. Flera agenter som kör parallellt kan ge stor kraft. Men någonstans längs vägen blir människan själv flaskhalsen.
– Jag har sju parallella agentterminaler öppna just nu, säger Sverker Janson.
Laurynas Adomaitis känner igen mönstret.
– Folk gör så. Det fungerar. Men som gränssnitt är det väldigt dåligt. Det visualiserar ingenting. Du vet inte vad de olika agenterna gör, var i processen de befinner sig eller hur de hänger ihop.
Dagens gränssnitt – chattfönster, kommandorader, ärendelistor – är arv från äldre arbetssätt. De var inte byggda för att övervaka flera halvautonoma system som agerar, skapar och samordnar sig på en gång. Agenter kan producera mer information, fler alternativ och fler halvfärdiga resultat än vad en människa hinner ta in. Det knappa är inte längre hur snabbt systemet kan producera, utan hur snabbt en människa kan förstå, utvärdera och styra om det som produceras.
Gränssnitten måste hänga med
Det finns ett begrepp inom filosofin som kallas affordances: gränssnitt gör vissa handlingar enkla och naturliga, medan andra kräver mer ansträngning eller blir osynliga. Vilket gränssnitt du väljer styr därför inte bara hur du arbetar, utan också vad du bygger.
Laurynas Adomaitis har undersökt hur realtidsstrategispel kan fungera som metafor: agenter representeras rumsligt, kan grupperas, stoppas och startas med enkla kommandon. Gränssnittet behöver inte se ut som ett spel. Poängen är att om agentisk AI ska bli ett verktyg för storskaligt kunskapsarbete måste människor kunna röra sig smidigt mellan nivåer – från övergripande mål till konkreta resultat, från strategiska vägval till direkta ingripanden.
Nästa generations AI-gränssnitt kan bli mindre som ett chattfönster och mer som en arbetsmiljö för tänkande, delegering och kontroll.
Tillit kräver medvetna felmarginaler
Om du inte kan granska varje åtgärd en agent vidtar – hur ska du då kunna lita på systemet?
Ett lockande svar är att kräva fullständig validering i varje steg. I praktiken kan det sätta hela arbetet på paus. Laurynas Adomaitis beskriver ett experiment där flera agenter fick köra i två veckor med målet att producera en större mjukvaruprodukt mer eller mindre från grunden. Resultatet nåddes först när agenterna fick utrymme att vara ofullkomliga – när varje steg behövde valideras helt fastnade systemet i loopar och kom inte vidare.
– Om koden är 95 procent korrekt, committa den, så löser den resten senare, säger Laurynas Adomaitis.
Det är inte ett argument för blind tillit. Det är ett argument mot föreställningen att meningsfull kontroll kräver att allt inspekteras. Vi arbetar redan så i team: vi delegerar, gör antaganden, upptäcker fel och rättar dem. Det avgörande är inte att varje mellanled är felfritt, utan att processen kan följas, justeras och styras tillbaka mot målet.
Vilken sorts loop ska människan vara i?
Debatten om agentisk AI handlar ofta om vad som kan automatiseras. Men den mer intressanta frågan är vad som blir viktigare för oss människor när utförandet inte längre är det knappa.
Det handlar kanske om att formulera problem, sätta riktning, tolka delresultat och skydda tid för eftertanke. Väl utformade system kan ge verklig hävstång: det blir lättare att utforska alternativ, bygga prototyper och ta fram verktyg anpassade för ett specifikt sammanhang. Men det kräver att gränssnitt, organisationer och arbetsformer designas med det syftet i åtanke.
– Vi behöver positiva visioner som vi verkligen försöker förverkliga, säger Sverker Janson, i stället för att dras, skrikande och sparkande, in i den situation som de ekonomiska krafterna skapar.
Designfrågan är akut. Inte: hur tar vi bort människan ur loopen? Utan: vilken sorts loop ska människan vara i?
Vill du veta mer? Kontakta Laurynas Adomaitis eller Sverker Janson på RISE.
