AI-agenter kan skapa effektivisering och kostnadsbesparingar, men den självgående tekniken kommer också med utmaningar kopplade till säkerhet och transparens.
– Möjligheterna och riskerna är i princip desamma som för AI-modeller generellt – men på steroider, säger experten Stella Riad.
AI-agenter och agentsystem är i ropet, men vad är det egentligen?
– En AI-agent är ett AI som kan agera självständigt för att uppnå specifika mål. Agenter har funnits länge, men det som är nytt är agentsystem som består av nya typer av AI. Det kan handla om språkmodeller som gör saker tillsammans, orkestrerade av en dirigent. Ibland är det en människa, ibland en AI som styr de andra, säger Stella Riad, chef för avdelningen Industriella system på RISE.
AI-agenter, ofta språkmodeller men även andra typer av AI, agerar autonomt för att uppnå ett mål. Det kan vara att ta del av instruktioner, bryta ner målet i delmål, söka på webben och analysera data samt sammanställa rapporter. AI-agenter klarar uppgifter som kräver flera steg och de kombinerar olika typer av verktyg för att utföra dessa. När flera agenter samverkar kallas det för ett agentsystem.
Strategi för AI-agenter – utgå från behoven
Tekniken lämpar sig för att lösa komplexa, repetitiva uppgifter, som att skriva kod eller hantera mejlkorgar. Det finns även exempel där agentsystem har kunnat ersätta hela team av omvärldsanalytiker. Agenter kan till skillnad från mänskliga analytiker vara ute på nätet och inhämta information dygnet runt. Men tekniken är inte lösningen på allt:
– Handlar det om en rättfram utmaning behöver du inte en agent, den kan lösas med en enklare modell. Rätt verktyg för rätt problem, säger Stella Riad.
På RISE arbetar flera hundra medarbetare med AI-relaterade frågor tvärs över hela organisationen. Dessutom finns ett center med fokus på tillämpad AI samt flertalet test- och demonstrationsmiljöer och innovationshubbar. Organisationer och företag som vill utforska möjligheterna med AI-agenter kan få hjälp med allt från teknik- och systemutveckling och utformning av prototyper, till vägledning kring mer strategiska frågor.
– Ingången i alla typer av AI-projekt bör vara att undersöka vilka behov som finns i organisationen. Vilka problem vill ni lösa? Vad skulle ni kunna åstadkomma med den här tekniken? Sedan tycker jag att man ska fundera på människans roll i förhållande till AI i allmänhet och agenter i synnerhet. Att definiera tydliga roller och ansvarsområden är viktigt, både för riskhantering och skalbarhet, säger Stella Riad.
Potentialen med AI-agenter är makalöst stor, men spring inte in i tekniken utan en tydlig plan
Agentsystemets svarta låda
Tanken med AI-agenter är att de ska kunna arbeta autonomt, utan en människas handpåläggning. Upplägget kommer med frågor kring säkerhet, förklarbarhet och transparens.
– Problem, som hallucinationer, som förekommer vid användning av språkmodeller riskerar att bli mångfalt större i ett agentsystem. Det handlar inte om att addera osäkerheter, utan att multiplicera dem, säger Stella Riad och fortsätter:
– Frågan om förklarbarheten kräver en avvägning. Antingen låter vi systemet vara en svart låda och accepterar att vi inte kommer ha alla detaljer kring hur ett beslut har fattats. Eller så öppnar vi den svarta lådan och får en sämre prestation när processen behöver förenklas för att bli begriplig för oss människor.
Agenter som hämtar information på nätet kan förgiftas av illvilliga aktörer, eller läcka uppgifter längs vägen. Det går till viss del att förhindra att det sker, genom att begränsa vilka domäner agenten får besöka och säkerställa att den inte bär på känslig eller affärskritisk information.
Stella Riads budskap är tydligt:
– Potentialen med AI-agenter är makalöst stor, men spring inte in i tekniken utan en tydlig plan.
AI-agenter
En AI-agent är ett autonomt system som använder AI för att interagera med omgivningen, fatta beslut och utföra uppgifter utan konstant mänsklig inblandning. Skillnaden mot AI-assistenter är att AI-agenter inte behöver direkt input från en människa för att agera och lösa en uppgift.
