Humanoid robot sida vid sida med människor i en industrikontext

EdgeWise: Säkra AI-modeller för humanoida robotar

EdgeWise utvecklar metoder för att göra AI-styrda humanoida robotar säkrare, snabbare och mer tillförlitliga. Projektet fokuserar på hur så kallade Vision-Language-Action-modeller (VLA) kan användas i verksamhetskritiska miljöer där uppkopplingen är begränsad och systemen riskerar att utsättas för angrepp eller manipulation.

Behovet av säkra och robusta VLA-system

Humanoida robotar som drivs av Vision-Language-Action-modeller har potential att förändra områden som hälso- och sjukvård, byggsektorn, sök- och räddningsinsatser samt andra arbetsintensiva eller riskfyllda verksamheter. Dagens VLA-arkitekturer är dock i hög grad beroende av molnbaserade modeller för resonemang, vilket skapar fördröjningar och kräver stabil uppkoppling. Det gör dem mindre lämpade för många verkliga miljöer, exempelvis katastrofområden, underjordsgruvor eller avlägsna vårdmiljöer.

VLA-system genererar dessutom ofta svårtolkade handlingsrepresentationer som är svåra att granska eller verifiera, vilket innebär betydande säkerhetsrisker. Nya studier visar att robotar som styrs med språkmodeller kan manipuleras till att utföra osäkra handlingar, vilket understryker behovet av större transparens och formella säkerhetsgarantier.

EdgeWise adresserar dessa begränsningar genom att kombinera edge computing, effektiva mekanismer för modelldelning och formella verifieringsmetoder för att möjliggöra säkra, robusta robotsystem med låg latens.

Målsättning med projektet

De huvudsakliga målen är att:

Utforma en ny VLA-arkitektur i tre nivåer (på enheten, edge och moln) för att minska fördröjningen i hela styrloopen och öka robustheten vid instabila nätverksförhållanden.
Möjliggöra effektiv användning av edge-modeller för flera samtidiga användare genom att komprimera finjusterade modeller till lätta adaptrar som delar en gemensam basmodell. Det förbättrar resursutnyttjandet avsevärt.
Introducera verifierbar och tolkningsbar planering av utförandet, där robotar genererar strukturerad kod från instruktioner i naturligt språk och använder formella verifieringsmetoder för att säkerställa korrekthet och säkerhet innan koden körs.

Tvärdisciplinärt samarbete

EdgeWise är ett samarbete mellan RISE och KTH och kombinerar kompetens inom:

distribuerade system och orkestrering mellan edge och moln
maskininlärningssystem och driftsättning av stora modeller
formell verifiering och säkra mjukvarusystem
robotik och experimentella testmiljöer

Projektet förenar forskning inom system, optimering av AI-modeller, nätverksteknik som 5G/6G och formella metoder. Den experimentella plattformen omfattar robotsystem som är anslutna till privat 5G-infrastruktur och forskningsresurser i datacenter, vilket möjliggör kontrollerade tester av latens, robusthet och säkerhetsmekanismer.