Autonomy bound by Assurance

Cyberfysikaliska system (drönare, markrobotar och humanoidrobotar) står inför ett paradigmskifte. AI möjliggör autonoma tjänster och uppdrag även i komplexa miljöer. Projektet ABBA-AI skapar samverkan för ett säkert införande av autonoma system i samhället.

AbbA-AI (Autonomy Bound By Assurance, a transatlantic framework for risk-reducing applied AI) etablerar en transatlantisk innovationsbrygga för säker autonomi i cyberfysiskaliska system – från drönare till humanoidrobotar. Projektet adresserar ”assurance gap” och ”autonomy creep”: att AI-funktioner gradvis får större handlingsutrymme utan motsvarande ansvar, spårbarhet och styrförmåga. Genom närvaro i Silicon Valley (inkl. NVIDIA GTC) byggs partnerskap som förenar USA:s AI-prestanda med svensk systemsäkerhet för industri och försvar.

Leverabler: gap-analys av standarder, policy och regelverk för autonomi, och konsortium för steg 2 – ett ramverk för säkra autonoma system.

Upplägget följer tre faser:

(1) Förberedelser i Sverige: kartläggning av humanoid- och dual-use-aktörer, definition av ”assurance controls” mot autonomy creep (identity, shutdown, insurance, risk-rekursion) samt pitchmaterial.

(2) Genomförande i USA: NVIDIA GTC, riktade möten med AI/humanoid- och försvarsautonomiaktörer samt workshops.

(3) Efterarbete: syntes, gap-analysrapport, LoI/Joint Concept Note och konsortium inför steg 2.