SMILE - Säkerhetsanalys och validering av system baserade på maskininlärning

Framtida autonoma fordon kommer att förlita sig på djupa inlärningsalgoritmer (DML), vars korrekta beteende inte kan garanteras genom traditionella mjukvaruteknik. Denna osäkerhet är ett stort hinder för att säkerställa kvaliteten på system som använder DML, särskilt i fordonssäkerhetskritiska applikationer. SMILE-programmet har föreslagits att hantera denna utmaning genom att utveckla metoder (er) som gör att DML-baserade funktioner kan inkluderas i säkerhetskritiska fordonsapplikationer med kvalitetskrav från industriella standarder.

SMILE-programmet består av flera delforskningsprojekt:

• SMILE I-projektet studerade state-of-the-art inom Verifiering och Validering för DML-system och kartläggning av de utmaningar som bilindustrin står inför. SMILE I kom fram till att vi borde fokusera på ett Safety Cage-koncept inom ett uppföljningsprojekt.
• SMILE II-projektet undersökte de senaste fordonssäkerhetsstandarderna: (i) ISO 26262 - funktionssäkerhet, och som nyligen kompletterats med (ii) PAS-specifikation av SOTIF  ISO 21448 - säkerhet för den avsedda funktionaliteten; projektet implementerade och testade ett antal  Safety Cage-koncept i flera simulatorer, utvecklade ett omfattande ramverk för jämförelse av  Safety Cage-motoder  och utvecklade basen för en framtida forskningsverktygslåda inklusive genererade data set för att träna DML-system för end-to-end autonom körning. SMILE II kom bl.a. fram till att ISO 26262 ensam inte kan rymma ML-baserade system, komplementet med den senast publicerade SOTIF (2019) kommer att vara mer tillämplig. I sin PAS-utgåva fokuserade SOTIF emellertid bara på vad som bör täckas under systemtekniken, och lämnar hur man kan uppnå dessa mål till oss och andra forskare att utveckla.

Med framgångarna inom, och lovande resultat från, SMILE I / II kommer SMILE III-projektet att vidareutveckla Safety Cage-koncept till en referenssystemarkitektur och prototyp(er), tillsammans med datahanteringsmetoder, vilket underlättar efterlevnaden av de utvecklande säkerhetsstandarderna.