Hoppa till huvudinnehåll
RISE logo

Säkerhetsanalys och validering av system baserade på maskininlärning

För att öka automationsgraden i nya fordon behövs maskininlärningsarkitekturer vars beteende inte kan garanteras av traditionella testmetoder. SMILE II fokuserar på att öka kunskapen kring test av dessa arkitekturer. Speciellt utvecklas system för att jämföra data från träningsfasen med data under drift i nya verkliga trafikmiljöer.

Syfte och mål

Ökad förståelse kring metoder som kan användas för verifiering och validering av deep machine learning-baserade system inom säkerhetskritiska tillämpningar. Följande forskningsfrågor studeras inom projektet:

Hur kan modellprestanda övervakas när modeller del-tränas med olika dataset?

Hur kan ny data användas för att uppdatera modeller och samtidigt bibehålla säkerhet?

Utmaning

Kritiska delar ur funtionssäkerhetsstandarden ISO26262 är inte definierade för autonoma system och dess processkrav och rekommendationer är inte applicerbara för utveckling av maskininlärning inom specifikation, design och test.

Lösning

Projektet studerar möjligheten att designa en säkerhetsbur för att monitorera insignaler till DML-modellen som används i ett fordon för att känna igen sin omgivning.

Effekt

För att realisera automatiserade fordon behövs perceptionssystem som kan tolka fordonets omgivning. För att kunna tolka dynamiska miljöer såsom trafik behöver systemen använda maskininlärning, som har förmåga att lära sig av historiska händelser. Detta projekt gör det möjligt för det autonoma systemet att lita på att systemet känner igen sin omgivning.


Sammanfattning

Projektnamn

SMILE II

Status

Pågående

Ämnesområde

Artificiell intelligens, Mobilitet, Sensorik och perception, Automatiserade fordon, Transportsystem

Region

Västra Götalandsregionen

RISE roll i projektet

Projektledare

Projektstart

Varaktighet

2017-10-01 – 2019-09-30

Total budget

9 455 000

Partner

Finansiärer

Cristofer Englund

Kontaktperson

Cristofer Englund

Research Manager

+46 10 228 40 26
cristofer.englund@ri.se

Läs mer om Cristofer