Kontaktperson
Anonymization Defense GUARD
Anonymization Defense GUARD ([GU]arding [A]nonymization p[R]oce[D]ures) syftar till att undersöka och åtgärda sårbarheter i användningen av anonymiseringsmetoder som bygger på ansiktsmanipulation.
Bland annat bilindustrin förlitar sig på datahungriga AI-system, som objektdetektering, för att uppnå sitt mål. Att samla in tillräckligt med data för dessa system väcker frågor om integritet och dataintegritet Branschen undersöker därför metoder för att direkt anonymisera data och ta bort identitetsinformation samtidigt som attribut-information bevaras. Det finns redan forskning och tjänster för att hantera denna utmaning.
GUARD syftar till att undersöka sårbarheter i användningen av ansiktsmanipulationsbaserade anonymiseringsmetoder som FaceDancer (Rosberg, 2023). Illvilliga aktörer kan träna kontradiktoriska AI-modeller för att rekonstruera ursprungliga identiteter i händelse vilket leder till att anonymisering misslyckas.
GUARD bygger på resultaten och slutsatserna från MIDAS-projektet.
Sammanfattning
Projektnamn
GUARD
Status
Pågående
Region
Västra Götalandsregionen
RISE roll i projektet
Projektledning, forskning
Projektstart
Varaktighet
Två år
Total budget
Drygt 7,5 miljoner kronor
Partner
Engage Studios AB, Högskolan i Halmstad
Finansiärer
Vinnova - utlysningen "Cybersäkerhet för industriell avancerad digitalisering 2023, Avancerad Digitalisering
Projektmedlemmar
