Så jobbar RISE med AI

AI (artificiell intelligens) är förutom ett av våra många forskningsområden ett verktyg och en möjliggörare som används i många olika sammanhang av oss på RISE. Vi eftersträvar ett ansvarsfullt och nyfiket angreppssätt som skapar mesta möjliga nytta för våra kunder, partners, ägare och medarbetare.

Vi ser en stor potential till värdeskapande med AI. Vi är i grunden positiva till ny teknik och innovation och har som grundprincip att föregå med gott exempel. Det gäller också ansvarsfull utveckling och användning av AI – även där lagar och regler eller praxis saknas.

Antalet AI-tekniker och tillämpningar är stort och vi gör vi bedömningar löpande för att säkerställa att nyttan står i proportion till en eventuell risk för negativ påverkan. Vår inställning är att vi ska dra nytta av fördelarna med AI i vår forskning och verksamhet – men att det inte ska ske på bekostnad av hälsa, miljö eller mänskliga rättigheter.

Vi följer våra internt framtagna riktlinjer som innefattar flera olika aspekter: etiska, säkerhetsmässiga och legala. Dessa riktlinjer gäller alla som för RISE räkning köper in, utvecklar, ändrar eller använder AI. Utöver detta har vi specifika riktlinjer som gäller för användning av chattbotar och språkmodeller.

På RISE finns det alltid fysiska personer som bär ansvar för både användning och resultatet i de fall vi nyttjar AI. Ansvaret för ett resultat eller beslut kan aldrig delegeras till AI.

För att ge våra medarbetare kunskap om AI och kännedom om våra riktlinjer erbjuder vi interna utbildningar som leds av våra experter inom AI:s olika aspekter, exempelvis juridik. Medarbetare har också tillgång till våra experter som bollplank för att navigera rätt i frågor som rör möjligheter och eventuella risker med alltifrån utveckling till inköp och användning.

AI och säkerhet

Säkerhet inom AI-användning kan omfatta såväl informationssäkerhet, cybersäkerhet och personsäkerhet. RISE utvärderar samtliga aspekter när vi utvecklar och använder AI och eftersträvar att minimera mängden av data som behandlas för att minska risker, förbättra effektivitet samt stärka integritetsskyddet och på så sätt bidra till en hållbar AI-användning.

Inom forskningen kan det finnas en tolerans för prototyper och oprövade lösningar, men så fort system ska testas eller användas i verkliga förhållanden höjs kraven på säkerhet och robusthet avsevärt. Våra arbetssätt tar höjd för att hantera skillnaderna i krav.

AI och etik – inkludering, miljö och transparens

I RISE utveckling eller användning av AI säkerställer vi att systemet är jämställt och inkluderande. För att minimera och kunna åtgärda eventuella orättvisor finns möjlighet för den som möter ett AI-system att rapportera risker eller negativa konsekvenser. Vår ambition är också att våra lösningar skall ha så liten negativ klimatpåverkan som möjligt.

I takt med den ökade användningen av AI kan det vara svårt att avgöra vad som genererats eller modifierats med hjälp av AI. I enlighet med AI-förordningen märker vi upp bilder som genererats/modifierats med hjälp av AI. Ansvaret ligger i grunden på den person som genererar och delar material, men RISE jobbar också aktivt för att anpassa stöd och system så att det ska vara enkelt att göra rätt.

AI och juridik

Det finns flera lagstiftningar och regelverk som reglerar beståndsdelar inom AI. EU:s AI-förordning är central i RISE arbete med ansvarsfull AI och vi arbetar fokuserat med dess olika aspekter:

AI-förordningens riskbaserade system som klassificerar och rangordnar riskerna med olika AI-tillämpningar.
Vilka roller och vilket ansvar som AI-förordningen pekar ut bland aktörer i AI-värdekedjan.
Sju riskområden för AI som diskuteras i EU:s riktlinjer för tillförlitlig AI.

Särskilda villkor för forskning och utveckling

AI-förordningen undantar vetenskaplig forskning, utveckling, försvar och brottsbekämpning från delar av regelverket. Vi utvärderar och testar AI i forsknings- och innovationssyfte i kontrollerade miljöer och arbetar aktivt med att identifiera risker och att hantera dem. För AI som ska testas under verkliga förhållanden ökar kraven, vilket speglas i vårt arbetssätt.