Nytt forskningsprojekt undersöker hur statlig AI-användning kan gå fel och hur problemen kan lösas

AI används allt oftare av offentliga myndigheter för att förbättra samhällsservicen, från handläggning av förmånsansökningar till automatiserat beslutsfattande. Även om systemen lovar effektivitet och kostnadsbesparingar kan de också skapa allvarliga problem.

Felaktiga eller orättvisa beslut har fått medborgare att förlora förmåner de haft rätt till, vilket har lett till protester och rättsprocesser. Dessa har i sin tur orsakat ekonomiska förluster och skadat myndigheters anseende världen över.

– Vårt projekt syftar till att förstå varför dessa misslyckanden sker och hur de kan förhindras. För detta ändamål kommer vi att granska åtta verkliga fall av statliga AI-system från Europa och Australien. Fallstudierna ger insikter i vad som gick fel, varför det hände och vad vi kan lära oss av det, säger Rinta-Kahila, biträdande professor vid institutionen för företagsledning och organisation på Hanken.

Målet är i slutändan att hjälpa myndigheterna att implementera AI på ett ansvarsfullt sätt och hantera risker bättre. Genom att belysa hur skadliga AI system uppstår kommer forskningen att bidra till säkrare och mer rättvisa offentliga tjänster då automatiseringen ökar.

Det fyraåriga projektet finansieras av Finlands Akademi med drygt 700 000 euro.

Tapani Rinta-Kahila är biträdande professor vid Hanken från 1.4.2026, samt ARC DECRA Fellow vid The University of Queensland Business School. Rinta-Kahilas forskning fokuserar bland annat på frågor som rör införande och hantering av artificiella intelligenssystem i organisationer, teknikens skadliga konsekvenser och arbetets föränderliga karaktär. Hans arbete har publicerats i ledande tidskrifter, däribland MIS Quarterly och Journal of the Association for Information Systems, och han har mottagit utmärkelser såsom Stafford Beer medaljen, AIS Senior Scholar Best IS Publication Award och AIS Early Career Award.

Text: Marlene Günsberg
Bild: University of Queensland