Algoritmernas makt: Riskerna med AI-formade rekommendationer
Algoritmiska rekommendationer som till exempel strömningstjänster som Spotify och Netflix men delvis även generativ AI som ChatGPT kan ge, är resultatet av en algoritmisk analys som bygger på de val du gjort tidigare kombinerat med ett försök att förstå vilka val människor som är lika som du har gjort tidigare.
Enligt Mikko Vesa kan AI-plattformar användas för att organisera verksamhet på tre sätt. Det finns dels plattformar som organiserar ett helt företag, som till exempel Wolt eller Bolt, där algoritmen helt konkret delar ut arbetsuppgifter till arbetstagarna.
Därutöver finns det plattformar som skapar en hel marknad där det klassiska exemplet är Airbnb, som uppfann en helt ny marknad och styr över den.
- Vi har tittat på en tredje variant där man bara har individen och AI-verktyget. AI-svaren reflekteras enbart tillbaka på individen och över en längre tid kan det här få konsekvenser. Till exempel kan det försvaga människans förmåga att agera moraliskt om vi enbart kommunicerar med ett AI-system. Normalt får vi ju respons av andra människor på de val och handlingar vi gör, säger Vesa.
Vesa ser också en risk i hur våra kunskaper och förmågor utvecklas. Frågan är om vi har egna kunskaper och förmågor om vi enbart konsulterar AI-system i vårt arbete.
- AI skapar också ett visst mått av isolation. Redan idag går kodningsarbete ofta ut på det att man grälar med Chat GPT för att skapa en fungerande kod. Många initiativ man gjort för att återsocialisera arbetstagarna efter covidpandemin blir egentligen omintetgjorda ifall arbetstagarna bara sitter och jobbar med AI-system.
En följd av isolationen är en förhöjd känsla av ensamhet, vilket i sin tur kan leda till att man tyr sig till ytterligare AI-styrda system.
- Om man inte längre hittar sin plats i samhället så skapas algoritmiskt en människogrupp där man kanske hittar en social identitet som man känner samhörighet till, men man kan egentligen aldrig vara säker på att den här gruppen ens finns på riktigt!
Samhälleliga följder av algoritmiska rekommendationer
Följderna på ett samhälleligt plan av en ökande grad av algoritmiska rekommendationer kan bli långtgående. Ett demokratiskt samhälle bygger på att man hittat ett system där människor med olika synsätt och värderingar kan styra tillsammans genom någon form av kompromiss.
- Om man aldrig behöver bemöta människor som tänker annorlunda, så får man en väldigt stark bubbeleffekt. Vi ser det här till exempel i USA, Storbritannien och Tyskland där man har en polarisering av ideologier. De här grupperingarna har nästan inte någon förmåga till dialog längre.
Vesa konstaterar att Norden tills vidare klarat sig undan det här fenomenet, vilket han tillskriver vår starka enhetskultur.
- Små länder brukar överhuvudtaget ha en mycket stark enhetskultur, det vill säga att man ganska långt har gemensamma värderingar och normer. I Norden är det verkligen på det här viset. Vi har också ett tillitsbaserat samhälle där vi känner att vi kan lita på varandra och på samhällsledningen. Hittills har det skyddat oss, men vem vet hur länge?
Hur kan man då motverka de negativa följderna av AI:s starka intåg?
Enligt Vesa krävs det ofta en kollektiv upplevelse av att det gått alltför långt för att det ska ske en motreaktion. Det händer inte lätt utan enligt honom måste situationen bli ganska extrem först.
- Flykten från Twitter/X som vi sett under det senaste året kanske är ett exempel på att när det blir för mycket så skapas det ett kollektivt motstånd mot det man matas med. Men när det gäller algoritmiska rekommendationer varierar graden av pessimism bland forskarna om det alls kommer att komma en motreaktion.
Läs mera om Mikko Vesas och Frank den Honds forskning i deras artikel i den vetenskapliga tidskriften Organization: Mirror, mirror on the screen, “Wherein can I find me?” – On the sublime qualities of AI recommendation systems, algorithm conformity, and the else
Mikko Vesa talade på Hanken Insights-evenemanget How is AI impacting work-life and organisations today? som hölls 15.5.2025 på Svenska handelshögskolan. Läs mera om evenemanget här: Petri Kokko på Hanken Insights: “Förmågan att lära sig är den verkliga superkraften i AI-eran”
Text: Marlene Günsberg
Foto: Privat, Matilda Saarinen