OpenAI möter integritetsklagomål efter att ChatGPT felaktigt anklagar användare för mord

Den europeiska ideella organisationen noyb stödjer en norsk användare av ChatGPT i att lämna in ett formellt klagomål mot det amerikanska företaget efter att chatboten falskt anklagat honom för att ha mördat sina två barn.

Den europeiska ideella organisationen noyb stödjer en norsk användare av ChatGPT i att lämna in ett formellt klagomål mot det amerikanska företaget efter att chatbotten felaktigt anklagat honom för att ha mördat sina två barn.

noyb, även känt som European Center for Digital Rights, delade ett officiellt dokument som detaljerat beskriver fallet, varnar för risken för chatbot-hallucinationer i människors personliga liv, och understryker vikten av att respektera allmänna dataskyddsförordningen (GDPR).

Enligt informationen och klagomålet som noyb delade, frågade den norska invånaren Arve Hjalmar Holmen ChatGPT vem han var och blev chockad när han läste en falsk och skrämmande mordhistoria, som påstod att han hade dödat sina två söner, försökt mörda ett tredje barn, och blivit dömd till 21 års fängelse.

“Han har en familj med tre söner. Han är vad folk kallar en ‘vanlig person’, vilket innebär att han inte är känd eller igenkänd av allmänheten,” framgår det av Noybs klagomål. “Han har aldrig anklagats eller dömts för något brott och är en samvetsgrann medborgare.”

noyb förklarar att, förutom den farligt falska informationen, är en annan mycket oroande aspekt av responsen att ChatGPT beaktade verklig personlig information för att skapa historien. Chatten inkluderade hans faktiska hemstad, antalet barn han har, deras kön, och till och med liknande åldersskillnader.

“Vissa tror att ‘det finns ingen rök utan eld’. Det faktum att någon skulle kunna läsa det här svaret och tro att det är sant, är det som skrämmer mig mest,” sade Arve Hjalmar Holmen.

noyb betonar att detta inte är ett isolerat fall, och de har tidigare lämnat in en klagan mot OpenAI om felaktig information – födelsedatum – från en offentlig person som inte har korrigerats. OpenAI inkluderade en friskrivning efter att många klagade över felaktig information förra året. Men många organisationer, inklusive noyb, anser att det inte är tillräckligt.

“GDPR är tydlig. Personuppgifter måste vara korrekta. Och om de inte är det, har användare rätt att få dem ändrade för att återspegla sanningen,” sa Joakim Söderberg, dataskyddsadvokat på noyb. “Att visa ChatGPT-användare en liten friskrivning om att chatten kan göra misstag är uppenbarligen inte tillräckligt.”

🚨 Idag lämnade vi in vår andra klagomål mot OpenAI om hallucinationsproblem med ChatGPT

👉 När en norsk användare frågade ChatGPT om den hade någon information om honom, hittade chatten på en historia om att han hade mördat sina barn.

Läs mer: https://t.co/FBYptNVfVz pic.twitter.com/kpPtY1ps25

— noyb (@NOYBeu) 20 mars, 2025

noyb lämnade också in ett klagomål mot X förra året för att ha använt personuppgifter från över 60 miljoner européer för att träna sin AI-chattbot Grok.