OpenAI Čelí Stížnosti na Ochrana Soukromí Poté, co ChatGPT Falešně Obviní Uživatele z Vraždy

Evropská nezisková organizace noyb podporuje norského uživatele ChatGPT při podání formální stížnosti proti americké společnosti, poté co ho chatbot nepravdivě obvinil z vraždy jeho dvou dětí.

Evropská nezisková organizace noyb podporuje norského uživatele ChatGPT při podání formální stížnosti proti americké firmě, poté co ho chatbot nepravdivě obvinil z vraždy jeho dvou dětí.

noyb, také známé jako Evropské centrum pro digitální práva, sdílelo oficiální dokument detailně popisující případ, varuje před rizikem halucinací chatbotů v osobním životě lidí a zdůrazňuje význam respektování Obecného nařízení o ochraně údajů (GDPR).

Podle informací a stížnosti, kterou sdílel noyb, norský občan Arve Hjalmar Holmen se ChatGPT zeptal, kdo je, a byl šokován, když četl falešný a děsivý příběh o vraždě, který tvrdil, že zabil své dva syny, pokusil se zavraždit třetí dítě a byl odsouzen na 21 let vězení.

“Má rodinu se třemi syny. Je to, co lidé nazývají ‘obyčejný člověk’, což znamená, že není slavný ani veřejnosti známý,” uvádí stížnost Noyba. “Nikdy nebyl obviněn ani odsouzen za žádný zločin a je svědomitým občanem.”

noyb vysvětluje, že kromě nebezpečně falešných informací je dalším velmi znepokojivým aspektem odpovědi to, že ChatGPT použil skutečné osobní informace k vytvoření příběhu. Chatbot zahrnul jeho skutečné rodné město, počet dětí, které má, jejich pohlaví a dokonce i podobné rozdíly ve věku.

„Někteří si myslí, že ‚kde je dým, tam je oheň‘. To, že by někdo mohl číst tuto výstupní zprávu a věřit, že je pravdivá, mě děsí nejvíce,“ řekla Arve Hjalmar Holmen.

Noyb zdůrazňuje, že se nejedná o izolovaný případ a již dříve podali stížnost proti OpenAI ohledně nesprávných údajů – datu narození – veřejně známé osobnosti, které nebylo opraveno. OpenAI zahrnulo upozornění poté, co se mnoho lidí stěžovalo na nepřesné informace v loňském roce. Ale mnoho organizací, včetně noyb, věří, že to nestačí.

„GDPR je jasné. Osobní údaje musí být přesné. A pokud nejsou, uživatelé mají právo je nechat změnit tak, aby odrážely pravdu,“ řekl Joakim Söderberg, právník pro ochranu dat v noyb. „Zobrazování uživatelům ChatGPT malého upozornění, že chatbot může udělat chyby, rozhodně nestačí.“

🚨 Dnes jsme podali naši druhou stížnost na OpenAI kvůli problémům s halucinacemi ChatGPT

👉 Když se norský uživatel zeptal ChatGPT, zda má o něm nějaké informace, chatbot si vymyslel příběh, že zabil své děti.

Dozvědět se více: https://t.co/FBYptNVfVz pic.twitter.com/kpPtY1ps25

— noyb (@NOYBeu) 20. března 2025

Noyb také podal stížnost proti X v loňském roce za využití osobních údajů více než 60 milionů Evropanů k výcviku svého AI chatbotu Grok.