Apple vyzván k odstranění funkce AI po kontroverzi kvůli falešným titulkům

Hlavní dozorčí orgán žurnalistiky naléhal na společnost Apple, aby stáhla svou generativní funkci AI, poté co nástroj nesprávně přisoudil titulek o vysoce sledovaném případu vraždy BBC News.

Ve čtvrtek BBC uvedla, že kontroverze vypukla po tom, co nová funkce Apple, Apple Intelligence, nesprávně vygenerovala titulek. Naznačovala, že Luigi Mangione, podezřelý z vraždy CEO zdravotní pojišťovny Brian Thompson, se sám zastřelil. BBC takový článek nezveřejnila.

Reportéři bez hranic (RSF), mezinárodní organizace hájící svobodu tisku, kritizovala Apple a uvedla, že tento incident zdůrazňuje rizika, která představují nedospělé AI nástroje pro důvěryhodnost médií a důvěru veřejnosti.

Vincent Berthier, vedoucí technologické a žurnalistické sekce RSF, odsoudil tento krok, označil jej za „úder do důvěryhodnosti média“ a hrozbu pro veřejný přístup k spolehlivým informacím. RSF požadovala, aby Apple tuto funkci okamžitě odstranil.

„Evropský zákon o AI – přestože je to nejpokročilejší legislativa na světě v této oblasti – nezařadil AI generující informace mezi systémy s vysokým rizikem, což zanechává kritické právní vakuum. Tuto mezeru je třeba okamžitě zaplnit,“ řekla Berthierová.

BBC potvrdila, že podala formální stížnost na technologického giganta a požadovala řešení, ale zůstává nejasné, zda Apple odpověděl.

Chybné shrnutí AI se neomezilo pouze na BBC News. Dne 21. listopadu tato funkce nepřesně shrnula článek z New York Times, kdy nesprávně naznačila, že izraelský premiér Benjamin Netanjahu byl zatčen, jak informoval článek BBC.

Toto oznámení, později zdůrazněné novinářem Kenem Schwenckem, se ve skutečnosti vztahovalo na zatykač Mezinárodního trestního soudu vůči Netanjahuovi.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence má za cíl snížit počet přerušení způsobených notifikacemi tím, že je shrnuje a seskupuje. Je dostupný na iPhonech s operačním systémem iOS 18.1 a na novějších modelech, stejně tak na vybraných iPadech a Macích. Nástroj se však setkal s kritikou, protože zkresloval informace od renomovaných zpravodajských institucí.

Mluvčí BBC zdůraznil, že zatímco některé seskupené notifikace přesně shrnuly příběhy o globálních událostech, dezinformace týkající se Mangione ukázaly, že technologie má potenciál poškodit jak mediální instituce, tak veřejné porozumění.

RSF varovalo, že „Tato nehoda ukazuje, že generativní AI služby jsou stále příliš nezralé na to, aby produkovaly spolehlivé informace pro veřejnost, a neměly by být povoleny na trhu pro takové účely.“

Ars Technica recenzovala souhrny oznámení od společnosti Apple a zdůraznila několik problémů, které se často vyskytují. Zaprvé, zatímco některé souhrny jsou fakticky správné, znějí strojově a neohrabaně, zejména u citlivých témat jako jsou vztahy nebo duševní zdraví. Jiné nepochopí sarkasmus, slang nebo idiomatika a často je interpretují příliš doslovně.

Ztráta kontextu je dalším velkým problémem, zejména když shrnutí vynechávají dřívější zprávy v diskuzi nebo nezohledňují multimediální obsah. Ve skupinových chatových konverzacích s více tématy se mohou shrnutí stát přeplněnými, míchají se témata a dochází k nesrovnalostem.

Nakonec jsou některá shrnutí prostě naprosto špatně, často kvůli pokusu zkomprimovat příliš mnoho informací do příliš mála slov, což vede k zkresleným údajům. Celkově jsou tyto problémy, které ovlivňují užitečnost a přesnost této funkce, běžné v každodenním používání.

Mangione, nyní obviněná z vraždy prvního stupně, se stala středem debaty o rizicích spojených s AI v žurnalistice. Důvěra veřejnosti v důvěryhodné zpravodajství je ohrožena, zatímco Apple čelí rostoucímu tlaku, aby řešil tento problém.