AI Avatary Mohou Šířit Dezinformace, Ale Také Pravdu v Zemích s Těžkou Cenzurou Jako je Venezuela

Vrátila jsem se do své rodné země, Venezuely, minulý rok na pár měsíců po několika letech v zahraničí. Jedna z věcí, které mi během mého pobytu upoutaly pozornost, bylo toto virální video „amerických televizních moderátorů“, kteří vysvětlovali ekonomickou situaci v zemi a jak se zlepšila, v angličtině se španělskými titulky. Nevypadalo to skutečně, a okamžitě jsem začala mít podezření – bohužel, ne obyvatelé tam.

„Chtěli jsme zjistit, zda je Venezuela skutečně tak zničená, jak média tvrdí již léta,“ řekl Noah, blondýn „novinář“ z tohoto neznámého zpravodajského kanálu nazvaného House of Media, v jednom z videí, které se stalo virálním na sociálních médiích, které vláda sdílela na místní televizi, a které dokonce propagoval online Nicolás Maduro, venezuelský autokrat.

„Je to tu,“ pomyslela jsem si poté, co jsem mluvila s několika Venezuelci, kteří si mysleli, že AI avatary jsou skuteční novináři, „režim Madura využívá umělou inteligenci k šíření dezinformací a funguje to.“ Ačkoliv nebylo potvrzeno, že za tím stojí Madurova správa, později bylo odhaleno, že videa byla AI Avatary vytvořené společností Synthesia – která nedávno vyvinula avatary schopné vyjadřovat lidské emoce. Podle VICE, v tom okamžiku Synthesia účtovala 30 dolarů měsíčně a podobná videa byla vytvořena pro propagandu v Africe a Asii.

Avšak právě když jsem začala cítit zoufalství z toho, že se deepfakes využívají pro zlomyslné účely a šíření dezinformací v několika zemích, zajímavý obrat mi vrátil pozornost a naději: venezuelští novináři využívají AI k informování a šíření pravdy.

AI Avatary: Anonymita jako výhoda

Jedním z problémů deepfake je anonymita. Pokud se někdo nepřizná – jako ten kouzelník z New Orleans, který novinářům řekl o své roli v automatizovaných hovorech napodobujících prezidenta Joe Bidena během primárních voleb – může být obtížné najít autory určitého obsahu generovaného umělou inteligencí, protože AI avataři neposkytují informace o skutečné osobě. Ale co když je to ve skutečnosti řešení v určitých scénářích?

V zemích jako je Venezuela je sdílení informací, které jsou v rozporu s vládou, nebezpečné, i když nejste novinář, dokonce i pro pouhý příspěvek na sociálních médiích – existují mnohé případy lidí a studentů, jako je Villca Fernández, kteří byli posláni do vězení kvůli tweetu. Lidé to stále dělají, ale je to velmi riskantní.

Tady se hodí AI avatary. Podle Reuters, Connectas, organizace se sídlem v Kolumbii, zahájila nový projekt nazvaný „Operace Retweet“, spolu s iniciativami #LaHoraDeVenezuela a Venezuela Vota, po prezidentských volbách 28. července. Cílem je sdílet skutečné informace připravené nezávislými mediálními kanály pomocí dvou AI postav, La Chama (dívka) a El Pana („kamarád“ ve venezuelském slangu)

Videa se sdílejí na sociálních médiích prostřednictvím zbývajících nezávislých zpravodajských kanálů a dalších komunikačních kanálů jako je WhatsApp. Na rozdíl od AI avatarů z House of Media, které jsem viděla minulý rok, vypadají tyto nové postavy trochu více uměle a od začátku to přiznávají. „Než začneme, v případě, že jste si toho nevšimli, chceme vám říct, že nejsme skuteční,“ říká La Chama v prvním videu, které bylo zveřejněno. „Byli jsme vytvořeni umělou inteligencí, ale obsah je skutečný, ověřený, vysoce kvalitní a vytvořený novináři,“ dodává El Pana.

Na sociálních médiích bylo sdíleno několik videí, a to jak v angličtině, tak ve španělštině, a to prostřednictvím různých webových stránek a dalších komunikačních kanálů. Projekt byl mezinárodně chválen a obdivován jako strategie boje proti cenzuře.

📢 Třetí díl Operace Retuit!#NahraditelnáŽurnalistika

🎥 Tento díl se zaměřuje na nedávné přijetí zákona, který reguluje nevládní organizace v 🇻🇪. Zavírá se občanský prostor nadobro?🚨

🔗 👉🏽 https://t.co/SkFE5KKQBu

Čtěte a sdílejte.📲🔄#VenezuelaVota #LaHoraDeVenezuela pic.twitter.com/HAdlqBXwnh

— CONNECTAS (@ConnectasOrg) 6. září 2024

Technologie se stávají klíčem k přežití

Digitální platformy se pro Venezuelce staly nezbytné už před lety. Pamatuji si, jak jsem pomáhala mé rodině najít léky pro moji babičku na Twitteru (nyní X) v letech 2016 a 2017, kdy nedostatek léků dosahoval 85% v zemi.

Mnoho Venezueleců se stává technologicky zdatnými z nutnosti a využívá naplno každou digitální platformu. Minulý rok mě ohromilo, jak podniky a klienti zvládali tolik transakcí přes WhatsApp. Objednávala jsem si přes tuto platformu jídlo s donáškou a rezervovala jsem si přepravu, protože populární aplikace jako Uber Eats, Uber, Lyft nebo tradiční mezinárodní online platební metody zde neexistují. Lidé se učí důvěřovat cizincům prostřednictvím chatů.

Od používání VPN k obejití cenzury—podobně jako to nyní dělají Brazilci pro přístup k X, který byl nedávno v zemi zakázán—přes těžbu Bitcoinu až po přechod k online práci na zakázku k zajištění obživy, Venezuelecům se neustále daří přizpůsobovat novým technologiím jako nástrojům pro navigaci v turbulentních politických, sociálních a ekonomických krizích. „Po USA je Venezuela zemí s největším počtem datových pracovníků na světě,“ uvádí zpráva, kterou dříve letos sdílel Rest of World.

Umělá inteligence má silnou přítomnost ve Venezuele již po řadu let. Mnoho firem zabývajících se umělou inteligencí využilo krize k najímání levné pracovní síly. V roce 2022 MIT Technology Review sdílel zprávu o tom, jak firmy zabývající se označováním dat pro umělou inteligenci našly příležitosti k využití talentovaných občanů: „Krize ve Venezuele byla pro tyto firmy požehnáním, které náhle získaly některé z nejlevnějších pracovních sil, jaké kdy byly k dispozici.“

Nyní Venezuelci využívají svůj talent a znalosti v technologiích jako mocný nástroj nejen k potlačení krize, ale také k výzvě vládě. Možná – a doufejme – jsou nové avatary umělé inteligence jen začátkem nové vlny občanského posílení.