Hranice mezi skutečnými a umělou inteligencí generovanými videi by mohla zmizet v roce 2025

Obsah generovaný umělou inteligencí je zde, aby zůstal. Stále se zlepšuje a v roce 2024 jsme viděli významné zlepšení v technologiích umělé inteligence. Budeme v roce 2025 schopni rozeznat, co je skutečné a co ne?

Nedávno jsem se přistihla, jak se ptám: „Je to skutečná žena?“ – zatímco jsem se mírně mračila – po zhlédnutí příspěvku na Instagramu. „Ne, to musí být generované umělou inteligencí,“ usoudila jsem po chvíli. Pak jsem se okamžitě zamyslela: Budeme stále schopni rozeznat rozdíl během několika sekund příští rok? Všechny znaky na to ukazují, že ne, zvláště na sociálních médiích, jak naznačují nedávné významné pokroky v technologii umělé inteligence.

Před několika dny sdílel šéf Instagramu, Adam Mosseri, na Threads zprávu, která se zabývá touto problematikou. „Generativní AI vytváří obsah, který je těžké odlišit od záznamů reality a rychle se zlepšuje,“ napsal. Mosseri veřejně uznal, že mají v Meta potíže s označováním obsahu vytvořeného AI a s kontrolou a sledováním obrovského množství médií sdílených každou sekundu na jejich sociálních mediálních platformách.

Mosseri umyl Meta ruce od zodpovědnosti a varoval uživatele, že je na nich, aby rozhodli, zda byl příspěvek skutečný nebo ne. „Bude stále důležitější, aby divák, nebo čtenář, přistupoval kriticky, když konzumuje obsah, který se tváří jako účet nebo záznam reality,“ dodal.

Jen několik dní poté, OpenAI vydalo Sora Turbo, svůj výkonný generátor videí pomocí AI, který umožňuje uživatelům Pro a Plus generovat realistická videa z textových pokynů. Uživatelé začali vytvářet fascinující realistická videa během několika minut a začali je sdílet na sociálních médiích.

Právě když se vše zdálo dosahovat nové úrovně video produkce, Google oznámil svůj nejnovější nástroj pro generování videí pomocí AI, Veo 2, s vyšším rozlišením a delšími klipy než Sora. Samozřejmě, výsledky sdílené těmi, kteří měli přístup k pokročilé technologii, byly ještě působivější.

„Nikdo by nyní nepoznal, že je to AI,“ napsala jedna uživatelka.

Je to konec.

Google Veo 2 právě vyřadil konkurenci a stal se novým králem světa AI médií.

Nikdo už nemůže říct, že je to AI.

10 divokých příkladů: pic.twitter.com/MKAN4Lwj6m

— el.cine (@EHuanglu) 17. prosince 2024

Už se to děje

Během roku 2024 jsme byli svědky toho, jak obsah generovaný AI ovlivnil populace, volby a uživatele sociálních médií.

V lednu obyvatelé New Hampshire dostali hovor „od Joea Bidena“, který je vyzýval, aby nešli volit v primárních volbách. Za tímto podvodem stál politický konzultant Steve Kramer a byl pokutován 6 miliony dolarů za AI deepfake robocalls. Vlády začínají pochopit dopad, který může mít AI, a národy jako Singapur vyvíjejí zákony a strategie, které pomáhají obyvatelstvu rozpoznat deepfake obsah.

Ve Venezuele, AI-generovaná videa šíří dezinformace – ale také pomáhají novinářům informovat prostřednictvím AI avatarů, aby obešli cenzuru.

Lidé mají stále větší problém rozlišovat, co je skutečné a co nikoliv, a to není jejich chyba: obsah generovaný umělou inteligencí se neustále zlepšuje.

Vysokokvalitní obsah generovaný umělou inteligencí je rostoucí obchod ve všech svých formách; text, audio a video. Mnozí tvůrci na OnlyFans v současnosti spoléhají na chatboty, aby komunikovali se svými fanoušky, což byla práce, kterou dříve vykonávali pracovníci na dohodu v zemích s nižším příjmem. Nové modely umělé inteligence specializované na flirtování dokonce vydělaly $1,000 na spropitném od svých následovníků.

V dubnu startup Synthesia, podporovaný firmou Nvidia, uvedl na trh AI avatary, které dokážou vyjadřovat lidské emoce a mluvit 130 jazyky. TikTok umožňuje firmám vytvářet reklamy generované umělou inteligencí za použití obsahu od Getty Images a nyní tvůrci na YouTube mohou využít novou funkci automatického dabingu pomocí AI k překladu svého obsahu do 9 jazyků a budoucí aktualizace budou replikovat původní hlas.

Zoom pracuje na vytváření AI avatarů, které budou vypadat přesně jako uživatelé, aby jim pomohli nahrávat zprávy a dokonce se účastnit schůzek. Tento nástroj bude uveden na trh příští rok, ale lidé již testují různé nástroje a firmy již mohou vytvářet fotorealistické klony vytvořené pomocí AI.

Jste si jistá, že jste během svého posledního hovoru na Zoomu mluvila s opravdovým člověkem?

Jak poznat, jestli to bylo vytvořeno umělou inteligencí? Zatím

Žijeme v zmatených dobách v této digitální éře. Filtry mohou udělat z každého modela s dokonalou pletí a korekce hodné Photoshopu jsou na Instagramu nebo Snapchatu jen kliknutí daleko – kolik lidí by chtělo sdílet svůj „přirozený“ obraz, chyby a vše, když může být vylepšen za pár sekund? Vidíme stále více reklam, které znázorňují fotorealistické obrázky generované umělou inteligencí, postupně nás přesvědčují o jejich známosti a „normálnosti“. A každý den nás překvapující události po celém světě přimějí se ptát: co je skutečné a co už není?

Velké společnosti zabývající se umělou inteligencí pracují na vodotiscích, které by umožnily snadno rozeznat obsah generovaný jejich AI. Google DeepMind spustil svůj open-source systém vodotisků v říjnu na označení videí, textů a zvuků generovaných AI, a Meta také zahrnula jeden do svého nástroje pro generování videí pomocí AI.

Ovšem jejich efektivita je sporná, začínaje tím, že Meta uznala, že nemůže označit veškerý obsah generovaný umělou inteligencí. Zlomyslní aktéři mohou stále nalézt způsoby, jak odstranit vodotisky, a je nutné více zákonů, partnerství a dohod mezi sociálními médii a vládami, aby se dosáhlo úspěšnějšího systému.

Zatím můžeme, kromě důvěry v naše instinkty, položit si několik otázek, než něco sdílíme na sociálních sítích nebo uvěříme tomu, co vidíme:

• Jak doporučil Mosseri, zvažte následující: Kdo tuto informaci sdílí? Je to důvěryhodný zdroj?
• Působí výraz nebo pohyby osoby roboticky? Ačkoli mohou být AI avatary docela realistické, je stále možné poznat podivnou tuhost nebo nedostatek emocí – ačkoli některé firmy jako Synthesia už toto vylepšují.
• Je obsah navržen tak, aby vyvolal silnou emoční reakci? Zlomyslní aktéři vědí, jak snadno sdílíme negativní zprávy a jakým způsobem interagujeme s emocionálně nabitém materiálem na sociálních médiích, a výzkum to potvrzuje. Než se rozhodnete sdílet obsah, který rozpoutal váš hněv a chcete, aby se ostatní cítili stejně rozhořčeně jako vy, zamyslete se, zda je navržen tak, aby vyvolal kontroverzi, nebo zda je to skutečná zpráva nebo skutečná událost.
• Můžete obsah ověřit u jiných zdrojů? Dvojitá kontrola u důvěryhodných zdrojů nikdy neuškodí.

A nakonec, ptali jste se sami sebe – nebo vašeho oblíbeného chatbotu – jak zlepšit své kritické myšlení? Rozvoj kritické mysli by rozhodně měl být mezi novoročními předsevzetími každého z nás.