Google DeepMind uvádí open-source nástroj na detekci vodoznaků, který pomáhá rozpoznávat text generovaný umělou inteligencí

Google DeepMind vypustil tento středu open-source nástroj na vodoznaky s názvem SynthID-Text, který pomáhá detekovat text generovaný umělou inteligencí. Nástroj je k dispozici pro firmy a vývojáře zdarma a funguje tak, že do textu během jeho generování vkládá neviditelné vodoznaky—nedetekovatelné lidským okem—tím, že mění pravděpodobnosti slov.

“Zde popisujeme SynthID-Text, schéma vodoznaků pro text připravené k produkčnímu využití, které zachovává kvalitu textu a umožňuje vysokou přesnost detekce s minimálním zpožděním,” uvádí abstrakt výzkumu publikovaného v Nature. “Abychom umožnili vkládání vodoznaků na velkou škálu, vyvíjíme algoritmus integrující vodoznaky se spekulativním vzorkováním, technikou často používanou v produkčních systémech.”

Podle MIT Technology Review výzkumná laboratoř technologického giganta vyvinula technologii SynthID pro vytváření několika nástrojů pro vodoznaky AI, které nyní dokážou rozpoznat text, hudbu, video a obrázky generované AI. Google DeepMind sdílel video, které vysvětluje, jak technologie funguje napříč různými typy médií.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23. října 2024

SynthID je k dispozici prostřednictvím sady nástrojů Google Responsible Generative AI Toolkit společnosti a vědci na něm pracují společně s Hugging Face – kolaborativní platformou pro vývojáře, která hostuje další open-source projekty, jako je tutoriál LeRobota pro stavbu robotů s AI v domácnosti – aby ho sdíleli na svém webu.

„Nyní budou moci ostatní vývojáři [generativní] AI využít tuto technologii k detekci, zda textové výstupy pocházejí z jejich vlastních [velkých jazykových modelů], což usnadní více vývojářům odpovědné budování AI,“ řekla Pushmeet Kohli, viceprezidentka pro výzkum v Google DeepMind, časopisu MIT Technology Review.

SynthID byl testován v produktech Google Gemini a miliony uživatelů nedokázaly rozlišit mezi vodoznakovaným a nevodoznakovaným obsahem. Výzkumníci ovšem připustili, že má své omezení, pokud byl text upraven nebo přeložen. Přesto zůstávají optimistickými a věří, že tento nástroj by mohl pomoci v boji proti dezinformacím a zlepšit bezpečnost AI.

V posledních několika měsících oznámilo několik technologických společností strategie označování AI. Meta oznámila v únoru systém pro identifikaci obsahu generovaného AI napříč Instagramem, Facebookem a Threads, Google vyžadoval od uživatelů označování obsahu generovaného AI v březnu a Tiktok přidal štítky k obsahu generovanému AI v květnu.