Generativní AI vzbuzuje poplach ve vědě, když falešná data ohrožují důvěryhodnost

Obrazy generované umělou inteligencí vyvolávají vážné obavy mezi výzkumníky a vydavateli, protože nové generativní nástroje umělé inteligence usnadňují alarmujícím způsobem vytváření falešných vědeckých dat a obrázků, jak je uvedeno v tiskové zprávě Nature.

Tento pokrok ohrožuje důvěryhodnost akademické literatury, přičemž odborníci obávají nárůst výzkumů zmanipulovaných umělou inteligencí, které mohou být těžko identifikovatelné.

Jana Christopherová, analytička integrity obrazu v nakladatelství FEBS Press v Německu, zdůrazňuje, že rychlý vývoj generativní AI vzbuzuje stále rostoucí obavy z jejího možného zneužití ve vědě.

„Lidé, kteří pracují v mé oblasti – integrita obrazu a etika publikování – se stále více obávají možností, které to nabízí,“ řekla Jane, jak bylo hlášeno v Nature.

Poznamenává, že ačkoli některé časopisy mohou přijímat texty generované AI podle určitých pokynů, obrázky a data generovaná AI jsou považována za překročení hranice, které by mohlo hluboko ovlivnit integritu výzkumu, jak poznamenává Nature.

Detekce těchto obrázků vytvořených AI se stala primární výzvou, uvádí Nature. Na rozdíl od předchozích digitálních manipulací, obrázky generované AI často postrádají obvyklé znaky padělání, což ztěžuje prokázání jakéhokoli podvodu.

Specialistka na forenzní analýzu obrazů Elisabeth Bik a další výzkumníci naznačují, že AI vyrobené obrázky, zejména v molekulární a buněčné biologii, by již mohly být přítomny v publikované literatuře, jak uvedl Nature.

Nástroje jako ChatGPT se nyní pravidelně využívají pro koncipování článků, což lze rozpoznat podle typických frází chatbotů, které zůstaly neupravené, ale AI vygenerované obrázky jsou mnohem těžší k identifikaci. Technologické firmy a výzkumné instituce vyvíjejí nástroje pro detekci těchto výzev, jak upozornil Nature.

Nástroje poháněné umělou inteligencí, jako je Imagetwin a Proofig, vedou útok tím, že své algoritmy trénují na identifikaci obsahu generovaného umělou inteligencí. Spoluzakladatel Proofigu, Dror Kolodkin-Gal, uvádí, že jejich nástroj úspěšně detekuje obrazy vytvořené umělou inteligencí v 98 % případů, ale zdůrazňuje, že lidská verifikace zůstává klíčová pro ověření výsledků, jak uvedl časopis Nature.

Ve světě vydavatelství časopisy jako Science používají Proofig pro počáteční kontroly příspěvků a vydavatelský gigant Springer Nature vyvíjí vlastní nástroje, Geppetto a SnapShot, pro identifikaci nepravidelností v textech a obrázcích, jak informoval Nature.

Další organizace, jako je Mezinárodní asociace vědeckých, technických a lékařských vydavatelů, rovněž zahajují iniciativy k boji proti papírnám a zajištění integrity výzkumu, jak uvedl Nature.

Nicméně, odborníci varují, že vydavatelé musí jednat rychle. Detektiv vědeckých obrazů Kevin Patrick se obává, že pokud bude akce váznout, mohou se z AI generovaných obsahů stát další nevyřešený problém ve vědecké literatuře, jak uvedl Nature.

Navzdory těmto obavám mnozí stále doufají, že budoucí technologie se vyvinou tak, aby dokázaly odhalit dnešní podvody generované umělou inteligencí, čímž by nabídly dlouhodobé řešení pro ochranu integrity akademického výzkumu.