Zpráva zjistila, že AI dezinformace neměly vliv na evropské volby v roce 2024

Podle nové zprávy Centra pro technologie a bezpečnost voleb (CETaS) nijak neovlivnily výsledky voleb v roce 2024 ve Velké Británii, Evropské unii (EU) a ve Francii dezinformace generované umělou inteligencí a deepfakes.

Přestože se všeobecně obáváme manipulace pomocí umělé inteligence, studie zjistila, že většina dezinformací podpořených umělou inteligencí pouze posilovala stávající politická přesvědčení, namísto toho, aby ovlivňovala nerozhodnuté voliče.

Přesto zpráva vyjadřuje obavy ohledně širších důsledků využití AI, zejména pokud jde o etické výzvy, které představuje v demokratických procesech.

Zpráva identifikovala 16 případů virálního šíření dezinformací pomocí AI během voleb ve Velké Británii a 11 případů během voleb v EU a ve Francii. Ve většině těchto případů, jak studie argumentuje, se pouze posílily již existující politické názory.

Nicméně, následky těchto incidentů s umělou inteligencí odhalily vzorec dezinformací. Mnoho lidí bylo také zmateno, zda je obsah generovaný umělou inteligencí skutečný, což narušilo důvěru v online zdroje.

Zpráva uvádí, že někteří politici používali umělou inteligenci v reklamách na kampaň bez řádného označení, čímž podporovali nečestné volební praktiky.

Ve dalším zjištění zpráva uvádí, že nárůst satiry generované umělou inteligencí, která je často zaměňována za skutečný obsah, dále matla voliče, což odhaluje nový druh rizika pro integritu voleb.

Zpráva zdůraznila roli jak domácích aktérů, tak zahraničního vměšování v šíření dezinformací poháněných umělou inteligencí. Nicméně zdůraznila, že tradiční metody, jako je botem řízené astroturfing a šíření dezinformací lidskými influencery, měly na voliče mnohem větší dopad než obsah generovaný umělou inteligencí.

Ačkoli byl vliv umělé inteligence na výsledky voleb malý, CETaS varuje před rostoucími riziky, jak se AI technologie stává dostupnější.

Zpráva volá po právních a regulačních orgánech, aby řešily tyto výzvy, a navrhuje potřebu vyvážit svobodné projevy s bojem proti dezinformacím generovaným AI. Také zdůrazňuje význam jasného označování politického obsahu generovaného AI, aby se předešlo neetickým volebním praktikám.

Závěrečná zpráva od CETaS, která má být vydaná v listopadu 2024, se zaměří na roli AI ve volbách v USA a nabídne dlouhodobé doporučení na ochranu demokratických procesů před hrozbami spojenými s AI.

Briefing končí uznáním potenciálních pozitivních aplikací AI. Zpráva tvrdí, že AI poskytla platformu pro posílení spojení mezi voliči a politickými kandidáty prostřednictvím syntetických online osobností.

Navíc generativní AI pomáhala ověřovatelům faktů v prioritizaci zavádějících tvrzení kandidátů, pomáhala jim určit, které z nich vyžadovaly naléhavou pozornost.