Názor: Je bezpečnostní regulační systém společnosti Meta nefunkční?

Téměř každý tvůrce obsahu nebo aktivní správce sociálních médií se nedávno setkal se stejným problémem při přidávání příspěvků na Facebooku nebo Instagramu: příspěvek nebo účet je zablokován, pravděpodobně z nesprávných důvodů.

Tato otravná situace je jen kouskem skládačky složitého problému s regulací obsahu společnosti Meta. Ačkoli se zdá, že Meta má mnoho kontrolních opatření – někdy absurdních – kořen problému se zdá být nevyřešen.

Během posledních několika měsíců představila společnost Meta četné aktualizace svých směrnic pro obsah a zavedla přísnější pravidla zaměřená na budování zdravějšího online prostředí. Jedním z důsledků bylo, že mnoho podniků, vydavatelů a uživatelských účtů bylo zablokováno, což vedlo k stovkám stížností na fórech, chatovacích platformách a sociálních médiích. Několik zpravodajských vydavatelů a značek bylo odstraněno z platforem společnosti Meta v určitých regionech během tohoto roku, což vyvolalo obavy mezi majiteli podniků, novináři a tvůrci obsahu.

Navzdory nedávným aktualizacím společnosti Meta, které působí dojmem přísnější moderace a pečlivějšího zkoumání obsahu sdíleného na jejích platformách, příspěvky související s drogami, sebevraždou, sexuálním obtěžováním, šikanou, projevy nenávisti, zneužíváním a falešnými zprávami stále unikají algoritmům a dostávají se k zranitelným komunitám.

Nemohu si pomoct, ale ptám se: Co se děje s bezpečnostním systémem společnosti Meta?

Účty zablokovány z nesprávných důvodů

Vše začíná podobnou zprávou: „Váš účet Meta nesplňuje naše pravidla.“ Mnoho uživatelů Facebooku a Instagramu bylo zablokováno nebo dočasně vyhozeno ze svých účtů „za nesplnění“ pravidel společnosti Meta, i když věří, že je dodrželi.

Je to situace, kterou jsme zažili na Wizcase. Systém společnosti Meta označil relevantní položky jako nevhodné a donutil manažera komunity projít procesem odvolání a poskytnout doklady vydané vládou.

Stovky uživatelů, manažerů komunit a manažerů účtů si stěžovali na platformách jako Reddit a na dalších fórech, v chatovacích místnostech a na sociálních sítích na podobné situace. V několika nešťastných scénářích uživatelé ztrácejí své účty a nemohou s tím nic udělat a ani nedostanou vysvětlení.

„Podpůrný tým na Facebooku je hrozný. Bez ohledu na to, kolikrát jim všechno řekneme nebo jim všechno vysvětlíme, prostě tomu nerozumí,“ uvedla jedna uživatelka na Redditu v diskusi o zabanovaných účtech. „Jednu věc mohu říct rovnou – svůj účet nedostanete zpět, pokud jste denně neutráceli stovky tisíc,“ dodala další.

Tento problém, ačkoli se může zdát, že postihuje pouze tvůrce obsahu, je pouze malou částí větší výzvy.

Meta proti soudním sporům

Po několik let investuje Meta do moderování obsahu a vymýšlí nové strategie, jak vytvořit pro uživatele bezpečnější platformu a chránit se před dalšími soudními spory. Nejnovější je od keňských moderátorů obsahu, kteří v současnosti požadují 1,6 miliardy dolarů jako odškodnění za masová propuštění a pro kompenzaci stresujícího materiálu, se kterým se setkávali při analýze obsahu pro Facebook.

Technologická společnost se spoléhá na třetí strany, které jí pomáhají s regulací obsahu, a vyvíjí nástroje pro rozpoznání, kdy obsah porušuje pravidla platformy. Tyto opatření však nebyly dostatečné a situace se vymkla kontrole, zejména mezi nezletilými uživateli.

V roce 2021 společnost Meta představila nové ochranné funkce, ale to nezabránilo Senátu zahrnout Instagram a Facebook mezi platformy, které byly v loňském roce považovány za škodlivé pro děti. Technologický gigant čelil společné žalobě podané 33 státy ve Spojených státech za svůj manipulativní a škodlivý algoritmus.

Od ledna sdílí Meta aktualizace o nových nástrojích pro kontrolu bezpečnosti. V červnu společnost vylepšila nástroj proti obtěžování, aby chránila dospívající na Instagramu pomocí výchozí funkce „Blízcí přátelé“ a funkce „Limity“, takže s obsahem, který mladí uživatelé zveřejnili, mohli interagovat pouze skuteční přátelé a rodina.

Před několika dny společnost oznámila nové Teen Accounts pro ochranu teenagerů a „uklidnění rodičů, že jejich děti mají bezpečné zážitky“. Bude to dostačující k ochraně dětí? Co na to starší uživatelé?

Nebezpečné prostředí

Facebook, Instagram a WhatsApp jsou stále zamořeny škodlivým obsahem, který ovlivňuje uživatele všech věkových kategorií, profesí a sociálních skupin, a to se pravděpodobně nevyřeší tak rychle.

Studie provedená Centrem pro boj proti digitální nenávisti (CCDH) analyzovala přes 500 milionů komentářů na Instagramu, které byly vytvořeny na účtech 10 ženských političek ve Spojených státech a odhalila, že Meta nedokázala odstranit nebo podniknout kroky proti 93% těchto komentářů.

Mnohonásobné žaloby proti Metě doslova dokázaly, že společnost má potíže chránit uživatele před škodlivým obsahem a také poškozuje tvůrce, vydavatele a značky nespravedlivými filtry a špatně implementovanými bezpečnostními nástroji.

Samozřejmě, jde o složitou a hlubokou problematiku, která by měla být řešena důkladně, ale možná je čas přijmout, že Meta nedokázala tuto situaci zvládnout. Pouhé náplasti nevyřeší systém, který je základně rozbitý. Teď je skutečná otázka: Kolik dalších uživatelů musí být nespravedlivě zabanováno, oklamáno nebo manipulováno, než dojde k reálné změně?