Britská vláda vyvíjí kontroverzní nástroj na předpověď vražd pomocí umělé inteligence

Britská vláda pracuje na kontroverzním projektu, který pomocí umělé inteligence předpovídá, kdo by mohl v budoucnosti spáchat vraždu.

Existenci programu odhalily žádosti o informace podle zákona o svobodě informací, které získala kontrolní skupina Statewatch.

Jejich zjištění naznačují, že se používají citlivá osobní data. Mezi ně patří zdravotní záznamy, informace o duševním zdraví, historie závislostí a údaje o lidech, kteří nebyli odsouzeni za žádné trestné činy.

Statewatch uvádí, že na čele tohoto plánu stojí Ministerstvo spravedlnosti (MoJ), které prozkoumává stávající záznamy orgánů o lidech s cílem zabránit vážným trestným činům.

Původně pojmenovaný jako „projekt předpovědi vražd“, nyní se nazývá „sdílení dat pro zlepšení hodnocení rizika“. Projekt je v současnosti ve fázi výzkumu, ale aktivisté a zastánci ochrany soukromí vyjádřili obavy, jak uvedl Statewatch.

Úředníci to však popírají. The Guardian uvádí, že mluvčí Ministerstva spravedlnosti uvedl: „Tento projekt je prováděn pouze pro výzkumné účely. Byl navržen s využitím stávajících dat, která drží HM Prison and Probation Service a policejní složky o odsouzených pachatelích, aby nám pomohl lépe pochopit riziko, že lidé na podmíněné svobodě spáchají vážné násilí. Zpráva bude vydána v průběhu času.“

Podle Statewatch, policie v Greater Manchester sdílela data až o půl milionu lidí. Zahrnovalo to oběti, podezřelé a lidi v zranitelných situacích.

Sofia Lyall, výzkumnice v Statewatch, projekt ostře kritizovala, tvrdí: „Pokus Ministerstva spravedlnosti vybudovat tento systém předpovědi vražd je dalším děsivým a dystopickým příkladem záměru vlády vyvíjet takzvané systémy ‚předpovědi‘ zločinu.“

Uvarovala, že tento systém bude prohlubovat rasovou a třídní diskriminaci: „Tento nejnovější model, který využívá data od naší institucionálně rasistické policie a ministerstva vnitra, posílí a zvýší strukturální diskriminaci, která je základem trestněprávního systému.“

„Použití tak citlivých údajů o duševním zdraví, závislostech a postižení je velmi narušující a znepokojující,“ dodala.

Vláda tvrdí, že nástroje jako tento by mohly vylepšit způsob, jakým probační služby hodnotí riziko a předcházejí násilné trestné činnosti. Kritici však říkají, že tento systém by mohl vést k tomu, že lidé budou nespravedlivě označeni za potenciální vrahy kvůli chybným a zkresleným datům.

Vláda argumentuje, že tyto nástroje zlepší schopnost probačních služeb vyhodnocovat riziko a zastavit násilné zločiny. Kritici však varují, že systém hrozí označování lidí za potenciální vrahy prostřednictvím špatných a zkreslených dat.

I když je stále ve vývoji, Statewatch informuje, že dokumenty zmiňují „budoucí operacionalizaci“ systému, což vyvolává obavy, že by mohl být brzy použit v reálném policejním rozhodování.