Bývalý výzkumník OpenAI a whistleblowery nalezen mrtvý

Bývalý výzkumník OpenAI, který se stal whistleblowrem, Suchir Balaji, 26, byl nalezen mrtvý v bytě v San Franciscu, potvrdily úřady, jak bylo poprvé hlášeno v The Mercury News.

Policie objevila tělo Balajiho 26. listopadu, poté co obdržela žádost o kontrolu jeho zdravotního stavu. Sanfranciský soudní lékař určil příčinu smrti jako sebevraždu a vyšetřovatelé nenašli žádné známky násilí, uvedla BBC.

V měsících vedoucích k jeho smrti, Balaji veřejně kritizoval praktiky OpenAI. Společnost se momentálně potýká s několika žalobami kvůli svým metodám sběru dat.

Nedávno jsem se zúčastnila příběhu v NYT o férovém užití a generativní AI, a proč jsem skeptická, že „férové užití“ by byla pravděpodobná obrana pro mnoho produktů generativní AI. Napsala jsem také blogový příspěvek (https://t.co/xhiVyCk2Vk) o podrobnostech férového užití a proč já…

— Suchir Balaji (@suchirbalaji) 23. října 2024

V nedávném rozhovoru pro New York Times pan Balaji uvedl, že hrozby, které představuje AI, považuje za bezprostřední a významné. Tvrdil, že ChatGPT a podobné chatboty narušují komerční životaschopnost jednotlivců, firem a internetových služeb, které původně vytvořily digitální data použitá k tréninku těchto systémů.

OpenAI, Microsoft a další společnosti tvrdí, že trénink jejich AI systémů na internetových datech spadá pod doktrínu „fair use“.

Tato doktrína zvažuje čtyři faktory a tyto firmy tvrdí, že splňují kritéria, včetně významné transformace autorských děl a nekonkurování v témže trhu, jako jsou tato díla.

Pan Balaji s tím nesouhlasil. Tvrdil, že systémy jako GPT-4 vytvářejí úplné kopie tréninkových dat. Ačkoli firmy jako OpenAI mohou tyto systémy naprogramovat tak, aby buď replikovaly data, nebo vytvářely zcela nové výstupy, realita, jak říká, leží někde mezi tím, jak informoval The Times.

Pan Balaji zveřejnil na své osobní webové stránce esej, v níž předkládá, jak sám popisuje, matematickou analýzu na podporu svého tvrzení. „Pokud věříte tomu, čemu já, musíte jednoduše odejít z firmy,“ řekl, jak uvedly The Times.

Podle pana Balajiho technologie porušuje autorské právo, protože často přímo konkuruje dílům, na nichž byla vycvičena. Generativní modely, navržené tak, aby napodobovaly online data, mohou nahradit téměř cokoli na internetu, od novinových článků po online fóra, jak uvedly The Times.

Smrt Balajiho nastala jen jeden den poté, co soudní podání ho identifikovalo jako osobu, jejíž profesionální soubory by OpenAI přezkoumalo v souvislosti s žalobou, kterou proti startupu podalo několik autorů, uvedl Forbes.

Mimo právní obavy pan Balaji varoval, že technologie AI zhoršují internet. Jak tyto nástroje nahrazují stávající služby, často generují falešné nebo zcela vymyšlené informace – jev, který výzkumníci nazývají „halucinace“. Věřil, že tento posun mění internet k horšímu, informovaly The Times.

Bradley J. Hulbert, právník specializující se na práva duševního vlastnictví, upozornil, že současné autorské zákony byly stanoveny dlouho před nástupem AI a žádný soud dosud nerozhodl o tom, zda technologie jako ChatGPT porušují tyto zákony, jak uvedl The Times.

Zdůraznil potřebu legislativní akce. „Vzhledem k tomu, že se AI vyvíjí tak rychle,“ řekl, „je na čase, aby Kongres zasáhl.“ Pan Balaji souhlasil a prohlásil: „Jediný způsob, jak se z toho všeho dostat, je regulace,“ jak uvedl The Times.