Názor: Spoluzakladatelé a talenty opouštějí OpenAI, přehlížíme něco?

OpenAI je, bez jakékoli pochyby, jednou z nejnarušivějších společností v technologickém průmyslu v současnosti. Její fascinující ChatGPT ovládá trh s asistenti chatbotů a její vliv na jednotlivce a společnost je neměřitelný.

Hodnota společnosti v současnosti přesahuje $80 miliard a byla založena s miliardou dolarů v roce 2015. Avšak v posledních několika měsících se její organizační struktura rychle mění, téměř tak rychle, jako její vývoj, nové funkce, produkty a modely. Ale proč?

Z jedenácti spoluzakladatelů, kteří projekt zahájili, zůstalo pouze zhruba tři. John Schulman se stal 8. spoluzakladatelem, který odešel, když to tuto týden veřejně oznámil.

Došlo k interním sporům, dočasnému propuštění CEO, otevřeným dopisům, bývalým zaměstnancům obávajícím se o svou bezpečnost a informátorům tvrdícím, že důvěrné dohody společnosti jim zakazují vyjadřovat obavy regulátorům.

Co by měli lidé vědět o tvůrcích nejpokročilejší technologie naší doby? Jaká jsou fakta a jaké jsou konspirační teorie?

Začněme od začátku.

Jak to všechno začalo: Zakladatelé

OpenAI byla spuštěna v roce 2015 a společnost sdílela příspěvek, „Představujeme OpenAI“. Tvůrci popisovali OpenAI jako „neziskovou společnost pro výzkum umělé inteligence“ s jasným cílem: „prospět lidstvu jako celku.“

V dokumentu byl představen Ilya Sutskever jako ředitel výzkumu, Greg Brockman jako hlavní technologický ředitel, Altman a Elon Musk jako spolupředsedové a představili zbytek zakladatelů: Trevor Blackwell, Vicki Cheung, Andrej Karpathy, Durk Kingma, John Schulman, Pamela Vagata a Wojciech Zaremba.

„Protože naše výzkumy jsou osvobozeny od finančních závazků, můžeme se lépe soustředit na pozitivní dopad na člověka,“ napsali Sutskever a Brockman spolu s ostatními členy týmu v tom prvním příspěvku. Také objasnili, že skupina investorů – včetně Altmana, Muska, Amazon Web Services (AWS), YC Research a dalších – se zavázala poskytnout 1 miliardu dolarů, které očekávali, že vydrží na několik let.

Tým snů byl připraven a organizace snů mohla začít svou práci.

Spoluzakladatelé odcházejí, CEO Sam Altman je propuštěn

Ne dlouho poté, co byla v roce 2016 založena OpenAI, se Vagata tiše vydala do společnosti Stripe. Podle Financial Times, tento inženýr ve svém profilu na LinkedIn neuvádí OpenAI. Následující rok, v roce 2017, odešli také Cheung, Blackwell a Kaparthy.

Pátým zakladatelem, který odešel, je Musk, a to v únoru 2018. Ze správní rady odešel po neshodách s Altmanem v jednom z nejvíce medializovaných odchodů v sporu, který trvá již roky a stále je aktivní. Musk proti společnosti podal několik žalob – tu nejnovější pouze několik dní zpátky kvůli dohodě s Microsoftem. OpenAI konečně před několika měsíci, v březnu, zveřejnila veřejné vysvětlení, ve kterém uvádí, že Musk chtěl sloučit OpenAI s Teslou a plně ovládat společnost.

Poté, co Musk odešel, výzkumník a spoluzakladatel Kingma následoval trend a připojil se k projektu Google AI. Zbývající spoluzakladatelé zdánlivě disponovali funkčním organizačním aparátem – navzdory velkým proziskovým aktualizacím, kdy se transformovali na dvojziskovou a neziskovou organizaci – až do doby, kdy vypukl skandál se Samem Almanem a CEO dočasně opustil společnost v roce 2023. Něco bylo rozhodně zase špatně.

V roce 2023 se Karpathy znovu připojil k OpenAI, ale v únoru 2024 opět odešel, aby vytvořil svůj vlastní vzdělávací projekt AI – nazvaný Eureka Labs a spuštěný v červenci. Poté Sutskever opustil svou pozici hlavního vědce, aby založil vlastní společnost, Safe Superintelligence, v květnu. A teď, jen před několika dny, další dva spoluzakladatelé ustoupili. Schulman, který právě oznámil své rozhodnutí připojit se k konkurenční společnosti Anthropic, a o dvě hodiny později Brockman oznámil svou dovolenou.

V současné době je tam pouze Altman, informatik Zaremba a – technicky – Brockman. Takže dva a půl z 11?

Drama s Altmanem

Do konce roku 2023 se svět dozvěděl šokující zprávu: Správní rada OpenAI propustila Altmana 17. listopadu. Během několika dnů se objevilo mnoho spekulací o bezpečnosti ChatGPT. Správní rada tvrdila, že Altman nebyl ve své komunikaci se správní radou „důsledně upřímný“, jak je uvedeno v jejím veřejném vysvětlení přechodu vedení.

„Když byl vydán ChatGPT, v listopadu 2022, představenstvo nebylo předem informováno,“ řekla Helen Toner, bývalá členka představenstva OpenAI, během rozhovoru pro podcast The TED AI Show v květnu tohoto roku. „O ChatGPT jsme se dozvěděli na Twitteru,“ prohlásila.

Neziskové představenstvo OpenAI bylo znepokojeno Altmanovými svévolnými rozhodnutími a velkými obchodními dohodami, jako je investice Microsoftu ve výši 13 miliard dolarů, což začalo jako podivný obchodní vztah a právě se oficiálně proměnilo v nepříjemnou soutěž.

Americká novinářka Ezra Kleinová ve svém výzkumu a analýze pro New York Times dospěla k závěru, že rada se snažila pouze kontrolovat ziskovou organizaci tím, že se držela původního filantropického poslání společnosti. To se jí nepodařilo.

Altman je ve společnosti a v technologické sféře velmi ceněn a asi 90% zaměstnanců hrozilo, že odejde, pokud by se nevrátil – včetně Sutskevera, který byl původně na straně rady – a rada rezignovala. Mnoho členů rady odešlo a Altman se do společnosti vrátil během 5 dní.

Teorie a fakta

Předení a usměrňování smyslu o dramatu okolo OpenAI není snadný úkol. Mnoho lidí věří, že vývoj nových technologií AI se v OpenAI vymkl kontrole a že bývalí spoluzakladatelé a zaměstnanci opouštějí firmu kvůli obavám o bezpečnost. Skupiny na Redditu se domnívají, že OpenAI již tajně vyvinulo modely umělé obecné inteligence.

To není jen spekulace. Bývalí a současní zaměstnanci OpenAI – a z jiných AI společností – podepsali v červnu veřejné varování ohledně rizik spojených s technologií, od šíření dezinformací až po lidskou extinkci.

Jan Leike, nikoliv spoluzakladatel, ale klíčový výzkumník v OpenAI, odešel v květnu, po třech letech práce ve společnosti. „Již delší dobu jsem se neshodl s vedením OpenAI na hlavních prioritách společnosti, až jsme nakonec dosáhli bodu zlomu,“ napsal Leike na X. „V posledních letech bezpečnostní kultura a procesy ustoupily lesklým produktům.“

Projekt Superalignment, vytvořený v červenci 2023 s cílem „ovládat AI systémy, které jsou mnohem chytřejší než my“, byl rozpuštěn poté, co Sutskever odešel, aby zřejmě vytvořil stejný projekt, ale s autonomií. Anthropic, kde nyní pracuje několik bývalých spoluzakladatelů, byla také vytvořena bývalými pracovníky OpenAI, s cílem vyvíjet „dobré a etické modely“, pokud je to vůbec možné.

Jsme zataženi do toho, tak co nám uniká? To, co nám pravděpodobně uniká, je přijetí faktu, že OpenAI už není organizace s více vůdci, ale proměnila se v synonymum pro velmi mocného a vlivného muže: Altmana.