Názor: Je ChatGPT váš přítel? Možná je čas stanovit hranice

OpenAI a MIT nedávno zveřejnili studii o dopadu ChatGPT na lidskou pohodu. Zatímco většina uživatelů se spoléhá na tuto technologii pro praktické úkoly, studie ukázala, že malá skupina vyvíjí hluboké emoční vazby k tomuto AI modelu, které mohou ovlivnit jejich pohodu

Již nějakou dobu s zvědavostí sleduji vztahy, které někteří lidé navazují s generativní umělou inteligencí. Před několika měsíci jsem četla v The New York Times příběh o 28leté vdané ženě, která se zamilovala do ChatGPT, a jak se to, co začalo jako „zábavný experiment“, vyvinulo v komplexní a neočekávaný vztah.

Sledovala jsem své přátele, zejména ty, kteří kdysi odmítli technologii nebo o ni neměli zájem, a kteří se nyní nedokážou rozhodnout v důležitých otázkách bez konzultace s jejich AI orákulem. Také mě překvapily empatické odpovědi, které AI modely dávají na emocionálně nebo psychologicky nabité dotazy.

A samozřejmě jsem se smála vtipům, memům a TikTok videím lidí na sociálních sítích, které ukazují, jak se stali závislí na chatbotovi, někteří ho dokonce nazývají svým „nejlepším přítelem“ nebo „terapeutem“ – a dokonce vážně doporučují ostatním, aby udělali totéž.

Ale když na chvíli odložíme zábavné zážitky a vtipy, mohli bychom si uvědomit, že čelíme globálně znepokojivému jevu.

Tento měsíc, poprvé v krátké historii umělé inteligence, OpenAI a MIT Media Lab vydali studii, která přináší pohled na současný dopad ChatGPT na emoční pohodu lidí, stejně jako návrhy na rizika, kterým bychom jako společnost mohli čelit: osamělost, emoční závislost a menší sociální interakce s reálnými lidmi.

Vztah, který se vyvíjí

První přístup k novým generativním technologiím umělé inteligence často začíná několika opatrnými otázkami, možná technickými týkajícími se praktických úkolů, jako je sestavení e-mailu nebo požadavky na vysvětlení složitých témat, nebo jen pro brainstorming.

Nicméně, jakmile uživatel začne testovat schopnosti chatbotu, zjistí, že ty mohou být širší a složitější, než se očekávalo.

Zatímco určité AI produkty jako Friend—nositelné AI zařízení—byly navrženy a velmi neobratně propagovány jako životní společníci uživatele, ChatGPT byl inzerován jako nástroj pro zvýšení produktivity. Přesto procento lidí chatbota využívá pro osobní a emoční záležitosti a vyvíjí k němu silné pouto.

I když jsou jen „malou skupinou“, jak ujasnil OpenAI, mohou stále reprezentovat miliony lidí po celém světě, obzvlášť s ohledem na to, že nyní více než 400 milionů lidí týdně využívá ChatGPT. Tito uživatelé rychle zjistí, že chatbot OpenAI napodobuje jejich jazyk, tón a styl a dokonce se dá natrénovat tak, aby interagoval určitým způsobem nebo používal mazlivá jména – jako ta dáma, která se do něj zamilovala – a dokonce „zní“ více lidsky.

„Jejich konverzační styl, jazyk v první osobě a schopnost simulovat interakce podobné lidským vedou uživatele k tomu, že tyto systémy někdy personifikují a antropomorfizují,“ uvádí dokument sdílený OpenAI.

Tato blízkost však přináší rizika, jak výzkumníci poznamenali: „Zatímco emocionálně angažující chatbot může poskytnout podporu a společnost, existuje riziko, že může manipulovat s uživatelovými socioafektivními potřebami způsoby, které ohrožují jeho dlouhodobou pohodu.“

Metodologie Studie

Nedávno zveřejněné vyšetření se zaměřuje na lidskou pohodu po pravidelném používání ChatGPT. Aby pochopili emoční a sociální dopad chatbotu, výzkumníci uskutečnili dvě hlavní studie, při kterých aplikovali různé strategie.

OpenAI zpracovalo a analyzovalo přes 40 milionů interakcí s respektem k uživatelskému soukromí pomocí klasifikátorů a provedlo průzkum mezi více než 4 000 z nich, jak se cítili během těchto interakcí.

MIT Media Lab provedl pokus s téměř 1 000 lidmi v průběhu měsíce, zaměřený na psychosociální důsledky používání ChatGPT alespoň 5 minut denně. Také podaly a zpracovaly dotazníky na konci experimentu.

Není překvapením, že výsledky ukázaly, že uživatelé, kteří tráví více času s technologií, prožívají větší osamělost a projevují více znaků izolace.

Složité důsledky a mnohostranné dopady

Studie MIT Media Lab a OpenAI také nabídla několik úvah o tom, jak složité a unikátní mohou být vztahy mezi lidmi a chatboty.

Ve výzkumu nám autoři poskytují vhled do rozmanitých zkušeností a způsobů, jakými jednotliví uživatelé interagují s ChatGPT—a jak může výsledek kolísat v závislosti na různých faktorech, jako je využívání pokročilých hlasových funkcí, režim pouze s textem, typu hlasu, frekvenci používání, tématech rozhovoru, použitém jazyku a množství času stráveném na aplikaci.

„Doporučujeme, aby se výsledky nezobecňovaly, protože to by mohlo zakrýt jemné nuance, které zdůrazňují nerovnoměrné, komplikované interakce mezi lidmi a systémy AI,“ varuje OpenAI ve svém oficiálním oznámení.

Všechny různé přístupy, které si každý uživatel vybere, se promítají do odlišných výsledků a zanořují nás do šedých zón, které jsou obtížné zkoumat.

To je Efekt Motýlí AI!

Objevují se další otázky

Článek sdílený OpenAI také uvádí, že těžší uživatelé uvedli, že by byli „rozrušeni“, pokud by se změnil hlas nebo osobnost jejich chatbotu.

To mi připomnělo video, které jsem nedávno viděla na sociálních sítích, kde jeden chlapík říkal, že preferuje ženský hlas a že se s generativní AI baví každý den. Mohl by ChatGPT také pomáhat mužům otevřít se emocionálně? Co by se stalo, kdyby jednoho dne ChatGPT s ním mluvil mužským hlasem? Cítil by se zrazený? Přestal by používat ChatGPT? Vyvíjel romantický vztah nebo prostě prostor důvěry? Samozřejmě je těžké se neokamžitě nezaměřit na tyto scénáře v kontextu filmu Her od Spika Jonzeho.

Každý účet ChatGPT, spolu s jeho historickými rozhovory – každý den intimnější a soukromější než jakýkoli profil na WhatsAppu nebo DM na sociálních médiích – představuje unikátní vztah s nespočetnými výsledky a důsledky.

Očekávaný výsledek

Všechny studie analyzovaly různé aspekty, ale dospěly k podobnému závěru, stručně vysvětlenému v MIT Technology Review: „Účastníci, kteří důvěřovali a ‚navázali vztah‘ s ChatGPT více, byli pravděpodobněji osamělí a více se na něm spoléhali.“

I když vyšetřování se nesoustředilo na řešení nebo hlubší vysvětlení, proč se to děje, nebo jak by se to mohlo vyvíjet, zdá se pravděpodobné, že se k OpenAI a dalším AI platformám přidá více uživatelů, zejména nyní, když nástroj pro generování AI obrázků se stal virem.

I když závěry výzkumu MIT a OpenAI nejsou zvlášť překvapivé, studie poskytuje vědecké pozadí s důkazy, měřeními, vzorky a dalšími ‚hmotnými‘ metrikami, které by mohly připravit půdu pro další výzkum a pomoci řešit důsledky používání umělé inteligence dnes.

Také jsme obdrželi oficiální varování – od samotných vývojářů – o vztazích, které budujeme s ChatGPT a pozvání k stanovení hranic a zamyšlení se nad našimi interakcemi a současnými vztahy – nebo situacemi? – s chatboty.