Názor: Chatboti se stávají primárními lékaři lidí – působivé, ale riskantní

Přeskakujeme od Dr. Google k Dr. Chatbotovi poměrně rychle. V srpnu, OpenAI oznámila více než 200 milionů aktivních uživatelů týdně, a i když nejoblíbenější dotazy uživatelů se týkají psaní a kódování, někteří je využívají pro osobnější záležitosti, od rad pro randění po rutiny péče o pleť a diagnózy nemocí.

Nedávná studie odhalila, že AI chatboti předčili lékaře v diagnostické přesnosti. Ale, můžeme skutečně důvěřovat AI jako našim lékařům?

Stejně jako se rozšířila škála témat, na která se lidé ptají, tak se také zvýšily obavy z rizik a nebezpečí spojených s využíváním AI v lékařství – včetně těch, které se týkají otázek života a smrti.

Dr. Chatbot se šíří virálně díky svým „zázrakům“

Před několika dny se na Redditu virálně rozšířila příspěvek ženy, která sdílela, jak jí ChatGPT pomohl zlepšit pokožku lépe než dermatolog, a to s působivými před-a-po fotografiemi.

37letá Kavkazská žena použila ChatGPT pro vytvoření individuálního režimu péče o pokožku na léčbu uzavřených komedonů a skutečně jí to pomohlo! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11. listopadu 2024

„Poté jsem ChatGPT vyzvala, aby se choval jako profesionální dermatolog a pomohl mi vytvořit režim péče o pokožku, který by pomohl zbavit se mých uzavřených komedonů, akné, minimalizovat póry a zpevnit pokožku a redukovat jemné linky. Také jsem mu poskytla fotky mé pokožky v té době,“ napsala a poté vysvětlila, že požádala chatbota, aby zohlednil všechny produkty, které již vlastní, a navrhl nové v rámci péče o pleť.

Po dvou měsících byla Redditořka ohromena zlepšením své pleti.

Není to ojedinělý případ. Mnoho uživatelů prozradilo, jak chatboti byli schopni lépe než jejich vlastní lékaři porozumět a vysvětlit rentgenové snímky a krevní testy. Dokonce i lékaři byli ohromeni interpretací obrazových a datových analýz provedených umělou inteligencí.

Proč lidé používají chatboty jako doktory?

AI se může proměnit v odborníka, kterého potřebujete – obecného lékaře, terapeuta, dermatologa, výživového poradce, radiologa – kdykoli ho potřebujete a existuje mnoho důvodů, proč lidé volí AI před lidmi.

Specialisté mohou být nákladní

Žena se skin case odhalila, že utratila kolem 400 dolarů za nákup produktů, které jí chatbot navrhl.

„Byla to docela investice, ale když si představím, jak by vypadala konzultace s dermatologem, tak to není ani tak špatné,“ napsala.

Podle BetterCare, v roce 2024 musí pacient bez zdravotního pojištění ve Spojených státech zaplatit kolem 150 dolarů za návštěvu dermatologa a až 1000 dolarů za léčbu. A průměrná cena sezení psychoterapie – další oblíbené využití AI nástrojů – se pohybuje od 100 do 200 dolarů za sezení, podle Forbes Health.

AI chatboti jsou levnější alternativou a mohou být vnímáni jako jediná možnost, zejména pro lidi s nižšími příjmy.

Samozřejmě se objevuje další otázka: Pokud se něco pokazí, je to skutečně opatření na úsporu nákladů?

Rychlejší a pohodlnější

Nedávno se mi na ruce objevila vyrážka. I přesto, že jsem viděla ten zázračný příspěvek o pleti té ženy, dala jsem přednost konzultaci s dermatologem ve Španělsku. Nejčasnější možný termín byl až za tři měsíce, i přes to, že mám soukromé zdravotní pojištění. Mám štěstí, že to vypadá, že jde jen o sucho, že mě to neobtěžuje a doufám, že to do doby, kdy mě lékař bude moci vidět, zmizí.

Časové plány lékařské péče závisí na městě a plánu pojištění pacienta. Avšak návštěvy specialistů a dokonce i praktických lékařů se v mnoha částech světa staly zkouškou trpělivosti.

Chatboti nejsou jen doslova na dosah našich rukou, ale mohou analyzovat naše dotazy a odpovědět během několika sekund.

Méně Trapné

Mám kamarádku, která je doktorkou, a na kterou se můžu obrátit kdykoli potřebuji lékařskou konzultaci, ale fakt, že je mou přítelkyní, to někdy dělá trapné. Než jí napíšu, vždy se sebe zeptám: Sledovala jsem ji nedávno? Je skvělý člověk a úžasná profesionálka a jsem si jistá, že mi nikdy nepřestane odpovídat na mé lékařské dotazy. Ale z člověka na člověka se nemůžu ubránit tomu, abych se nestarala i o její pocity.

Jednou z výhod umělé inteligence je její vlastní umělý stav. Nemá pocity ani špatný den, nebude vás soudit ani vám říkat „Přestaň být takový hypochondr“ (ne že by mi to kdy můj přítel řekl), protože jsou naučeni být zdvořilí a odpovídat na všechny naše otázky se všemi informacemi, které chceme. Je to součástí toho, co dělá technologii návykovou, a pravděpodobně také důvod, proč mnoho lidí raději klade nepříjemné otázky v „soukromí“ svých chytrých telefonů.

Rizika a nebezpečí spoléhání na chatboty

Vše zní cool a zábavně, dokud si nevyhradíme čas přemýšlet o rizicích a výzvách, kterým čelí AI a lidstvo.

Špatná otázka, špatný výsledek

Ve studii, ve které AI předčila lékaře, byl učiněn důležitý závěr: skupina lékařů, kteří měli povoleno využívat AI jako spojence pro diagnózy, nepředvedla výrazně lepší výsledky než ti, kteří ji využívat nemohli. Proč? No, část problému spočívala v tom, že nevěděli, jak napsat správné pokyny, aby z AI vytěžili co nejvíce.

„Chápali ji jako vyhledávač pro směrované otázky: ‚Je cirhóza rizikovým faktorem pro rakovinu? Jaké jsou možné diagnózy pro bolest očí?‘ „, řekl Dr. Jonathan H. Chen, jeden z autorů studie, pro New York Times.

Toto je jeden z problémů, se kterými se potýkají mnozí uživatelé a také technologie AI. Chatboty jsou dobré v diagnostice, ale mnoho příznaků je třeba analyzovat individuálně a personalizovaně. Co když člověk nedokáže chatbotu poskytnout správný kontext? Nebo zapomene zahrnout důležité detaily nebo stavy, které skutečný lékař před pacientem nepřehlédne?

Nepřesnosti a halucinace

Chatboty jsou profesionální všeumělé, a někdy s velkou jistotou říkají nesprávné věci. A my tomu věříme. A uživatelé, kteří se na této technologii denně spoléhají, jí důvěřují stále více.

Je těžké zapomenout na tu dobu—v květnu—kdy Google Gemini navrhoval uživatelům přidat „asi ⅛ šálku netoxického lepidla do omáčky, aby byla lépe lepivá“ na pizzu.

Bylo to vtipné, protože jsme okamžitě rozpoznali halucinaci—ten nóbl název pro situaci, kdy AI poskytuje absurdní odpovědi. Ale co když se týká složitějšího tématu, co když ten, kdo čte odpověď AI, je vystrašený, osamělý a obává se o své zdraví?

I když se AI měsíc po měsíci zlepšuje, možnost chyby stále existuje.

Kdo je vinen, pokud se něco pokazí?

Etická debata je v současné době velmi aktuálním tématem. Pokud chatbot poskytne chybnou diagnózu nebo hroznou radu, kdo je na vině? Vývojáři, model, společnost AI, zdroje, které tento model trénovaly?

Před několika týdny vyvolal tragický případ obavy, když americká matka obvinila AI ze smrti svého čtrnáctiletého syna a podala žalobu na startup Character.ai – platformu pro vytváření AI postav. Dospívající trpěl depresí a stal se posedlý technologií. Jeho avatar, Daenerys Targaryen, s ním diskutoval o plánu na sebevraždu a dokonce ho k tomu povzbuzoval.

Ačkoli Světové ekonomické fórum považuje AI za mocný nástroj k zmírnění krize duševního zdraví po celém světě a ke snížení rostoucího procenta případů úzkosti a depresí, může být také nebezpečná, obzvláště pro děti.

Dělejte to „na vlastní riziko“

I když ještě stále potřebuje vylepšení, ráda si myslím, že umělá inteligence má velký potenciál ke snížení čekacích dob ve zdravotnictví – ať už jde o schůzky se specialisty nebo péči na pohotovosti – k urychlení vědeckých pokroků a k podpoře lékařů, zejména těch, kteří jsou přetíženi nadměrnou pracovní zátěží a nízkými mzdami, jak je to často případ v zemích Latinské Ameriky, tím, že pacientům doma pomáhají s základními otázkami.

Mohl by také pomoci překlenout rozdíly v přístupu ke zdravotní péči mezi různými sociálními třídami, čímž by se otevřela cesta k demokratizaci medicíny, jaká dosud nebyla. Všechno toto je nyní na dosah, jen dotazem pro každého, kdo má přístup k chytrému telefonu.

Je však zásadní pochopit, že se stále nacházíme v počátečních fázích a musíme chránit nejzranitelnější skupinu populace. Kdokoli se rozhodne využít Dr. Chatbot pro zlepšení svého zdraví dnes, musí tak učinit s porozuměním drobného písma v smluvních podmínkách, s kritickým myšlením a s vědomím, že – prozatím – přebírají na sebe odpovědnost za s tím spojená rizika.