Rodičia ženy, ktorá zomrela na epileptický záchvat po rade od ChatGPT, žalujú OpenAI

Rodičia ženy, ktorá zomrela na epileptický záchvat po rade od ChatGPT, žalujú OpenAI

San Francisco – Smrť mladej ženy na následky epileptického záchvatu, ktorá nastala po tom, čo jej chatbot ChatGPT poskytol nebezpečnú lekársku radu, viedla jej rodičov k podaniu žaloby na spoločnosť OpenAI. Informáciu priniesli americké médiá začiatkom tohto týždňa.

Tragický prípad Bowen Wan

Bowen Wan bola pacientkou užívajúcou lieky proti záchvatom. Podľa obsahu žaloby jej ChatGPT poskytol plán na postupné zníženie dávky liekov (tzv. „tapering schedule“), ktorý bol v rozpore so štandardnými medicínskymi postupmi. Krátko po tom, čo sa podľa tohto plánu začala riadiť, utrpela smrteľný epileptický záchvat.

„Tento prípad je ďalším varovným signálom, že chatboti nemôžu nahradiť lekára,“ uviedli právni zástupcovia rodiny v podaní na súde.

Rastúci počet žalôb proti OpenAI

Táto žaloba nie je ojedinelá. Ide o najnovší z mnohých právnych krokov, v ktorých žalobcovia tvrdia, že im chatbot poskytol radu, ktorá viedla k ujme na zdraví alebo k smrti. Právnici sa opierajú o argument, že spoločnosť OpenAI si je vedomá rizík spojených s používaním jazykových modelov v citlivých oblastiach, akou je medicína, no napriek tomu dostatočne nevaruje pred možnými následkami.

Mini-prípad: Keď chatbot radí ako doktor

Predstavte si situáciu: pacient s epilepsiou sa rozhodne znížiť dávku liekov podľa odporúčania chatbota, pretože mu to znie ako odborná rada. Bez konzultácie s neurológom však môže dôjsť k nekontrolovaným záchvatom. Presne to sa stalo Bowen Wan – jej príbeh ukazuje, aké nebezpečné môže byť slepé dôverovať AI v otázkach zdravia.

Čo to znamená pre používateľov chatbotov

Odborníci upozorňujú, že jazykové modely ako ChatGPT sú trénované na obrovskom množstve textov, no nemajú lekársku licenciu ani schopnosť posúdiť individuálny zdravotný stav. Používatelia by preto mali akékoľvek rady týkajúce sa liekov alebo liečby vždy konzultovať s lekárom.

OpenAI sa k prebiehajúcemu súdnemu sporu zatiaľ verejne nevyjadrila. Podľa dostupných informácií však spoločnosť dlhodobo upozorňuje, že jej modely môžu generovať nepresné alebo zavádzajúce odpovede a nie sú náhradou odbornej starostlivosti.

Širší kontext: AI a zodpovednosť

Tento prípad otvára dôležitú otázku: kto nesie zodpovednosť, keď umelá inteligencia poskytne škodlivú radu? Žaloby ako tá od rodičov Bowen Wan môžu mať vplyv na budúce regulácie a na to, ako spoločnosti vyvíjajúce AI nastavia bezpečnostné mechanizmy. Pre používateľov je kľúčové pamätať na to, že chatbot nie je doktor – a v prípade zdravotných problémov je vždy najbezpečnejšie obrátiť sa na kvalifikovaného odborníka.

Zdroj: The Guardian, vlastné spracovanie