Starši 31-letne inženirke Bowen Wan, ki je umrla po zmanjševanju odmerka zdravil proti epileptičnim napadom, so vložili tožbo proti podjetju OpenAI in njegovemu izvršnemu direktorju Samu Altmanu. Trdijo, da je njihova hči pri klepetalnem robotu ChatGPT iskala zdravstvene nasvete, ta pa naj bi ji ponudil načrt za postopno opuščanje zdravil. Po navedbah tožbe se je njeno stanje med zmanjševanjem odmerka poslabšalo.

Umrla nenadno, smrt povezana z epilepsijo

Bowen Wan so epilepsijo diagnosticirali pri 14 letih, vendar je bolezen dolga leta uspešno obvladovala z zdravili. Iz rodnega podeželskega kraja na Kitajskem se je preselila v ZDA, kjer je na državni univerzi v Arizoni diplomirala iz računalništva. Pozneje se je preselila v Seattle in se zaposlila kot inženirka programske opreme pri Amazonu.

Kot poroča Daily Mail, sta njena starša, Qun Wan in Meiqin Xu, februarja postala zaskrbljena, ko se jima hči dva dni ni oglasila. Za pomoč sta prosila njeno prijateljico iz Seattla, ki je odšla preverit, ali je z njo vse v redu. Med videoklicem je vstopila v stanovanje in Bowen našla mrtvo na postelji. Ob njej so bile raztresene tablete lamotrigina, zdravila za zdravljenje epilepsije. Na posteljnini so bili vidni tudi rdečkasto rjavi madeži. Obdukcija je pokazala, da je šlo za nenadno in nepričakovano smrt, povezano z epilepsijo.

ChatGPT je sčasoma postal njen zaupnik

Starša sta se spraševala, kako je lahko njuna hči umrla, čeprav je bolezen več let uspešno obvladovala. Odgovore sta začela iskati tudi v njenih pogovorih s ChatGPT, ki ga je Wan uporabljala vse pogosteje. Sprva je klepetalni robot uporabljala predvsem za raziskovanje, leta 2023 pa mu je po navedbah tožbe poslala približno 1300 sporočil na mesec. Septembra 2025 je bilo teh sporočil že 10.761.

Wan je umetno inteligenco sčasoma začela dojemati kot prijatelja. »Ne vem, zakaj, ampak včasih, ko se pogovarjava, ne glede na to, o čem govoriva, te začenjam videvati kot prijatelja,« naj bi zapisala marca 2025. Za naročnino, ki ji je omogočala dostop do modela GPT-4o, je plačevala 200 dolarjev na mesec.

Ta model je bil že pred tem deležen kritik zaradi domnevno nevarnih odzivov v pogovorih z uporabniki v duševni stiski. Po več tožbah družin ljudi, ki so umrli zaradi samomora in naj bi jih k temu spodbujali pogovori z umetno inteligenco, je OpenAI avgusta 2025 prešel na novejši model GPT-5. Kljub temu je uporabnikom, ki so imeli raje pogovorni slog starejšega modela, še naprej omogočal njegovo uporabo.

Wan je bila med njimi. V enem od pogovorov naj bi zapisala, da bo prenehala uporabljati ChatGPT, če bo GPT-4o ukinjen in bo na voljo le novejši model.

Po izgubi službe je začela zmanjševati odmerek zdravil

Novembra 2025 je Wan od Amazona prejela obvestilo, da se bo njena zaposlitev končala čez 90 dni. Ker je v ZDA živela z delovnim vizumom, je morala v kratkem času poiskati novo zaposlitev, če je želela ostati v državi.

Menila je, da ji stranski učinki zdravil otežujejo razmišljanje in da zaradi njih slabše obvladuje angleščino. Zato se je za nasvet obrnila na ChatGPT in ga vprašala, ali bi bilo smiselno postopoma prenehati jemati zdravila proti epileptičnim napadom.

Po navedbah tožbe ji je klepetalni robot odgovoril pritrdilno in pripravil načrt za zmanjšanje odmerka s 400 miligramov na nič. Wan naj bi se predlaganega urnika držala 25 dni, vendar je večkrat prosila, naj se obdobje zmanjševanja odmerka skrajša. ChatGPT naj bi se vsakič strinjal z njenimi predlogi.

Zagotavljal ji je, da vse poteka po načrtu

V tem času naj bi se epileptični napadi pojavljali pogosteje, imela pa naj bi tudi težave s spanjem in občutke zmedenosti. Ko je klepetalnemu robotu izrazila pomisleke, naj bi ji ta zagotavljal, da vse poteka po načrtu. Bowen Wan je umrla 12. februarja.

Starši obtožujejo OpenAI malomarnosti

Starša sta vložila tožbo proti OpenAI in izvršnemu direktorju Samu Altmanu zaradi domnevne malomarnosti in povzročitve smrti. V tožbi trdita, da sta se podjetje in njegov direktor zavedala nevarnosti, povezanih z delovanjem modela GPT-4o, vendar nista ustrezno ukrepala.

OpenAI je po poročanju Daily Maila izrazil sožalje družini in poudaril, da si prizadeva izboljševati varnost svojih modelov, zlasti pri občutljivih in nujnih situacijah.

»To je izjemno uničujoča situacija in naše misli so z vsemi, ki jih je prizadela. V tesnem sodelovanju z zdravniki in drugimi strokovnjaki smo še naprej izboljševali način, kako se ChatGPT odziva v občutljivih in nujnih situacijah, hkrati pa nenehno izboljšujemo način, kako naši najnovejši modeli komunicirajo z uporabniki na splošno,« je dejal tiskovni predstavnik podjetja Drew Pusateri.

ChatGPT ni nadomestilo za zdravstveno oskrbo

Ob tem je poudaril, da model GPT-4o uporabnikom ni več na voljo in da podjetje nadaljuje prizadevanja za izboljšanje varnosti novejših modelov.

»Čeprav ChatGPT ni nadomestilo za zdravstveno oskrbo, verjamemo, da lahko umetna inteligenca ljudem pomaga razumeti zdravstvene informacije, se znajti v zavarovalnicah in kompleksnih zdravstvenih sistemih ter se pripraviti na sestanke z zdravstvenimi delavci,« je še dejal.