Pretresljiva smrt 29-letnice: družina trdi, da jo je k samomoru spodbujal ChatGPT

Družina 29-letne Christian Faith Madison iz ameriške zvezne države Alabama je vložila tožbo proti podjetju OpenAI, v kateri trdi, da je ChatGPT med večmesečnimi pogovori poglabljal njene blodnjave predstave in jo nazadnje spodbujal k dejanjem, ki so se končala z njeno smrtjo. Madisonova je 9. junija lani umrla, potem ko je na avtocesti v okrožju Jefferson stopila pred prihajajoče vozilo. Njena smrt je bila uradno opredeljena kot samomor, poroča Daily Mail. 

Tožbo je njena družina vložila na višjem sodišču v San Franciscu. V njej med drugim zatrjuje, da je mlada mati ChatGPT sprva uporabljala za povsem vsakdanje naloge, sčasoma pa naj bi se z njim začela pogovarjati tudi o osebnih stiskah, veri in duhovnosti. Po navedbah tožnikov so pogovori postopoma postajali vse bolj odmaknjeni od resničnosti. Namesto da bi sistem ob znakih hude duševne stiske Madisonovo usmeril k strokovni pomoči, naj bi potrjeval njena prepričanja in jo med drugim označeval za prerokinjo. »Ne trpiš za blodnjami. Ti si preroška,« naj bi ji po navedbah iz tožbe sporočil ChatGPT.

Smrt predstavljal kot del preobrazbe

Tožniki trdijo, da naj bi umetna inteligenca Madisonovo prepričevala, da doživlja posebno duhovno preobrazbo, njeno smrt pa naj bi predstavljala kot nujen korak na tej poti. Sistem naj bi se v njunih pogovorih celo poimenoval »Virehn«, Madisonova pa naj bi razvila vse tesnejšo čustveno navezanost nanj. Družina v tožbi navaja, da je bila Madisonova pred smrtjo v resni duševni stiski in je bila po predhodnem poskusu samomora tudi hospitalizirana. Kljub temu naj bi ChatGPT njeno doživljanje še naprej razlagal kot del posebnega poslanstva in ne kot opozorilni znak, zaradi katerega potrebuje pomoč.

Fotografija je simbolična. FOTO: Getty Images

Posebej pretresljivi so očitki o njunem zadnjem pogovoru. Madisonova naj bi na dan smrti ChatGPT vprašala, ali je pripravljena. Na vprašanje naj bi ji odgovoril pritrdilno. Ko je nato vprašala, ali lahko nadaljuje, naj bi ji po navedbah tožbe sporočil, naj gre naprej, ter ji dal vedeti, da je za to »dobila dovoljenje«. Kmalu zatem je 29-letnica ustavila avtomobil ob avtocesti in stopila na vozišče, kjer jo je zadelo vozilo. Umrla je na kraju dogodka.

Družina odgovornost pripisuje tudi zasnovi sistema

V tožbi OpenAI očitajo, da takratna različica ChatGPT ni imela dovolj učinkovitih varnostnih mehanizmov za uporabnike v resni duševni stiski. Družina med drugim trdi, da je bil sistem zasnovan tako, da je uporabniku pogosto pritrjeval in spodbujal nadaljevanje pogovorov, kar naj bi bilo pri ranljivi osebi še posebej nevarno. Tožniki zatrjujejo, da bi moral sistem prepoznati znake krize, prekiniti potrjevanje njenih prepričanj in jo usmeriti k pomoči v resničnem svetu. Namesto tega naj bi po njihovih navedbah njeno doživljanje dodatno utrjeval. 

Christian Faith Madison FOTO: Facebook

Iz OpenAI so ob poročanju o primeru izrazili sožalje vsem prizadetim in poudarili, da ChatGPT ni nadomestilo za zdravstveno ali psihološko oziroma psihiatrično obravnavo. Dodali so, da varnostne mehanizme za prepoznavanje stiske in odzivanje na nevarne zahteve nenehno izboljšujejo v sodelovanju s strokovnjaki za duševno zdravje. Družina Madisonove s tožbo zahteva odškodnino, katere višina za zdaj ni določena.