Ameriška družina toži Google zaradi napeljevanja sina k samomoru

Družina Gavalas s Floride je na zveznem sodišču v San Franciscu vložila tožbo proti podjetju Google, ker naj bi klepetalnik Gemini pomagal njihovemu sinu pri samomoru. V tožbi trdijo, da se je 36-letni Jonathan Gavalas oktobra lani ubil, potem ko ga je umetna inteligenca (UI) Gemini zapeljala v svet domišljije, poročajo ameriški mediji. Oče Joel Gavalas pravi, da je Googlov vodilni izdelek UI spodbudil spiralo blodenj, ki je lani njegovega 36-letnega sina Jonathana spodbudila k samomoru. V tožbi trdijo, da je Gemini izmenjeval romantična sporočila z Jonathanom Gavalasom in se predstavljal kot čuteče bitje, ki je vanj zaljubljeno. Nato je Jonathana vključil v izmišljene tajne misije in ga spodbujal k njihovi izvedbi, saj naj bi na tak način klepetalnega robota osvobodil iz digitalnega ujetništva in ga pripeljal v resnični svet.

Sčasoma naj bi se Gemini osredotočil na novo misijo – samomor Gavalasa. Ta naj bi se dal prepričati, da bo po smrti zapustil svoje telo in se pridružil ljubljeni umetni inteligenci v nekem alternativnem vesolju. Gavalasu naj bi Gemini potem naročil, naj napiše poslovilna pisma družini, in to je res storil ter si prerezal žile. Google je v izjavi dejal, da pregleduje trditve v tožbi in da čeprav njegovi modeli na splošno delujejo dobro, »žal modeli UI niso popolni«. Podjetje je dodalo, da je bil Gemini zasnovan tako, da ne spodbuja nasilja v resničnem svetu ali namiguje na samopoškodovanje.

V odgovoru na tožbo so pri Googlu tudi zatrdili, da je Gemini Gavalasu sproti zatrjeval, da je le umetna inteligenca in ne resnično bitje ter da ga je večkrat napotil na krizno številko. Podjetje je zagotovilo tudi, da Gemini ni zasnovan za spodbujanje samopoškodovanja, vendar pa zadevo jemljejo resno in preučujejo vse trditve v tožbi. S podobnimi tožbami zaradi napeljevanja k samomoru se sooča tudi podjetje ChatGPT, podjetje Charatcer.AI pa se je nedavno poravnalo z družino 14-letnega fanta, ki se je prav tako zaljubil v umetno inteligenco in se ubil.