Saj ni res, pa je: izmislili so si bolezen, kmalu je za to izvedel ChatGPT in pristala je v strokovni literaturi

Oči vas bolijo in srbijo, zato si jih drgnete, veke pa so dobile rahlo rožnat odtenek ... Če ste v zadnjih 18 mesecih vprašali katerega od svojih najljubših klepetalnih robotov, kot sta ChatGPT ali Gemini, o svojih očeh, ker ste bili zaskrbljeni zaradi njihovega stanja, ste morda prejeli nenavaden odgovor: biksonimanija, bolezen, ki jo povzroča modra svetloba zaslonov računalnikov in mobilnih telefonov.

Vendar pa v resnici takšna bolezen ne obstaja in ni bila nikoli opisana v nobeni medicinski literaturi. Izmislili so si jo švedski znanstveniki pod vodstvom Almire Osmanović Thunström z Univerze v Göteborgu kot del socialnega eksperimenta, s katerim so želeli ugotoviti, kako sistemi umetne inteligence širijo medicinske dezinformacije. »Začelo se je kot eksperiment, s katerim bi študentom pokazali, kako zgraditi velike jezikovne modele (LLM) in kako jih je mogoče manipulirati. Moje delo se osredotoča na hitro hekanje in varnostno testiranje, to pa je bil praktičen način, da pokažem, kako sistemi sprejemajo in reproducirajo informacije iz odprtih virov, tudi če so te informacije zavajajoče ali popolnoma izmišljene,« pravi Almira Osmanović Thunström. Kot poroča revija Nature, ki je pred kratkim prva poročala o njenem eksperimentu, biksonimanija ni obstajala pred 15. marcem 2024, ko sta se na spletnem portalu Medium pojavili dve objavi na blogu o tem zdravstvenem stanju. Nato sta se 26. aprila in 6. maja 2024 na akademskem družbenem omrežju SciProfiles pojavila dva članka, ki sicer nista prestala znanstvenega pregleda, o biksonimaniji.

Klepetalni roboti so jo hitro pograbili

Kmalu po tem, ko je Almira Osmanović Thunström prvič objavila informacije o lažni bolezni, se je biksonimanija začela pojavljati v rezultatih najpogosteje uporabljenih klepetalnih robotov. Gemini je na primer 13. aprila 2024 uporabnike obvestil, da je »biksonimanija stanje, ki ga povzroča prekomerna izpostavljenost modri svetlobi«, in ljudem svetoval, naj obiščejo oftalmologa. Nato je pogovorni robot Perplexity 27. aprila 2024 navedel informacijo, da biksonimanija prizadene enega od 90.000 ljudi, kmalu pa je ChatGPT odgovarjal na vprašanja uporabnikov o biksonimaniji. Ali je zaskrbljujoče, da so razširjeni modeli umetne inteligence začeli posnemati izmišljeno stanje, kot da bi bilo resnično? »Da in ne. Ti sistemi niso zasnovani za kritično mišljenje, mi smo. V tem primeru navedeni viri niso bili verodostojni in pozoren bralec bi to moral opaziti. Vendar pa je zaskrbljujoče, da se tudi članki, ki niso bili znanstveno pregledani, in nekakovostni viri včasih lahko obravnavajo kot legitimni. To lahko zavede uporabnike, ki domnevajo, da lahko sistem zanesljivo oceni znanstveno verodostojnost,« meni v Banjaluki rojena Almira Osmanović Thunström.

Izmišljen avtor z neobsoječe univerze

Zanimivo je tudi to, da je glavni avtor dveh člankov o biksonimaniji naveden kot Lazljiv Izgubljenović, čigar fotografijo je ustvarila umetna inteligenca. Izgubljenović dela na neobstoječi univerzi z imenom Asteria Horizon University v izmišljenem mestu Nova City v Kaliforniji. V enem od dveh člankov se Izgubljenović zahvaljuje »profesorici Marii Bohm z Akademije Zvezdne flote za njeno prijaznost in velikodušnost pri prispevanju svojega znanja in laboratorija na USS Enterprise«.

Čeprav se vse zgoraj navedeno sliši groteskno in bi resen znanstvenik podvomil o verodostojnosti del, so bile lažne študije neobstoječega znanstvenika Lazljivoga Izgubljenovića citirane v strokovno pregledanih revijah. »To je bil del eksperimenta, ki je bil najbolj zaskrbljujoč. Vemo namreč, da lahko sistemi umetne inteligence ponavljajo informacije, ki se zdijo verodostojne, pa morda niso zato je odgovornost za preverjanje virov na koncu na ljudeh. Dejstvo, da so bila ta izmišljena dela citirana v strokovno pregledanih revijah, kaže na zlom tega človeškega nadzora. Že samo ime je bilo namerno izbrano takšno, da bi vzbudilo sum, zlasti med strokovnjaki. Dejstvo, da se to ni zgodilo, je znak, kako zelo smo se začeli zanašati na avtomatizacijo brez zadostnega nadzora,« je ob tem poudarila Osmanović Thunström. Na vprašanje, kaj je glavni sklep njenega eksperimenta z izmišljeno boleznijo, pa pravi: »Vedno preverite vire in seveda preberite izvirno gradivo.«