Začelo se je: z AI načrtovali izdelavo smrtonosnih virusov?! Sledi vodijo k vojaškemu inštitutu

Podjetje Anthropic, največji konkurent ChatGPT-jevemu OpenAI, je razkril več sumljivih primerov uporabe svojega modela najnaprednejše umetne inteligence Claude. V enem od njih je znanstvenik želel ustvariti mutacije virusa čikungunja, zaradi katerih bi ta postal smrtonosen. Raziskave naj bi potekale v neimenovanem vojaškem raziskovalnem inštitutu.

Inženirji Claudea so zato zadnji trenutek ročno ustavili več raziskovalnih projektov, pri katerih bi lahko umetna inteligenca pomagala pri razvoju nevarnih bioloških orožij. Anthropic sicer poudarja, da ni mogel zanesljivo dokazati, ali so imeli raziskovalci na vojaškem inštitutu zlonamerne namene. Prav v tem je tudi bistvo problema umetne inteligence: raziskave, ki lahko vodijo do novih cepiv in zdravil, je mogoče uporabiti tudi za razvoj bioloških orožij, ki lahko povzročijo smrt milijonov ljudi. Zaradi možnih posledic je podjetje aktivnosti zato raje ustavilo. 

Virus naj bi postal nevarnejši

Virusa čikungunja je stvor, ki ga priročno prenašajo komarji. V osnovni različici povzroči hude bolečine ter druge zdravstvene težave, ki lahko trajajo več mesecev. Neimenovani raziskovalec, ki so ga razkrinkali na Anthropicu, pa je želel izvajati poskuse tako imenovanega gain of function modela, pri katerih znanstveniki namensko spreminjajo lastnosti virusa. Takšne raziskave so lahko povsem legitimne, denimo za razvoj cepiv, vendar lahko hkrati pripeljejo tudi do nevarnejših različic virusov.

V tem primeru naj bi raziskovalec želel ustvariti mutacije, zaradi katerih bi virus ob ponavljajočem se okuževanju živali postal bolj škodljiv. Anthropic je poleg tega ugotovil, da naj bi raziskavo izvajali na vojaškem raziskovalnem inštitutu. »Ne vemo, ali je bil namen raziskavo uporabiti kot orožje,« je za New York Times povedal Jacob Klein, vodja oddelka za obveščevalne podatke o grožnjah pri Anthropicu. Dodal je, da je že samo dejstvo, da gre za tovrstne raziskave v vojaški ustanovi, zaskrbljujoče.

Poskušali prikriti, kaj počnejo

Še bolj sumljivo je, da so nekateri raziskovalci po ugotovitvah Anthropica skušali zaobiti varnostne omejitve. Uporabniki iz območij, kjer dostop do modelov ni dovoljen, praviloma so to razne malopridne države iz osi zla, na primer Severna Koreja ali Iran, naj bi skušali prikriti svojo lokacijo, hkrati pa naj bi namen svojih raziskav opisovali tako, da bi prelisičili varnostne mehanizme umetne inteligence. Anthropic je račune, povezane s temi raziskavami, nato blokiral.

Claude uporabljali tudi za rakete, drone in propagando

Biološke raziskave niso edina skrb vzbujajoča uporaba umetne inteligence. Anthropic je zaznal poskuse uporabe AI za razvoj programske opreme, povezane z orožjem, med drugim z raketami, oboroženimi droni, bombami in strelnim orožjem. Primere so odkrili na Kitajskem, v Rusiji in Jemnu. Podjetje je razkrilo primere ruskih državnih medijev, ki naj bi Claude uporabljali za ustvarjanje državne propagande, predstavljene kot neodvisno novinarstvo. Med drugim naj bi širili izmišljene trditve glede volitev v Moldaviji. Agenti, povezani s Kitajsko in Iranom, naj bi umetno inteligenco uporabljali tudi za nadzor disidentov in skupnosti v tujini.

Vojaški brezpilotniki lahko s pomočjo umetne inteligence avtonomno določajo tarče. Na sliki: ruski brezpilotnik Geranium-2. Prav Rusija in Kitajska naj bi poleg ZDA prednjačili pri uvajanju umetne inteligence v vojaško industrijo. FOTO: Sergei Supinsky, Afp

Današnja umetna inteligenca zmore bistveno več

Anthropic opozarja še na pomemben premik. Njegovi starejši modeli lani še niso bili dovolj zmogljivi, da bi lahko bistveno pomagali pri nevarnih bioloških raziskavah. Današnji modeli pa so že precej sposobnejši pri zapletenem znanstvenem delu. Prav zato podjetje uvaja strožje varnostne omejitve za vprašanja in raziskave, povezane z biologijo, ki jih je mogoče uporabiti tako za koristne kot za nevarne namene. Strokovnjaki opozarjajo, da gre za eno največjih dilem umetne inteligence. Ista tehnologija, ki lahko pomaga pri razvoju novega zdravila ali cepiva, lahko v napačnih rokah pomaga tudi pri ustvarjanju nevarnejšega patogena, poroča The New York Times.