Strokovnjaki svarijo: umetna inteligenca že zdaj dovolj močna, da ogrozi človeštvo?!

Umetna inteligenca (UI) bi lahko kmalu osvojila še enega izmed svojih »nadčloveških« dosežkov – obvladovanje biologije. Znanstveniki so s pomočjo naprednega modela Mythos, ki ga je razvilo podjetje Anthropic, dosegli prelomne rezultate pri reševanju nekaterih najtežjih nalog s področja biotehnologije. Ta model je že uspešno rekonstruiral vrste celic zgolj iz surovih DNK podatkov, kar je uspelo le redkim strokovnjakom. Kaj pa se zgodi, ko UI doseže takšne sposobnosti? Podjetje se boji, da bi lahko umetna inteligenca, kot je Mythos, omogočila izdelavo smrtonosnih virusov, novih nevrotoksinov ali celo ustvarjanje umetnih organizmov z obrnjenimi biološkimi strukturami, ki bi lahko uničili obstoječi ekosistem na Zemlji. Kljub temu da so te možnosti še vedno teorija, že zdaj predstavljajo nevarno plat demokratične uporabe umetne inteligence.

Novi izzivi za varnost in zaščito človeštva

Če bi UI dejansko omogočila ustvarjanje smrtonosnih bioloških agentov, kot so virusi, bi imelo človeštvo le malo prostora za napake. V nasprotju z jedrskim orožjem, ki zahteva redke in lahko sledljive materiale, je v biologiji veliko lažje razviti smrtonosne agente z uporabo komercialno dostopnih orodij in opreme. V tem primeru bi zaščitne strategije, kot jih poznamo danes, lahko bile precej neučinkovite. 

Na voljo so različne možnosti zaščite. Ena izmed njih je, da bi UI sisteme programirali tako, da zavrnejo naloge ali informacije, ki so nevarne. Vendar so raziskave pokazale, da uporabnikom pogosto uspe obiti te zaščite, kar pomeni, da bi se UI lahko še vedno izrabil za neetične ali nevarne namene. Tako imenovani »jailbreak« omogoča, da se dostopa do prepovedanih informacij, kar postavlja vprašanje, ali so trenutni sistemi sploh zanesljivi. Drug pristop bi bil, da se iz procesov treniranja UI modelov odstranijo tvegane informacije, kot so podatki o sintetiziranju smrtonosnih patogenov ali pa o bioterorizmu. Vendar je težava v tem, da bi lahko napreden model umetne inteligence še vedno odkril to znanje, ne glede na to, ali so bile take informacije vključene v trening. Takšni poskusi so že neuspešno potekali pri generiranju vsebin, povezanih s prepovedanimi temami.

Vse to kaže na potrebo po temeljitejšem nadzoru in obvladovanju UI tehnologij, ki bi lahko bile zlorabljene. Zaradi lažje dostopnosti tehnologij, potrebnih za razvoj smrtonosnih bioloških agentov, je treba poiskati nove načine zaščite. Za zdaj pa je vprašanje, ali bo umetna inteligenca še naprej omogočala napredek človeštva, ali pa bo postala grožnja, ki bo presegla vse nevarnosti, kakršne smo poznali do sedaj?