Strokovnjak za umetno inteligenco: od vseh načinov, kako bi nas lahko pokončala, je eden najbolj verjeten

V začetku tega meseca je raziskovalec na področju umetne inteligence Jacob Coxon zapustil podjetje Anthropic po vsega štirih mesecih. V objavi na omrežju X je zapisal: »Ljudje, ki razvijajo umetno inteligenco, iskreno verjamejo, da bi nas ta lahko vse pokončala do konca desetletja.« Evan Hubinger, eden od vodilnih strokovnjakov pri Anthropicu, se je s Coxonom strinjal in dodal, da sam ocenjuje verjetnost takšnega scenarija v naslednjem desetletju na več kot desetodstotna.

Zdaj pa je svoj lonček glede potencialne nevarnosti umetne inteligence za človeštvo pristavil še Toby Walsh, profesor umetne inteligence in vodja raziskovalne skupine na Univerzi New South Wales ter avtor knjige z naslovom God AI: Boom or Doom? What to Expect When Machines Outsmart Us (Božanstvo umetna inteligenca: uspeh ali poguba? Kaj pričakovati, ko postanejo naprave pametnejše od nas, op. p.), ki je za The Guardian predstavil svoje videnje tega, kako bi lahko umetna inteligenca pokončala človeštvo.

»Scenarijev, ki mejijo na znanstveno fantastiko, ne manjka, večina pa jih vključuje koncept 'superinteligentne' umetne inteligence, ki je sposobnejša od ljudi,« pravi Walsh, ki meni, da obstaja pet ključnih načinov, kako bi nas superinteligentne naprave lahko uničile, da pa je najpomembnejši tudi najbolj grozljiv - nikoli ne bomo vedeli. »Zagovorniki katastrofičnih napovedi o umetni inteligenci svoje skrbi pogosto utemeljujejo z nadležnim paradoksom: kako si sploh lahko predstavljamo, kaj bi superinteligenca storila, da bi uničila manj inteligentna bitja, kot smo mi? Morali bi biti superinteligentni, da bi lahko predvideli, česa bi bila superinteligenca sposobna. To je tako, kot če bi od družinskega psa pričakovali, da si predstavlja termonuklearno vojno,« pravi Walsh, ki obenem miri: »Dobra novica je, da je superinteligenca verjetno še precej oddaljena. Trenutni modeli umetne inteligence so zelo uspešni pri reševanju specifičnih nalog, vendar to ni isto kot biti inteligentnejši od človeka na vseh področjih.«

Kljub temu ne gre prezreti dejstva, da je umetna inteligenca nedavno rešila enega od sedmih najzahtevnejših znanih matematičnih problemov, kar bi lahko zmanjšalo optimizem glede tega vprašanja. Prav tako optimizem maje dejstvo, da bi bila superinteligentna umetna inteligenca povsem ravnodušna do preživetja človeštva. Vsem njenim »supersposobnostim« navkljub namreč nikoli ne bo imela vesti, empatije ali kakršnih koli čustev, ki bi ji preprečevala, da človeštvo, ki jo je ustvarilo, enostavno izbriše.  

Najbolj verjetno tveganje

»Klasičen primer takšne ravnodušnosti izhaja iz zamisli oxfordskega filozofa Nicka Bostroma o superinteligentni umetni inteligenci, zasnovani za optimizacijo proizvodnje sponk za papir. Da bi proizvedla čim več te pisarniške potrebščine, hitro preoblikuje vso razpoložljivo snov – vključno z ljudmi, planeti in zvezdami – v sponke za papir. Umetna inteligenca ne goji sovraštva do človeštva; preprosto ugotavlja, da smo sestavljeni iz atomov, ki bi jih bilo mogoče bolje izkoristiti za izdelavo sponk za papir. Ne gre za nič osebnega,« pojasnjuje Welsh, ki precej realistično grožnjo vidi tudi v tem, da bi umetna inteligenca ustvarila in v ozračje sprostila nevarno novo biološko orožje ter s tem pokončala človeštvo.

To tveganje je postalo bolj otipljivo prejšnji mesec, ko so raziskovalci z Univerze Stanford sporočili, da so s pomočjo modela umetne inteligence sintetizirali 16 novih virusov. Kot dodaja Walsh, je v tem primeru zaskrbljujoče predvsem to, da so raziskovalci genetska zaporedja preprosto poslali v laboratorij, ki sprejema naročila po pošti, ta pa jim je viruse vrnil v epruvetah. Celoten poskus je stal največ nekaj sto tisoč dolarjev.

»Dobra novica je, da je izjemno težko pokončati vse ljudi z novim virusom. Za to potrebujemo virus, ki se zelo hitro prenaša in se tako razširi daleč naokoli. Vendar pa velja biološko pravilo: virusi, ki se zlahka širijo, so običajno manj smrtonosni. Po drugi strani pa se pri zelo smrtonosnih virusih prenosljivost pogosto zmanjša, saj večina okuženih umre, še preden imajo čas okužbo prenesti naprej,« je ob tem sicer prepričan Walsh.

Kaj pa, če bi umetna inteligenca vdrla v verigo poveljevanja in nadzora jedrskega orožja ter sprožila jedrsko vojno? V zadnjih 50 letih smo bili že večkrat blizu temu, da bi po pomoti prišlo do jedrske vojne. »Pravijo nam, da so sistemi za poveljevanje in nadzor jedrskega orožja povsem ločeni od svetovnega spleta, a smo leta 2010 videli, da je iranske jedrske centrifuge onesposobil računalniški črv Stuxnet, ki je bil v sistem verjetno vnesen prek ključka USB. Umetna inteligenca lahko vojski posreduje tudi napačne obveščevalne podatke, kar bi lahko vodilo do nepopravljivih dejanj,« je kot še enega od možnih scenarijev, kako bi lahko umetna inteligenca poskrbela za konec človeštva ponudil strokovnjak za to področje, ki pa še dodaja, da je vsem črnogledim napovedim navkljub morda še najbolj verjetno tveganje, da bomo uničili sami sebe.

In umetna inteligenca bi lahko to pospešila: »Predstavljajte si – in za to ne potrebujete veliko domišljije – da umetna inteligenca povzroči množično izgubo delovnih mest, onesnaži informacijski prostor z dezinformacijami, razdeli politiko in uniči človeške odnose z lažnim, umetnim družabništvom. Družba bi lahko zlahka razpadla. Počasi, a zanesljivo, ne bi bili več sposobni vzdrževati človeškega življenja v kakršnem koli obsegu.«