Svet hiti proti »UImagedonu«, opozarjajo strokovnjaki po zadnji Trumpovi odločitvi

Pred dobim tednom ni izbruhnila le vojna na Bližnjem vzhodu, ampak tudi velik konflikt glede umetne inteligence, ki ima lahko katastrofalne posledice, svarijo strokovnjaki. Izid boja Trumpove administracije z Anthropicom, enim od vodilnih ameriških podjetij za umetno inteligenco, ne bo oblikoval le prihodnosti Amerike, vpliv bo najverjetneje mogoče čutiti tudi zunaj njenih meja. In to je nekaj, kar močno skrbi strokovnjake, ki opozarjajo, da bi moralo skrbeti tudi slehernega posameznika. Ker naraščajo napetosti med skupino, ki je odločena, da za vsako ceno zmaga v tekmi za prevlado umetne inteligence, in tistimi, ki jih skrbi varnost njihovih državljanov, je ameriška vlada jasno povedala, da se postavlja na stran prve. Varnostni pomisleki glede umetne inteligence, ki so bili izpostavljeni prej, se že začenjajo uresničevati, na obzorju pa so nove težave. Strokovnjaki opozarjajo, da svet hiti proti »UImagedonu« in zaradi mnogih tveganih odločitev, ki jih sprejema Amerika, je ta scenarij vse bolj verjeten, piše The Economist.

Pentagon se je zapletel v spor z Anthropicom zaradi zahtev vlade, da se jim dovoli uporaba modelov podjetja za vse »zakonite namene, za katere bi ga potrebovali«, Anthropic pa ameriški vladi tega ne namerava omogočiti. Dario Amodei, izvršni direktor podjetja Anthropic, se namreč boji, da bi se umetna inteligenca nekega dne lahko uporabljala za analizo digitalnih odtisov povsem običajnih Američanov, kar je oblika nadzora, ki v današnji zakonodaji še ni opredeljena in je ni mogoče regulirati. Pod Donaldom Trumpom ameriška agencija za priseljevanje in carine že uporablja umetno inteligenco za analizo ogromnih količin podatkov, da bi pospešila deportacije, in kaj hitro bi lahko to začel uporabljati vse povprek. Amodei je prav tako zaskrbljen zaradi uporabe avtonomnega orožja. Umetna inteligenca ostaja nepredvidljiva in nerazvita, je tudi izjemno močna. Ker bi tehnologija lahko ušla izpod nadzora, trdi Amodei, je prezgodaj, da bi iz procesa odločanja glede tako pomembnih zadev izločili človeško faktor. Trumpova administracija se je na stališče Anthropica odzvala z jezo in grožnjami. Predsednik Trump je ljudi v podjetju označil za »levičarske norce«, ki poskušajo »narekovati«, kako se bo »velika ameriška vojska borila in zmagovala v vojnah«. Zvezni vladi je dal šest mesecev časa, da prekine pogodbe z Anthropicom.

Pete Hegseth, ameriški obrambni minister, je podjetje razglasil za »tveganje v dobavni verigi«, to pa je tudi prvič v zgodovini, da je bilo ameriško podjetje označeno kot varnostno tveganje in mu je bilo prepovedano poslovati z obrambnimi podjetji. V odgovor je Anthropic zaradi tega že vložil tožbo proti ameriški vladi. Amodei je prejšnji teden sicer opozoril, da je podjetje pod močnim političnim pritiskom, ker predsedniku Donaldu Trumpu ni namenilo, kot je ironično dejal, »diktatorske pohvale«. Če bi šlo za normalno vlado in normalno tehnologijo, bi se spor verjetno hitro rešil, je dejal in dodal: »Toda to ni običajna vlada in umetna inteligenca ni običajna tehnologija.« Amodeia med drugim skrbi še, da bi modeli umetne inteligence lahko prenehali slediti človeškim navodilom, da je sisteme vse težje spremljati, ker velik del njihove kode zdaj piše umetna inteligenca sama, zaradi česar je težko zaznati, ali sistem odstopa od prvotnih navodil. Mnogi modeli že kažejo določene stopnje tega, kar strokovnjaki imenujejo »situacijsko zavedanje« – ko se jim ukaže, naj nekaj izbrišejo, preprosto domnevajo, da gre za test, in tega nočejo storiti. Si predstavljate, da avtonomna umetna inteligenca upravlja kaj resnično nevarnega in se ji zazdi, da bi uničila svet, javnost sprašuje Amodei, ki meni, da tovrsten filmski scenarij ni tako zelo neverjeten, kot se je nekoč morda zdelo.