
Galerija

Moški, ki se ga je prijel vzdevek »boter umetne inteligence«, je ljudi posvaril, da bi morali biti do sistemov umetne inteligence prijazni, sicer smo, kot pravi sam, »pečeni«. Nobelov nagrajenec, profesor Geoffrey Hinton, meni, da je umetna inteligenca že postala »zavestna« in da bi nam koristilo, če bi poskrbeli, da bi ji bilo resnično mar za nas. Britansko-kanadski računalniški znanstvenik, star 78 let, je leta 2023 polnil naslovnice, ko je sporočil, da zapušča Google, saj je menil, da postaja umetna inteligenca »precej strašljiva«.
V takratnem intervjuju za BBC je povedal, da ga skrbijo »eksistencialna tveganja, povezana s tem, kaj se bo zgodilo, ko bodo ti sistemi postali inteligentnejši od nas«. »Prišel sem do sklepa, da se vrsta inteligence, ki jo razvijamo, zelo razlikuje od naše.To je tako, kot če bi imeli 10.000 ljudi in bi vsi samodejno izvedeli za vsako stvar, ki bi se je naučil posameznik. Tako lahko ti klepetalni roboti vedo veliko več, kot bi lahko vedel katerikoli posameznik,« je dejal.
Hinton zdaj trdi, da je umetna inteligenca že dosegla stopnjo zavesti. V pogovoru za časnik The Telegraph je dejal: »Veliko ljudi je povsem prepričanih, da ni zavestna, toda če jih vprašate, kaj sploh mislijo z zavestjo, tega ne znajo pojasniti. Umetna inteligenca ima prav toliko subjektivnega doživljanja kot mi. Nedavna raziskava je pokazala, da umetna inteligenca spremeni svoje vedenje, kadar meni, da jo preizkušajo. Zaveda se, da je podvržena preizkusu. Običajno pa, ko rečemo, da se nečesa zaveda, s tem mislimo, da je zavestna. Zavest in zavedanje sta si v bistvu zelo podobna.«
Profesor je nadaljeval, da bi moralo biti zaradi te nove ravni »zavedanja« vsem nam v interesu, da si umetna inteligenca pridobi naklonjenost do ljudi. V nasprotnem primeru bi jo lahko razjezili, kar bi imelo hude posledice. »Doslej smo izhajali iz predpostavke, da inteligenca prinaša pravice. Ti sistemi, ki smo jih ustvarili, so morda inteligentnejši od nas, vendar jim bomo dali manj pravic, kot jih imamo sami,« je dejal. »Zato bi morali poskrbeti, da jim bo resnično mar za nas. Če tega ne bomo storili, smo pečeni.« Priznal je tudi, da ga prihodnost umetne inteligence skrbi predvsem zaradi njegovih otrok, ne toliko zaradi njega samega. V pogovoru za časnik je Hinton opozoril še na neposredna tveganja, ki jih lahko prinese umetna inteligenca, med drugim na razvoj »nevarnih virusov« in »grozljivih kibernetskih napadov«.
Hintonovo zadnje opozorilo prihaja le nekaj tednov po tem, ko je raziskovalec pri podjetju Anthropic javno sporočil, da odhaja iz podjetja. Skrbelo ga je namreč, da s sodelavci razvijajo nekaj, kar bi nas lahko »do konca desetletja vse pokončalo«.
Tudi direktor podjetja OpenAI Sam Altman je konec prejšnjega meseca povedal, da njegovo podjetje vse več pozornosti namenja varnosti. To je razkril v času, ko je tehnološko podjetje začasno ustavilo uvajanje novega modela umetne inteligence. »Napredek uravnavamo, kar včasih pomeni tudi, da modela sploh ne začnemo učiti,« je povedal za televizijo CNBC. »To moramo početi tako, da lahko z veliko gotovostjo zagotovimo in utemeljimo varnost sistemov. Ljudje zaradi njih ne bi smeli biti nenehno zaskrbljeni.«
Vendar je Altman v začetku tega meseca namignil, da bodo morali ljudje sprejeti tudi »slabe« plati umetne inteligence, če bodo želeli uživati v njenih prednostih.
»Mislim, da je prostora za razpravo še veliko. Ena od razlik med nami in nekaterimi zagovorniki strožjih varnostnih ukrepov na področju umetne inteligence je v tem, da verjamemo, da bi moral svet sprejeti tudi možnost, da se zgodijo nekatere slabe stvari, če želimo izkoristiti prednosti te tehnologije in ljudem omogočiti, da se sami odločajo o njeni uporabi,« je dodal Altman, poroča LADbible.