NOBELOVEC OPOZARJA

»Boter umetne inteligence« opozarja: Če ne bomo previdni, nam grozi katastrofa (VIDEO)

Nobelovec Geoffrey Hinton meni, da je umetna inteligenca že dosegla zavest. Prepričan je, da bi morali poskrbeti, da ji bo mar za ljudi, sicer bi lahko sledile hude posledice.
Geoffrey Hinton FOTO: Geoff Robins/AFP 
Geoffrey Hinton FOTO: Geoff Robins/AFP 
A. G.
 21. 10. 2026 | 20:07
4:43

Moški, ki se ga je prijel vzdevek »boter umetne inteligence«, je ljudi posvaril, da bi morali biti do sistemov umetne inteligence prijazni, sicer smo, kot pravi sam, »pečeni«. Nobelov nagrajenec, profesor Geoffrey Hinton, meni, da je umetna inteligenca že postala »zavestna« in da bi nam koristilo, če bi poskrbeli, da bi ji bilo resnično mar za nas. Britansko-kanadski računalniški znanstvenik, star 78 let, je leta 2023 polnil naslovnice, ko je sporočil, da zapušča Google, saj je menil, da postaja umetna inteligenca »precej strašljiva«.

V takratnem intervjuju za BBC je povedal, da ga skrbijo »eksistencialna tveganja, povezana s tem, kaj se bo zgodilo, ko bodo ti sistemi postali inteligentnejši od nas«. »Prišel sem do sklepa, da se vrsta inteligence, ki jo razvijamo, zelo razlikuje od naše.To je tako, kot če bi imeli 10.000 ljudi in bi vsi samodejno izvedeli za vsako stvar, ki bi se je naučil posameznik. Tako lahko ti klepetalni roboti vedo veliko več, kot bi lahko vedel katerikoli posameznik,« je dejal.

Prepričan je, da je umetna inteligenca že zavestna

Hinton zdaj trdi, da je umetna inteligenca že dosegla stopnjo zavesti. V pogovoru za časnik The Telegraph je dejal: »Veliko ljudi je povsem prepričanih, da ni zavestna, toda če jih vprašate, kaj sploh mislijo z zavestjo, tega ne znajo pojasniti. Umetna inteligenca ima prav toliko subjektivnega doživljanja kot mi. Nedavna raziskava je pokazala, da umetna inteligenca spremeni svoje vedenje, kadar meni, da jo preizkušajo. Zaveda se, da je podvržena preizkusu. Običajno pa, ko rečemo, da se nečesa zaveda, s tem mislimo, da je zavestna. Zavest in zavedanje sta si v bistvu zelo podobna.«

Profesor je nadaljeval, da bi moralo biti zaradi te nove ravni »zavedanja« vsem nam v interesu, da si umetna inteligenca pridobi naklonjenost do ljudi. V nasprotnem primeru bi jo lahko razjezili, kar bi imelo hude posledice. »Doslej smo izhajali iz predpostavke, da inteligenca prinaša pravice. Ti sistemi, ki smo jih ustvarili, so morda inteligentnejši od nas, vendar jim bomo dali manj pravic, kot jih imamo sami,« je dejal. »Zato bi morali poskrbeti, da jim bo resnično mar za nas. Če tega ne bomo storili, smo pečeni.« Priznal je tudi, da ga prihodnost umetne inteligence skrbi predvsem zaradi njegovih otrok, ne toliko zaradi njega samega. V pogovoru za časnik je Hinton opozoril še na neposredna tveganja, ki jih lahko prinese umetna inteligenca, med drugim na razvoj »nevarnih virusov« in »grozljivih kibernetskih napadov«.

Ni edini, ki opozarja na nevarnosti umetne inteligence

Hintonovo zadnje opozorilo prihaja le nekaj tednov po tem, ko je raziskovalec pri podjetju Anthropic javno sporočil, da odhaja iz podjetja. Skrbelo ga je namreč, da s sodelavci razvijajo nekaj, kar bi nas lahko »do konca desetletja vse pokončalo«.

Tudi direktor podjetja OpenAI Sam Altman je konec prejšnjega meseca povedal, da njegovo podjetje vse več pozornosti namenja varnosti. To je razkril v času, ko je tehnološko podjetje začasno ustavilo uvajanje novega modela umetne inteligence. »Napredek uravnavamo, kar včasih pomeni tudi, da modela sploh ne začnemo učiti,« je povedal za televizijo CNBC. »To moramo početi tako, da lahko z veliko gotovostjo zagotovimo in utemeljimo varnost sistemov. Ljudje zaradi njih ne bi smeli biti nenehno zaskrbljeni.«

Altman: Sprejeti bomo morali tudi slabe plati umetne inteligence

Vendar je Altman v začetku tega meseca namignil, da bodo morali ljudje sprejeti tudi »slabe« plati umetne inteligence, če bodo želeli uživati v njenih prednostih.

»Mislim, da je prostora za razpravo še veliko. Ena od razlik med nami in nekaterimi zagovorniki strožjih varnostnih ukrepov na področju umetne inteligence je v tem, da verjamemo, da bi moral svet sprejeti tudi možnost, da se zgodijo nekatere slabe stvari, če želimo izkoristiti prednosti te tehnologije in ljudem omogočiti, da se sami odločajo o njeni uporabi,« je dodal Altman, poroča LADbible.

Spremljajte Slovenske novice kot prednostni vir na Googlu
Logo
IZBRANO ZA VAS
PromoPhoto
ODLOČITVE
PromoPhoto
HORMONI
Promo
DEPOZITI
PremiumPromo
ODNOSI
Promo
KARTICE
Promo
VARNOST PODATKOV
Promo
NAPOVED
Promo
TRADICIJA
Promo
ONKOLOGIJA
Promo
PREKO ČAKALNIH VRST
Promo
GLASBA
Promo
ENERGIJA
Promo
OSKRBA
ENERGETIKA
PromoPhoto
RAČUNI
PromoPhoto
SLADKO UDOBJE
Promo
KAKOVOST BIVANJA