ODPRTO PISMO

Oglasil se je Elon Musk: Ustavite razvoj mogočnih sistemov umetne inteligence

Pravi, da lahko sistemi pomenijo veliko tveganje za družbo in človeštvo. Predlaga začasno ustavitev razvoja.
Elon Musk FOTO: Mike Blake Reuters
Elon Musk FOTO: Mike Blake Reuters
STA, P. Pa.
 30. 3. 2023 | 08:44
3:47

Več strokovnjakov za visoko tehnologijo, med njimi prvi mož Tesle Elon Musk in soustanovitelj Appla Steve Wozniak, poziva k začasni ustavitvi razvoja mogočnih sistemov umetne inteligence. V odprtem pismu, ki so ga objavili v sredo, predlagajo vsaj šest mesecev za razmislek. V tem času naj bi dorekli varnostne standarde za razvoj umetne inteligence.

Pismo je objavil inštitut Future of Life, v prevodu Prihodnost življenja, pri katerem Musk sodeluje kot zunanji svetovalec. Poleg njega ga je podpisalo več kot 1000 ljudi, med njimi več sodelavcev Googlove hčerinske družbe za umetno inteligenco DeepMind. »Sistemi umetne inteligence s človeku konkurenčno inteligenco lahko pomenijo veliko tveganje za družbo in človeštvo,« so zapisali v pismu.

So tveganja obvladljiva?

Napisali so ga v odgovor na začetek delovanja najnovejše različice programa GPT-4 podjetja OpenAI, ki ga podpira Microsoft. Podjetje pravi, da je najnovejša različica veliko zmogljivejša od prejšnje, ki je bila uporabljena za klepet. Zdaj je s pomočjo umetne inteligence sposobna ustvariti besedila na podlagi najkrajših pozivov.

»Zmogljive sisteme umetne inteligence je treba razvijati šele, ko bomo prepričani, da bodo njihovi učinki pozitivni, tveganja pa obvladljiva,« so še prepričani podpisniki.

Preberite še: Lažna fotografija papeža preplavila splet: ste ji nasedli tudi vi? (FOTO)

Musk je bil začetni vlagatelj v OpenAI, več let je bil tudi član upravnega odbora, njegovo avtomobilsko podjetje Tesla pa med drugim razvija sisteme umetne inteligence, ki pomagajo poganjati tehnologijo vozil brez voznika.

Pozivajo tudi vlade

Kanadski pionir umetne inteligence Yoshua Bengio je na virtualni novinarski konferenci v Montrealu opozoril, da družba ni pripravljena na to zmogljivo orodje in njegove morebitne zlorabe, je poročala francoska tiskovna agencija AFP.

»Upočasnimo. Poskrbimo, da bomo razvili boljše varovalke,« je dejal Bengio in pozval k temeljiti mednarodni razpravi o umetni inteligenci in njenih posledicah, kot je po njegovih besedah svet storil v zvezi z jedrsko energijo in jedrskim orožjem.

Preberite še: Strašljive napovedi: umetna inteligenca bo jemala službe

Odprto pismo navaja zapis ustanovitelja OpenAI Sama Altmana na blogu, da bi bilo na neki točki morda pomembno pridobiti neodvisen pregled, preden začnemo usposabljati prihodnje sisteme. »Strinjamo se. Ta trenutek je zdaj,« je še poudaril Bengio.

»Zato pozivamo vse laboratorije za umetno inteligenco, da nemudoma vsaj za šest mesecev prekinejo usposabljanje sistemov umetne inteligence, ki so zmogljivejši od GPT-4,« so zapisali podpisniki. Vlade so pozvali, naj uvedejo moratorij, če se podjetja s tem ne bodo strinjala.

Teh šest mesecev bi po mnenju avtorjev pisma morali izkoristiti za razvoj varnostnih protokolov, sistemov upravljanja umetne inteligence in preusmeritev raziskav v zagotavljanje natančnejših, varnejših, zaupanja vrednih in zvestih sistemov umetne inteligence.

Spremljajte Slovenske novice kot prednostni vir na Googlu
Logo
IZBRANO ZA VAS
Promo
PAZI.SE
Promo
NEXT
Photo
INDUSTRIJSKA MOČ
Promo
VARNOST
Promo
LEPOTNI POSEG ZA ZDRAVJE OČI
Promo
INOVATIVNO
PromoPhoto
ISKALNA AKCIJA
Promo
ZANIMIV OGLED
PromoPhoto
NARAVNA SNOV
Promo
NEXT
Promo
OSKRBA
Promo
VPRAŠANJE VARNOSTI
Promo
NAKUPI
PromoPhoto
MEJNIK
PromoPhoto
HORMONI
PromoPhoto
NASVET
PromoPhoto
INVESTICIJSKI SKLADI
Promo
POTOVANJA
Promo
PREKO ČAKALNIH VRST
PromoPhoto
HIBRID
PromoPhoto
EKO SKLAD
PromoPhoto
PROGRAM ZA USPEH
JEK2