Kaj prinaša novi dokument papeža Leona XIV., o katerem govori ves svet?

Papež Leon XIV. je v ponedeljek, 25. maja, objavil svojo prvo encikliko z naslovom »Magnifica humanitas« (»Veličastna človečnost«), v kateri se posveča ohranitvi človekovega dostojanstva v dobi umetne inteligence. Dokument poziva k javnemu nadzoru tehnologije, pravičnemu dostopu in strogim omejitvam vojaške uporabe umetne inteligence. Papež je encikliko uradno podpisal 15. maja, ob 135. obletnici znamenite okrožnice »Rerum novarum« (»O novih stvareh«) papeža Leona XIII. Dan zatem je odobril ustanovitev Meddikasterijske komisije za umetno inteligenco, ki jo bo vodil kardinal Michael Czerny, prefekt Dikasterija za spodbujanje celostnega človeškega razvoja, piše Jutarnji list.

Papež že od začetka svojega pontifikata kaže izjemno zanimanje za umetno inteligenco. Revolucijo, ki jo ta prinaša, primerja z industrijsko revolucijo z začetka prejšnjega stoletja, zaradi česar je izid dokumenta simbolično povezal z obletnico enciklike svojega predhodnika. V ustanovni listini komisije je zapisano, da je umetna inteligenca pojav, ki zahteva redna medsebojna posvetovanja zaradi skokovitega razvoja in vse hitrejše splošne uporabe v zadnjih desetletjih. Na predstavitvi enciklike je sodeloval tudi Christopher Olah, soustanovitelj podjetja Anthropic in vodja raziskav na področju interpretacije umetne inteligence. Olah se je pred kratkim znašel v sporu s Pentagonom, ker ameriški administraciji ni želel prepustiti neomejenega nadzora nad svojim sistemom za vojaške in nadzorne namene.

FOTO: Handout Afp

Papež v dokumentu izpostavlja, da se danes ne moremo zgolj omejiti na ponavljanje naukov iz preteklosti, ampak moramo prositi za modrost pri tolmačenju sodobnih trendov. Digitalizacija, umetna inteligenca in robotika namreč hitro in globoko preoblikujejo naš svet.Enciklika je razdeljena na pet poglavij in izhaja iz predpostavke, da tehnologija sama po sebi ni človeštvu sovražna sila ali vir zla. Kljub temu pa tehnologija nikoli ni nevtralna, saj prevzame značilnosti tistih, ki jo snujejo, financirajo, regulirajo in uporabljajo. Papež opozarja na nevarnost, da bi se tehnološka moč nakopičila v rokah redkih posameznikov, kar bi še povečalo razkorak med vključenimi in izključenimi iz digitalne revolucije. V duhu družbene pravičnosti poudarja, da digitalna doba zahteva enakopraven dostop do priložnosti za vse, zaščito najranljivejših, boj proti sovraštvu in dezinformacijam ter podreditev tehnologije javnemu nadzoru. Vodilno načelo ne sme biti izključno dobiček, temveč dostojanstvo vsakega posameznika in skupno dobro.

Resnica kot skupno dobro in ogroženost demokracije

Četrto poglavje z naslovom »Resnica kot skupno dobro« opozarja na zlorabo orodij, ki bi morala spodbujati dialog, a se namesto tega uporabljajo za ustvarjanje izkrivljenih zgodb ter brisanje meja med dejstvi in mnenji. Tisti, ki upravljajo z mogočnimi tehnološkimi in gospodarskimi viri, imajo izjemen vpliv na kulturne spremembe. Gre za čisto moč, ločeno od resnice, ki prikrito ali odkrito vsiljuje lastne interese. Takšno stanje neposredno ogroža demokracijo, saj je iskanje resnice njen ključni element. Ko vprašanje resnice izgubi pomen in prevlada pragmatizem, ki se zadovolji le s tistim, kar je koristno ali učinkovito, demokratično življenje oslabi. Demokracija namreč niso le pravila in postopki, temveč predvsem zavezanost dejstvom in skupnemu dobru. Brezbrižnost do resnice vodi v totalitarizem. V tem kontekstu dokument navaja misel filozofinje Hannah Arendt, da idealni podložniki totalitarnih režimov niso prepričani ideologi, ampak ljudje, za katere razlika med dejstvi in fikcijo ter med resnico in lažjo sploh ne obstaja več.

FOTO: Alberto Pizzoli Afp

Peto poglavje, naslovljeno »Kultura moči in civilizacija ljubezni«, prinaša ostro opozorilo pred »normalizacijo vojne«. Papež opozarja na skrb vzbujajočo vrnitev vojne kot legitimnega orodja mednarodne politike ob hkratnem usihanju etičnih načel, ki so jo včasih omejevala. Uporaba avtonomnih orožnih sistemov namreč zmanjšuje človeški nadzor in dela vojno lažje izvedljivo, kar krši načelo, da je oborožena sila dopustna le kot skrajno sredstvo obrambe. Zato mora biti razvoj umetne inteligence v vojaške namene podvržen najstrožjim etičnim omejitvam.

Etika ni lastnost algoritmov

Papež odločno zavrača idejo o strojih kot moralnih akterjih, ki bi lahko razlikovali med dobrim in zlim bolje od ljudi. Moralna presoja namreč vključuje vest, osebno odgovornost in priznavanje drugega kot osebe, zato umetnim sistemom ni dopustno prepuščati usodnih ali nepopravljivih odločitev. Noben algoritem ne more narediti vojne moralno sprejemljive. Umetna inteligenca ne zmanjšuje nečlovečnosti spopadov, temveč jih le pospešuje, dela bolj neosebne, žrtve pa spreminja v gole statistične podatke. S tem nas navaja na misel, da je nasilje neizogibno in da ga je potrebno le optimizirati. Gre za izjemen protivojni argument, ki pa ga svetovni centri moči verjetno ne bodo uslišali.

Dokument se zaključuje z opozorilom o izgubi zgodovinskega spomina v času, ko pričevanja iz prve roke o holokavstu in svetovnih vojnah izginjajo. To vodi v selektivno in popačeno pisanje zgodovine, kjer lažne novice zamegljujejo pretekle lekcije.