Ste vedeli, da vas lahko vidijo gole, tudi če niste nikoli intimno pozirali?

Uporaba umetne inteligence za ustvarjanje lažnih, pogosto seksualiziranih podob žensk brez njihove vednosti in privolitve postaja eden najbolj skrb vzbujajočih stranskih učinkov tehnološkega napredka. Če je generativna umetna inteligenca še pred kratkim predstavljala orodje ustvarjalnosti in produktivnosti, se zdaj vse jasneje kaže tudi njena temna plat. Strokovnjaki pa opozarjajo, da smo šele na začetku, navaja hrvaški Index. Eden od uporabnikov je na Redditu zapisal, da ga je uporaba Groka, generativnega sistema umetne inteligence, vključenega v omrežje X, odvrnila od klasične pornografije, ki se mu danes zdi banalna. Drug uporabnik mu je pritrdil z dodatkom, da mu umetna inteligenca omogoča ustvarjanje podob zelo specifičnih, resničnih oseb. Takšni zapisi razkrivajo, da zaščitni ukrepi, ki so jih podjetja uvedla z zamikom in pod pritiskom javnosti, očitno ne zadoščajo.

Kljub varovalkam prihaja do zlorab

Primer Groka, enega najbolj razvpitih generativnih orodij zadnjih mesecev, je postal simbol širšega problema. Čeprav je javnosti približal zmogljivosti umetne inteligence, je hkrati pokazal, kako hitro in učinkovito se lahko takšna tehnologija zlorabi. Britanski Guardian opozarja, da regulatorji po svetu stojijo pred skoraj nerešljivo nalogo, saj se razvoj tovrstnih orodij odvija tako hitro, da zakonodaja težko sledi. Združeno kraljestvo je napovedalo, da bo ustvarjanje intimnih in seksualnih podob brez soglasja kmalu opredeljeno kot kaznivo dejanje, vendar raziskovalci opozarjajo, da uporaba umetne inteligence za škodovanje ženskam še zdaleč ni dosegla vrhunca. Nasprotno, naj bi se šele dobro začela. Večji ponudniki umetne inteligence so sicer uvedli strožje varovalke. Jezikovni model Claude na primer zavrne zahteve po odstranjevanju oblačil z resničnih oseb na fotografijah. Tudi ChatGPT in Googlov Gemini dovoljujeta zgolj zelo omejene in neeksplicitne upodobitve. Zunaj nadzorovanih okolij pa obstaja obsežen, razvejan in hitro rastoč sistem spletnih strani, forumov in aplikacij, ki so v celoti namenjeni digitalnemu razgaljanju.

Možnost pa je tudi obratno: umetna inteligenca lahko iz gole slike naredi oblečeno ali doda kakšnega družinskega člana. FOTO: Posnetek zaslona X

Aplikacije imajo milijonske obiske 

Na Redditu in Telegramu se pogosto razpravlja o tehnikah, s katerimi je mogoče umetno inteligenco prisiliti v ustvarjanje pornografskih podob, na omrežju X pa se širijo povezave do aplikacij, ki obljubljajo odstranjevanje oblačil s fotografij v le nekaj sekundah. Raziskovalka Anne Craanen iz Inštituta za strateški dialog opozarja, da so se te skupnosti v zadnjem letu nevarno približale osrednjemu spletu. Raziskava inštituta je pokazala, da je bilo samo maja 2025 takšnih aplikacij in strani deležnih skoraj 21 milijonov obiskov, njihova prisotnost na družbenih omrežjih pa se še naprej povečuje. Dodatno zaskrbljujoče je dejstvo, da infrastrukturo za to obliko digitalnega nasilja pogosto zagotavljajo povsem običajne platforme in trgovine z aplikacijami. 

Profesorica prava Clare McGlynn z univerze v Durhamu, ena vodilnih strokovnjakinj za nasilje nad ženskami, opozarja, da vsaka nova tehnologija pokaže enak vzorec. Najprej navdušenje, nato pa sledi zloraba. Če bo razvoj potekal brez jasnih, dosledno uveljavljenih pravil in brez odgovornosti velikih tehnoloških podjetij, bi lahko umetna inteligenca postala eno najmočnejših orodij digitalnega nasilja doslej.