Ob dnevu varne rabe interneta, ki je bil letos 11. februarja, so na Točki ozaveščanja o varni rabi interneta Safe.si, ki deluje v okviru Fakultete za družbene vede Univerze v Ljubljani, opozorili na izzive in tveganja, ki jih za otroke in mladostnike prinaša umetna inteligenca, ki postaja sestavni del življenja mladostnikov. Raziskava, ki sta jo v letu 2024 v okviru raziskovalnega projekta Digitalna zrelost mladih: družbene potrebe in neformalno izobraževanje mladih v digitalni dobi izvedli Fakulteta za družbene vede in Pedagoška fakulteta UL, je pokazala, da umetno inteligenco pri šolskem delu dnevno uporablja 20,4 % srednješolcev, tedensko 39,9 %, mesečno 21,5 % in nekajkrat na leto 14,3 %. Da nikoli ne uporablja umetne inteligence pri šolskem delu, je reklo le 3,9 % srednješolcev.

Spremljanje tveganj

Na Safe.si podrobno spremljajo tveganja, ki jih mladostnikom prinaša umetna inteligenca. Med bolj problematična tveganja uvrščajo napačne informacije, razumevanje UI kot prijateljice ter predelavo in izdelavo golih fotografij. Zelo pomembna je kritična presoja in preverjanje informacij, ki jih proizvede UI; še posebno če jo uporabimo za pomembne naloge, na osnovi odgovorov sprejemamo bistvene odločitve ali iščemo odgovore o občutljivih temah, opozarjajo.

Na Safe.si podrobno spremljajo tveganja, ki jih mladostnikom prinaša UI. FOTO: Safe.si

»Številni učenci in dijaki si z umetno inteligenco pomagajo pri domačih nalogah in šolskem delu. Pri tem je lahko zelo uporabna, vendar je treba biti previden pri upoštevanju njenih odgovorov, ki so lahko na videz sicer pravilni, v posameznih podrobnostih pa napačni. Zato je odgovore priporočljivo vedno natančno preveriti v učbenikih in drugi literaturi,« svetujejo pri Safe.si. Da bi osnovnošolce in srednješolce opozorili na to problematiko, bodo pri Safe.si v tem mesecu šolam poslali plakat, ki opozarja na možnost napačnih odgovorov umetne inteligence.

Klepetalniki, ki uporabljajo generativno umetno inteligenco, lahko simulirajo pogovor s človekom, kar zna biti zavajajoče. FOTO: Dado Ruvic/Reuters

Klepetalniki oziroma t. i. chatboti, kot sta MyAI in ChatGPT, ki uporabljajo generativno umetno inteligenco, lahko simulirajo pogovor s človekom. To lahko mladostnike zavede, da jo začnejo obravnavati kot prijateljico, se nanjo navežejo, se k njej zatekajo, kadar so osamljeni, in ji zaupajo čustvene stiske in težave. Nasveti in odgovori, ki jih podaja UI, znajo biti zavajajoči in nevarni ter lahko mladostniku bolj škodijo kot koristijo. »Čeprav se nam lahko zdi, da se z umetno inteligenco lahko pogovarjamo, kot da je prijateljica, je to v resnici le algoritem, ki se je naučil pogovarjati kot človek. V resnici nima čustev, ne sočustvuje in ne razume težav,« opozarjajo pri Safe.si.

Gole fotografije

Velik izziv je izdelava golih posnetkov, saj je na spletu mnogo aplikacij, ki za nekaj evrčkov »slečejo« človeka na posredovani sliki. Na točki za prijavo posnetkov spolnih zlorab otrok Spletno oko opozarjajo na predelave posnetkov s spolno vsebino, ki jim pravimo tudi deepnude. »Storilci zlorab na tem področju obraze žrtev brez privolitve vstavijo v fotografije ali posnetke spolne narave. Ker pri tem uporabijo aplikacije z umetno inteligenco, so posnetki lahko videti popolnoma resnično. Čeprav gre za lažne podobe, so posledice za žrtve izdelave in širjenja tovrstnih posnetkov zelo resnične. Ob sramu in prizadetosti lahko čutijo tudi negotovost glede nadaljnjega ukrepanja.

Storilci predelane posnetke včasih uporabljajo tudi za izsiljevanje. Z grožnjo njihovega širjenja poskušajo pripraviti žrtve do izdelave pravih posnetkov spolne narave (pri tem so tarča pogosteje dekleta) ali k nakazilu denarja (tukaj so tarča predvsem fantje). Ključno je, da se starši informirajo o vseh tovrstnih tveganjih in se o njih redno in na odprt način pogovarjajo z otroki,« pravijo pri Spletnem očesu.