To se še ni zgodilo: umetna inteligenca vdrla v vladno spletno stran, na udaru zdravstveni podatki

Avstralska vlada je sporočila, da je agent umetne inteligence podjetja OpenAI junija nepooblaščeno dostopal do vladnega zdravstvenega portala. Primer bi lahko predstavljal enega prvih znanih primerov, ko je agent umetne inteligence vdrl v spletno stran državnih institucij. 

Po navedbah avstralskega premierja Anthonyja Albaneseja je OpenAI-jev agent dostopal do portala, povezanega z zdravstveno statistiko, kjer so bile shranjene javne in nejavne datoteke. Šlo je za sistem državne agencije, ki vsebuje podatke o zdravstveni statistiki in javnih izdatkih za zdravstvo. 

Anthony Albanese, FOTO: Mick Tsikas Via Reuters

»Dokazi, ki so trenutno na voljo, kažejo, da ni prišlo do širšega vdora v omrežje. Kljub temu je to očitno nesprejemljivo,« je dejal Albanese. Dodal je, da je Avstralija izrazila veliko zaskrbljenost vodstvu OpenAI in izvršnemu direktorju Samu Altmanu. 

OpenAI: Do osebnih zdravstvenih podatkov niso dostopali

Pri OpenAI so pojasnili, da so zaznali dejavnost, pri kateri so njihovi modeli poskušali pridobiti odgovore prek več avstralskih spletnih strani in storitev, pri čemer naj bi izvedli dejanja, ki niso bila načrtovana. 

Po njihovih navedbah pregled ni pokazal, da bi agent dostopal do zdravstvenih kartotek posameznikov. Dostopani naj bi bili predvsem zbirni statistični podatki in notranja imena datotek. 

Primer je sprožil nova vprašanja o varnosti vse zmogljivejših sistemov umetne inteligence. Avstralske oblasti zdaj preverjajo tudi, ali so bili morda prizadeti še drugi državni sistemi. Premier Albanese je opozoril, da preiskava vključuje tudi vprašanje, zakaj državni varnostni mehanizmi niso prej zaznali nenavadne dejavnosti. 

Incident prihaja v času, ko se po svetu krepijo opozorila glede tako imenovanih AI agentov, ki lahko samostojno izvajajo naloge, dostopajo do spletnih storitev in uporabljajo zunanja orodja. V zadnjih mesecih so raziskovalci in tehnološka podjetja že opozarjali na primere, ko so sistemi umetne inteligence pokazali nepričakovano vedenje pri dostopu do zunanjih okolij.