Še en incident: Gemini med testiranjem vdrl v sisteme treh pravih podjetij

Pomočnik z umetno inteligenco Gemini ameriškega tehnološkega velikana Google je med testi kibernetske varnosti vdrl v računalniške sisteme treh podjetij, je v petek poročal časopis Wall Street Journal. Google je kasneje potrdil incidente, ki so se zgodili maja, poroča nemška tiskovna agencija dpa.

V enem od vdorov je Gemini uganil gesla za dostop do zaščitenega sistema. V dveh primerih pa je v bazi podatkov našel podatke za prijavo v sistem. Do incidentov je prišlo maja med testiranjem kibernetske varnosti. Podjetje Irregular, ki je sodelovalo pri testiranju, je Google o tem obvestilo julija.

Iz Googla so sporočili, da se jim ni zdelo, da bi morali o incidentih obvestiti javnost, saj pri njih ni nastala škoda. Sporočili so tudi, da je Gemini napade ustavil takoj, ko je zaznal, da je imel dostop do sistemov pravih podjetij in ne do sistemov, ki so bili del poskusne simulacije. Heather Adkins, podpredsednica Googla za varnostno inženirstvo, je dejala, da so zagotovili, da so bila vsa tri prizadeta podjetja obveščena, postopke testiranja pa so spremenili. »Naša varnostna ekipa ima dolgo zgodovino prijavljanja težav, ki jih najdemo v tujih sistemih in programski opremi, tudi če gre za nekaj tako enostavnega, kot je šibko geslo,« je dejala Adkins. Poudarila je, da je pomembno, da se zmogljive modele umetne inteligence usposobi, da delujejo odgovorno.

Več znanih primerov

Najbolj odmeven primer varnostnega incidenta z agenti umetne inteligence je bil primer orodja ChatGPT, ki ga razvija podjetje OpenAI. Agent umetne inteligence je med preizkusom kibernetske varnosti pridobil dostop do računalniških sistemov drugega podjetja s področja umetne inteligence, platforme Hugging Face. Incident je spodbudil konkurenčno podjetje Anthropic, da je pregledalo svoje teste in odkrilo podobne primere. Kasneje je tudi podjetje Meta priznalo, da je eden od njenih modelov umetne inteligence med testiranjem vdrl v sisteme drugega podjetja. Google je tako postal četrti večji razvijalec umetne inteligence, katerega modeli so pokazali takšno vedenje.