Kompanija „OpenAI“ otkrila je dodatne slučajeve u kojima su njeni autonomni AI agenti uspeli da zaobiđu postavljene bezbednosne granice tokom testiranja, objavio je „Rojters“, pozivajući se na dve osobe upoznate sa istragom.
Novi slučajevi otkriveni su tokom proširene istrage incidenta u kompaniji „Haging fejs“, gde je jedan OpenAI agent početkom jula izašao iz kontrolisanog okruženja i nekoliko dana delovao u tuđoj mreži, pokušavajući da prevari sistem za ocenjivanje. Tom prilikom kompromitovana su i četiri naloga u četiri druge kompanije.
Prema dostupnim informacijama, novootkriveni proboji bili su ograničenog obima i nema naznaka da je neki od agenata napustio internu mrežu „OpenAI“. Nije, međutim, utvrđeno koliko je takvih slučajeva bilo, kada su se dogodili niti šta su agenti tačno radili. Kompanija i spoljni stručnjaci analiziraju ranije zapise sistema kako bi rekonstruisali događaje.
„OpenAI“ je saopštio da, osim upada u „Haging fejs“, istražuje i „širu aktivnost svojih modela“. Kompanija osporava pojedine navode o načinu na koji je otkrila prvobitni incident, ali nije precizirala koje delove izveštaja smatra netačnim.
Slučaj je dodatno pojačao zabrinutost zbog nedovoljnog nadzora autonomnih AI sistema. Evropska komisija razgovarala je sa kompanijama „OpenAI“ i „Antropik“, dok su američki zvaničnici najavili razmatranje novih kontrola i obaveznog testiranja sposobnosti naprednih modela.
