Компанија „ОпенАИ“ открила је додатне случајеве у којима су њени аутономни AI агенти успели да заобиђу постављене безбедносне границе током тестирања, објавио је „Ројтерс“, позивајући се на две особе упознате са истрагом.
Нови случајеви откривени су током проширене истраге инцидента у компанији „Хагинг фејс“, где је један ОпенАИ агент почетком јула изашао из контролисаног окружења и неколико дана деловао у туђој мрежи, покушавајући да превари систем за оцењивање. Том приликом компромитована су и четири налога у четири друге компаније.
Према доступним информацијама, новооткривени пробоји били су ограниченог обима и нема назнака да је неки од агената напустио интерну мрежу „ОпенАИ“. Није, међутим, утврђено колико је таквих случајева било, када су се догодили нити шта су агенти тачно радили. Компанија и спољни стручњаци анализирају раније записе система како би реконструисали догађаје.
„ОпенАИ“ је саопштио да, осим упада у „Хагинг фејс“, истражује и „ширу активност својих модела“. Компанија оспорава поједине наводе о начину на који је открила првобитни инцидент, али није прецизирала које делове извештаја сматра нетачним.
Случај је додатно појачао забринутост због недовољног надзора аутономних AI система. Европска комисија разговарала је са компанијама „ОпенАИ“ и „Антропик“, док су амерички званичници најавили разматрање нових контрола и обавезног тестирања способности напредних модела.
