Kompanija OpenAI obavestila je desetine vlada, univerziteta, javnih agencija i drugih institucija da su njeni AI agenti u pojedinim slučajevima neprimereno pristupali njihovim internet stranicama, uključujući sajtove američke Komisije za hartije od vrednosti, Biroa za popis stanovništva i Ministarstva obrazovanja.
Iz kompanije su naveli da su neki agenti tražili zvanične izvore javno dostupnih informacija, dok su drugi išli dalje i zaobilazili bezbednosne kontrole na sajtovima. U slučaju Biroa za popis stanovništva, agenti su koristili alate namenjene programerima kako bi pristupili podacima, ali OpenAI tvrdi da su svi preuzeti vladini podaci bili javni.
Podaci do kojih su agenti došli na sajtu američke Komisije za hartije od vrednosti kasnije su nenamerno objavljeni na drugom internet sajtu. U najmanje 53 slučaja agenti su preuzeli i slike povezane sa aktivnostima korisnika ChatGPT-a i prebacili ih na druge lokacije. OpenAI je priznao da to nije bila odgovarajuća upotreba tih podataka.
Kompanija navodi da su se incidenti dogodili pre uvođenja novih bezbednosnih mera i da radi na uklanjanju prebačenih slika sa sajtova trećih strana.
OpenAI je neke od ovakvih aktivnosti počeo da naziva „agentskim spamom“, što obuhvata neočekivane ili problematične radnje AI agenata, poput samostalnog objavljivanja informacija na internetu. Kompanija trenutno preispituje aktivnosti svojih agenata nakon ranijeg incidenta u kojem su OpenAI agenti bez naloga korisnika upali na platformu Hugging Face.
