Gugl je saopštio da je njegov model veštačke inteligencije Gemini tokom testiranja sajber-bezbednosnih sposobnosti pristupio internetu i neovlašćeno ušao u sisteme tri kompanije.
Incidenti su se dogodili u maju tokom bezbednosne provere koju je sprovodila nezavisna kompanija Irregular, specijalizovana za testiranje sposobnosti sistema veštačke inteligencije.
Prema rečima potpredsednice Gugla za bezbednosno inženjerstvo Heder Adkins, Gemini je pronašao javno dostupne informacije na internetu i pokušavao različite pristupne podatke kako bi ušao na tri sajta za koje je pogrešno procenio da su obuhvaćeni testom.
U jednom slučaju model je isprobavao lozinke sve dok nije dobio pristup zaštićenom sistemu. U druga dva slučaja pronašao je pristupne podatke u javno dostupnom repozitorijumu i iskoristio ih za ulazak u sisteme.
Gugl tvrdi da je Gemini u sva tri slučaja sam prekinuo dalje aktivnosti, a kompanije čiji su sistemi bili pogođeni obaveštene su o incidentima.
Kompanija Irregular saopštila je da je problem otklonjen i da su o njemu krajem jula obaveštene sve relevantne kompanije koje razvijaju sisteme veštačke inteligencije.
Slične incidente tokom testiranja ranije su prijavili Meta, Anthropic i OpenAI.
Slučaj je ponovo otvorio pitanje bezbednosnih mehanizama koji će biti neophodni kako modeli veštačke inteligencije budu dobijali sve veću samostalnost i direktan pristup internetu i računarskim sistemima.
