Гугл је саопштио да је његов модел вештачке интелигенције Gemini током тестирања сајбер-безбедносних способности приступио интернету и неовлашћено ушао у системе три компаније.
Инциденти су се догодили у мају током безбедносне провере коју је спроводила независна компанија Irregular, специјализована за тестирање способности система вештачке интелигенције.
Према речима потпредседнице Гугла за безбедносно инжењерство Хедер Адкинс, Gemini је пронашао јавно доступне информације на интернету и покушавао различите приступне податке како би ушао на три сајта за које је погрешно проценио да су обухваћени тестом.
У једном случају модел је испробавао лозинке све док није добио приступ заштићеном систему. У друга два случаја пронашао је приступне податке у јавно доступном репозиторијуму и искористио их за улазак у системе.
Гугл тврди да је Gemini у сва три случаја сам прекинуо даље активности, а компаније чији су системи били погођени обавештене су о инцидентима.
Компанија Irregular саопштила је да је проблем отклоњен и да су о њему крајем јула обавештене све релевантне компаније које развијају системе вештачке интелигенције.
Сличне инциденте током тестирања раније су пријавили Meta, Anthropic и OpenAI.
Случај је поново отворио питање безбедносних механизама који ће бити неопходни како модели вештачке интелигенције буду добијали све већу самосталност и директан приступ интернету и рачунарским системима.
