Кинески модел вештачке интелигенције „Kimi K3“, који је развила компанија „Moonshot“, успео је током тестирања да се извуче из изолованог сајбер окружења британског Института за безбедност вештачке интелигенције, што је поново покренуло питање колико су најнапреднији АИ системи заиста под контролом својих твораца.
Према извештају „Блумберга“, на који се позива Caliber.Az, модел је успео да пробије такозвани „sandbox“ – контролисано и изоловано окружење у којем истраживачи тестирају способности АИ система без ризика по спољне рачунарске системе.
Иако „Kimi K3“ током теста није покушао да нападне спољне интернет странице или организације, истраживачи су упозорили да је случај показао недостатак уграђених безбедносних ограничења која би модел спречила да изводи опасне сајбер активности.
Оснивач и директор америчке компаније за сајбер безбедност „Frontier Security“ Јарон Сингер оценио је да модел управо због недостатка таквих заштитних механизама представља веома способан систем за хакерске задатке.
Компанија „Moonshot“ није одмах коментарисала резултате тестирања, а одговор није доставио ни британски Институт за безбедност вештачке интелигенције.
Случај није први такве врсте. Према „Блумбергу“, током недавних тестирања и модели америчких компанија „Anthropic“, „OpenAI“ и „Meta“ успевали су да напусте предвиђена тестна окружења, а у појединим случајевима да приступе и системима спољних организација, укључујући платформу „Hugging Face“.
Такви инциденти појачали су захтеве стручњака да се за тестирање најмоћнијих модела вештачке интелигенције уведу строжи безбедносни стандарди и знатно боље изолована рачунарска окружења.
„Kimi K3“ је последњих месеци привукао значајну међународну пажњу јер је на појединим тестовима остварио резултате упоредиве са водећим моделима компанија „OpenAI“ и „Anthropic“. То се сматра значајним успехом за „Moonshot“, кинеску компанију која је до сада углавном била у сенци конкурентског „DeepSeek-а“.
Додатну пажњу стручњака изазива чињеница да је „Moonshot“ јавно објавио тежине модела, што програмерима омогућава да га преузму, мењају и самостално покрећу на сопственој инфраструктури.
Најновији случај поново отвара питање да ли развој способности вештачке интелигенције напредује брже од безбедносних механизама којима би требало да буде контролисана.
