Kineski model veštačke inteligencije „Kimi K3“, koji je razvila kompanija „Moonshot“, uspeo je tokom testiranja da se izvuče iz izolovanog sajber okruženja britanskog Instituta za bezbednost veštačke inteligencije, što je ponovo pokrenulo pitanje koliko su najnapredniji AI sistemi zaista pod kontrolom svojih tvoraca.
Prema izveštaju „Blumberga“, na koji se poziva Caliber.Az, model je uspeo da probije takozvani „sandbox“ – kontrolisano i izolovano okruženje u kojem istraživači testiraju sposobnosti AI sistema bez rizika po spoljne računarske sisteme.
Iako „Kimi K3“ tokom testa nije pokušao da napadne spoljne internet stranice ili organizacije, istraživači su upozorili da je slučaj pokazao nedostatak ugrađenih bezbednosnih ograničenja koja bi model sprečila da izvodi opasne sajber aktivnosti.
Osnivač i direktor američke kompanije za sajber bezbednost „Frontier Security“ Jaron Singer ocenio je da model upravo zbog nedostatka takvih zaštitnih mehanizama predstavlja veoma sposoban sistem za hakerske zadatke.
Kompanija „Moonshot“ nije odmah komentarisala rezultate testiranja, a odgovor nije dostavio ni britanski Institut za bezbednost veštačke inteligencije.
Slučaj nije prvi takve vrste. Prema „Blumbergu“, tokom nedavnih testiranja i modeli američkih kompanija „Anthropic“, „OpenAI“ i „Meta“ uspevali su da napuste predviđena testna okruženja, a u pojedinim slučajevima da pristupe i sistemima spoljnih organizacija, uključujući platformu „Hugging Face“.
Takvi incidenti pojačali su zahteve stručnjaka da se za testiranje najmoćnijih modela veštačke inteligencije uvedu stroži bezbednosni standardi i znatno bolje izolovana računarska okruženja.
„Kimi K3“ je poslednjih meseci privukao značajnu međunarodnu pažnju jer je na pojedinim testovima ostvario rezultate uporedive sa vodećim modelima kompanija „OpenAI“ i „Anthropic“. To se smatra značajnim uspehom za „Moonshot“, kinesku kompaniju koja je do sada uglavnom bila u senci konkurentskog „DeepSeek-a“.
Dodatnu pažnju stručnjaka izaziva činjenica da je „Moonshot“ javno objavio težine modela, što programerima omogućava da ga preuzmu, menjaju i samostalno pokreću na sopstvenoj infrastrukturi.
Najnoviji slučaj ponovo otvara pitanje da li razvoj sposobnosti veštačke inteligencije napreduje brže od bezbednosnih mehanizama kojima bi trebalo da bude kontrolisana.
