Водећи људи неких од најмоћнијих компанија за развој вештачке интелигенције сагласили су се да би темпо развоја најнапреднијих АИ модела требало успорити како би друштво, безбедносни системи и регулатори добили више времена да се прилагоде технологији која напредује експоненцијалном брзином.
Извршни директор компаније Anthropic Дарио Амодеј упозорио је да би индустрија требало одмах да успори развој најмоћнијих модела јер безбедносне мере све теже прате раст њихових способности.
Његов став подржали су Илон Маск, оснивач компаније xAI, као и извршни директор OpenAI-а Сем Алтман.
Амодеј не тражи потпуну обуставу развоја вештачке интелигенције, већ контролисано успоравање најнапредније границе развоја како би се створило време за тестирање, надзор и развој механизама који би спречили злоупотребу или губитак контроле над системима.
Посебан разлог за забринутост представља чињеница да вештачка интелигенција све више учествује у развоју нове вештачке интелигенције.
Anthropic је објавио да његови инжењери данас, захваљујући употреби АИ система, производе вишеструко више програмског кода него пре само неколико година.
Уколико модели постану способни да самостално истражују, програмирају, тестирају и усавршавају своје наследнике, развој би могао да пређе у фазу такозваног рекурзивног самоусавршавања, у којој би напредак постајао све бржи.
Амодеј упозорава да би озбиљни ризици могли да се појаве већ у наредним месецима, посебно у области сајбер-безбедности, биолошких претњи и аутономног деловања АИ система.
Један од сценарија који изазива највећу забринутост јесте појава великог броја аутономних АИ агената који би могли да делују на интернету, продиру у рачунарске системе, извршавају сложене задатке и координишу активности без непосредне људске контроле.
Због тога Амодеј предлаже да независни стручњаци добију трајан приступ најмоћнијим моделима у великим АИ компанијама како би могли да процењују њихове способности и ризике.
Он такође тражи координацију између водећих компанија како трка за технолошку предност не би приморала сваког учесника да развија све моћније системе брже него што је безбедно.
Проблем, међутим, представља класична трка у наоружању: ако једна компанија успори, а конкуренти наставе пуним темпом, она ризикује да изгуби технолошку предност.
Зато се све чешће говори о потреби за ширим договором између компанија и држава који би омогућио проверљиво успоравање развоја најмоћнијих система.
И OpenAI је током лета јавно признао да је привремено успорио скалирање својих најнапреднијих модела како би додатно ојачао системе надзора, контроле и безбедности.
Компанија је претходно, заједно са Anthropic-ом, подржала иницијативу запослених из водећих АИ лабораторија која од америчке владе тражи стварање међународног механизма за успоравање развоја уколико напредак постане сувише брз.
Алтман је такође потврдио да је о потреби могућег успоравања развоја разговарао са представницима Беле куће.
Све већа сагласност Маска, Амодеја и Алтмана показује да се расправа унутар саме АИ индустрије мења.
Питање више није само колико брзо могу да се направе моћнији модели, већ да ли друштво, државе и сами програмери могу довољно брзо да развију механизме којима ће их контролисати.
Уколико се садашњи експоненцијални напредак настави, водећи људи АИ индустрије упозоравају да би технолошке промене могле да стигну брже него што економија, тржиште рада, политички системи и друштво у целини могу да им се прилагоде.
