Компанија Anthropic позвала је водеће светске компаније које развијају вештачку интелигенцију да размотре механизме за успоравање развоја најмоћнијих АИ система, упозоравајући да би пребрз напредак могао да доведе до озбиљних друштвених ризика.
У новом саопштењу компанија је навела да њени најнапреднији модели напредују великом брзином и да би у будућности могло доћи до фазе у којој би системи вештачке интелигенције били способни да сами унапређују сопствене способности, без директне људске интервенције.
Такав процес назива се рекурзивно самоусавршавање. Реч је о тренутку у коме би АИ системи могли да помажу у стварању још моћнијих АИ система, чиме би се развој технологије додатно убрзао.
Anthropic наглашава да до тога још није дошло и да такав сценарио није неизбежан, али упозорава да би могао да се појави раније него што су институције и друштво спремни да одговоре.
Компанија сматра да би за свет било корисно да постоји могућност успоравања или привременог заустављања развоја најнапреднијих АИ система, како би безбедносна истраживања, законодавство и друштвене институције могли да ухвате корак са технологијом.
Предложено је и постизање глобалног договора о томе како би се развој могао успорити уколико ризици постану превелики, као и механизам провере да ли се све компаније заиста придржавају таквог договора.
Критичари, међутим, тврде да оваква упозорења могу истовремено да послуже и као маркетиншка стратегија, јер компаније на тај начин наглашавају моћ сопствених производа и представљају се као одговорни чувари безбедности.
Унутар саме АИ индустрије већ дуго траје спор о томе колико су данашњи системи заиста близу општој вештачкој интелигенцији, односно нивоу способности упоредивом са људским, као и да ли је самостално унапређивање реална опасност у блиској будућности.
Ипак, упозорење Anthropic-а показује да се расправа о вештачкој интелигенцији све више помера са питања продуктивности и тржишне користи на питање контроле, безбедности и тога ко ће уопште моћи да заустави технологију ако почне да напредује брже од друштва које ју је створило.
