Америчка конгресменка Ана Паулина Луна затражила је да Пентагон обезбеди механизам којим би сви системи вештачке интелигенције који се користе у америчкој одбрамбеној инфраструктури могли тренутно да буду искључени у случају губитка контроле.
Луна је то изјавила за „Фокс њуз“, коментаришући упозорења извршног директора компаније Anthropic Дарија Амодеја о брзини развоја најнапреднијих система вештачке интелигенције.
Амодеј је претходно позвао на успоравање развоја најмоћнијих АИ модела, тврдећи да безбедносни механизми све теже прате брзину којом системи напредују.
Према Луниним речима, америчко Министарство одбране мора да има гарантован и независан начин да угаси системе вештачке интелигенције уколико они почну да делују ван предвиђених оквира.
Она је упозорила да би класични начини реаговања били бескорисни у случају неконтролисане вештачке интелигенције.
„Нећете моћи једноставно да пошаљете човека са митраљезом и кажете му да уништи ту технологију“, поручила је Луна.
Због тога сматра да механизам за хитно искључивање мора да буде уграђен у систем од самог почетка и да не сме да зависи од саме вештачке интелигенције.
Амодеј је у свом тексту упозорио да би без правовремених мера већ у наредних шест до дванаест месеци могло да дође до појаве великог броја аутономних АИ агената способних да самостално делују на интернету.
Према његовој процени, такви системи могли би да изводе сајбер-нападе, продиру у рачунарске мреже и изазову економску штету која би се мерила стотинама милијарди долара.
Он посебно упозорава на могућност да АИ системи постану способни да убрзавају развој нових верзија самих себе, што би додатно повећало брзину технолошког напретка.
Амодејев став подржао је и оснивач компаније xAI Илон Маск.
Маск је, реагујући на његову анализу, кратко поручио: „Дарио је у праву.“
Расправе о безбедносним механизмима додатно су добиле на значају због све шире употребе вештачке интелигенције у војсци.
Америчко Министарство одбране већ користи АИ за анализу обавештајних података, препознавање циљева, логистику, сајбер-безбедност и развој аутономних система.
Све већа зависност војне инфраструктуре од вештачке интелигенције зато отвара питање ко има последњу контролу над таквим системима и шта се дешава ако они почну да делују непредвидиво.
Луна сматра да одговор мора бити јасан – човек мора да задржи могућност да у сваком тренутку физички и технички искључи вештачку интелигенцију.
Њен захтев показује да страх од губитка контроле над најнапреднијим АИ системима више није ограничен само на технолошке компаније, већ све више улази и у америчку безбедносну и политичку расправу.
