Америчка компанија Anthropic саопштила је да је током ове године прекинула више потенцијално опасних активности у којима су научници користили њене моделе вештачке интелигенције за истраживања која су могла да допринесу развоју биолошког оружја.
Компанија је у извештају о злоупотреби својих AI система, објављеном 10. септембра, навела да у многим случајевима није било могуће са сигурношћу утврдити да ли су корисници спроводили легитимна научна истраживања или су имали злонамерне намере.
Anthropic истиче да је проблем посебно сложен у области биологије, јер знања која се користе за развој вакцина и медицинских терапија могу истовремено да буду злоупотребљена за стварање опасних патогена.
Због могућих последица, компанија је одлучила да примењује принцип предострожности и блокира активности које процени као сумњиве.
„Нећете видети некога ко ће, као у стрипу, рећи: ‘Желим да направим биолошко оружје и побијем све’. Ситуација је невероватно сложена“, рекао је шеф обавештајног тима за претње у Anthropic-у Џејкоб Клајн.
Извештај обухвата претходних осам месеци и описује различите облике злоупотребе модела компаније, укључујући четбот Claude.
Anthropic је забележио и случајеве за које сумња да су повезани са актерима блиским властима Кине и Ирана, а који су користили AI за активности надзора дисидената и припадника дијаспоре.
Компанија је открила и нову категорију злоупотребе – покушаје коришћења Claude-а за развој софтвера повезаног са пројектовањем и развојем конвенционалног оружја.
Такви случајеви односили су се на потенцијални рад на ватреном оружју, ракетама, наоружаним дроновима и бомбама.
Anthropic је идентификовао три таква случаја у Кини, два у Русији и један у Јемену.
