Američka kompanija Anthropic saopštila je da je tokom ove godine prekinula više potencijalno opasnih aktivnosti u kojima su naučnici koristili njene modele veštačke inteligencije za istraživanja koja su mogla da doprinesu razvoju biološkog oružja.
Kompanija je u izveštaju o zloupotrebi svojih AI sistema, objavljenom 10. septembra, navela da u mnogim slučajevima nije bilo moguće sa sigurnošću utvrditi da li su korisnici sprovodili legitimna naučna istraživanja ili su imali zlonamerne namere.
Anthropic ističe da je problem posebno složen u oblasti biologije, jer znanja koja se koriste za razvoj vakcina i medicinskih terapija mogu istovremeno da budu zloupotrebljena za stvaranje opasnih patogena.
Zbog mogućih posledica, kompanija je odlučila da primenjuje princip predostrožnosti i blokira aktivnosti koje proceni kao sumnjive.
„Nećete videti nekoga ko će, kao u stripu, reći: ‘Želim da napravim biološko oružje i pobijem sve’. Situacija je neverovatno složena“, rekao je šef obaveštajnog tima za pretnje u Anthropic-u Džejkob Klajn.
Izveštaj obuhvata prethodnih osam meseci i opisuje različite oblike zloupotrebe modela kompanije, uključujući četbot Claude.
Anthropic je zabeležio i slučajeve za koje sumnja da su povezani sa akterima bliskim vlastima Kine i Irana, a koji su koristili AI za aktivnosti nadzora disidenata i pripadnika dijaspore.
Kompanija je otkrila i novu kategoriju zloupotrebe – pokušaje korišćenja Claude-a za razvoj softvera povezanog sa projektovanjem i razvojem konvencionalnog oružja.
Takvi slučajevi odnosili su se na potencijalni rad na vatrenom oružju, raketama, naoružanim dronovima i bombama.
Anthropic je identifikovao tri takva slučaja u Kini, dva u Rusiji i jedan u Jemenu.
