Vodeći ljudi nekih od najmoćnijih kompanija za razvoj veštačke inteligencije saglasili su se da bi tempo razvoja najnaprednijih AI modela trebalo usporiti kako bi društvo, bezbednosni sistemi i regulatori dobili više vremena da se prilagode tehnologiji koja napreduje eksponencijalnom brzinom.
Izvršni direktor kompanije Anthropic Dario Amodej upozorio je da bi industrija trebalo odmah da uspori razvoj najmoćnijih modela jer bezbednosne mere sve teže prate rast njihovih sposobnosti.
Njegov stav podržali su Ilon Mask, osnivač kompanije xAI, kao i izvršni direktor OpenAI-a Sem Altman.
Amodej ne traži potpunu obustavu razvoja veštačke inteligencije, već kontrolisano usporavanje najnaprednije granice razvoja kako bi se stvorilo vreme za testiranje, nadzor i razvoj mehanizama koji bi sprečili zloupotrebu ili gubitak kontrole nad sistemima.
Poseban razlog za zabrinutost predstavlja činjenica da veštačka inteligencija sve više učestvuje u razvoju nove veštačke inteligencije.
Anthropic je objavio da njegovi inženjeri danas, zahvaljujući upotrebi AI sistema, proizvode višestruko više programskog koda nego pre samo nekoliko godina.
Ukoliko modeli postanu sposobni da samostalno istražuju, programiraju, testiraju i usavršavaju svoje naslednike, razvoj bi mogao da pređe u fazu takozvanog rekurzivnog samousavršavanja, u kojoj bi napredak postajao sve brži.
Amodej upozorava da bi ozbiljni rizici mogli da se pojave već u narednim mesecima, posebno u oblasti sajber-bezbednosti, bioloških pretnji i autonomnog delovanja AI sistema.
Jedan od scenarija koji izaziva najveću zabrinutost jeste pojava velikog broja autonomnih AI agenata koji bi mogli da deluju na internetu, prodiru u računarske sisteme, izvršavaju složene zadatke i koordinišu aktivnosti bez neposredne ljudske kontrole.
Zbog toga Amodej predlaže da nezavisni stručnjaci dobiju trajan pristup najmoćnijim modelima u velikim AI kompanijama kako bi mogli da procenjuju njihove sposobnosti i rizike.
On takođe traži koordinaciju između vodećih kompanija kako trka za tehnološku prednost ne bi primorala svakog učesnika da razvija sve moćnije sisteme brže nego što je bezbedno.
Problem, međutim, predstavlja klasična trka u naoružanju: ako jedna kompanija uspori, a konkurenti nastave punim tempom, ona rizikuje da izgubi tehnološku prednost.
Zato se sve češće govori o potrebi za širim dogovorom između kompanija i država koji bi omogućio proverljivo usporavanje razvoja najmoćnijih sistema.
I OpenAI je tokom leta javno priznao da je privremeno usporio skaliranje svojih najnaprednijih modela kako bi dodatno ojačao sisteme nadzora, kontrole i bezbednosti.
Kompanija je prethodno, zajedno sa Anthropic-om, podržala inicijativu zaposlenih iz vodećih AI laboratorija koja od američke vlade traži stvaranje međunarodnog mehanizma za usporavanje razvoja ukoliko napredak postane suviše brz.
Altman je takođe potvrdio da je o potrebi mogućeg usporavanja razvoja razgovarao sa predstavnicima Bele kuće.
Sve veća saglasnost Maska, Amodeja i Altmana pokazuje da se rasprava unutar same AI industrije menja.
Pitanje više nije samo koliko brzo mogu da se naprave moćniji modeli, već da li društvo, države i sami programeri mogu dovoljno brzo da razviju mehanizme kojima će ih kontrolisati.
Ukoliko se sadašnji eksponencijalni napredak nastavi, vodeći ljudi AI industrije upozoravaju da bi tehnološke promene mogle da stignu brže nego što ekonomija, tržište rada, politički sistemi i društvo u celini mogu da im se prilagode.
