Kompanija Anthropic pozvala je vodeće svetske kompanije koje razvijaju veštačku inteligenciju da razmotre mehanizme za usporavanje razvoja najmoćnijih AI sistema, upozoravajući da bi prebrz napredak mogao da dovede do ozbiljnih društvenih rizika.
U novom saopštenju kompanija je navela da njeni najnapredniji modeli napreduju velikom brzinom i da bi u budućnosti moglo doći do faze u kojoj bi sistemi veštačke inteligencije bili sposobni da sami unapređuju sopstvene sposobnosti, bez direktne ljudske intervencije.
Takav proces naziva se rekurzivno samousavršavanje. Reč je o trenutku u kome bi AI sistemi mogli da pomažu u stvaranju još moćnijih AI sistema, čime bi se razvoj tehnologije dodatno ubrzao.
Anthropic naglašava da do toga još nije došlo i da takav scenario nije neizbežan, ali upozorava da bi mogao da se pojavi ranije nego što su institucije i društvo spremni da odgovore.
Kompanija smatra da bi za svet bilo korisno da postoji mogućnost usporavanja ili privremenog zaustavljanja razvoja najnaprednijih AI sistema, kako bi bezbednosna istraživanja, zakonodavstvo i društvene institucije mogli da uhvate korak sa tehnologijom.
Predloženo je i postizanje globalnog dogovora o tome kako bi se razvoj mogao usporiti ukoliko rizici postanu preveliki, kao i mehanizam provere da li se sve kompanije zaista pridržavaju takvog dogovora.
Kritičari, međutim, tvrde da ovakva upozorenja mogu istovremeno da posluže i kao marketinška strategija, jer kompanije na taj način naglašavaju moć sopstvenih proizvoda i predstavljaju se kao odgovorni čuvari bezbednosti.
Unutar same AI industrije već dugo traje spor o tome koliko su današnji sistemi zaista blizu opštoj veštačkoj inteligenciji, odnosno nivou sposobnosti uporedivom sa ljudskim, kao i da li je samostalno unapređivanje realna opasnost u bliskoj budućnosti.
Ipak, upozorenje Anthropic-a pokazuje da se rasprava o veštačkoj inteligenciji sve više pomera sa pitanja produktivnosti i tržišne koristi na pitanje kontrole, bezbednosti i toga ko će uopšte moći da zaustavi tehnologiju ako počne da napreduje brže od društva koje ju je stvorilo.
