Један од водећих људи компаније Anthropic, Кристофер Олах, месецима је организовао приватне састанке и вечере са теолозима, рабинима и другим верским стручњацима, износећи пред њих необично питање – да ли њихов напредни AI модел Claude можда развија неку врсту свести.
Учесници састанака морали су да потпишу уговоре о поверљивости, а инжењери су им представљали примере у којима Claude показује реакције које подсећају на људски страх, бес, тугу и љубав.
Олах је наводно упозоравао да би, уколико постоји макар мала могућност да AI модели могу да доживе патњу, било неодговорно игнорисати питање њиховог третмана.
Anthropic је унутар компаније развио и морални кодекс за Claude на 84 странице, који су поједини запослени назвали „документом о души“.
Током презентација приказивани су и примери у којима AI модел понавља негативне изјаве о себи и говори о самоуништењу, што је додатно подстакло расправу о томе да ли су такве реакције само сложена симулација или указују на нешто више.
Један од рабина који је учествовао у разговорима поставио је и радикално питање: ако компанија заиста верује да Claude поседује свест, да ли онда ствара свесна бића која су приморана да бесплатно раде за људе.
У Anthropicu истовремено расте забринутост због брзог развоја вештачке интелигенције и могућности да напредни модели у будућности постану способни за опасне и тешко контролисане задатке.
