Tvrtka za umjetnu inteligenciju Anthropic isporučila je novo izdanje ustava za svoju obitelj modela umjetne inteligencije Claude. Dokument sadrži 23 tisuće riječi na 57 stranica i predstavlja odmak od prethodnog izdanja iz 2023. godine, koje je bilo tek "popis samostalnih načela". To više nije korisno jer modeli poput Claudea moraju "razumjeti zašto želimo da se ponašaju na određene načine i to im moramo objasniti, a ne samo specificirati što želimo da rade", uvjereni su u Anthropicu.

Novi ustav opisuju kao "iskren pokušaj pomaganja Claudeu u shvaćanju svoje situacije, naših motiva i razloga zašto ga oblikuju na način na koji to činimo", kao i detaljan opis njihove vizije Claudeove vrijednosti i ponašanja. 

U Anthropicu se nadaju kako će Claude temeljem toga biti siguran i neće potkopavati ljudske mehanizme za razvoj te etičan i iskren, izbjegavajući radnje koje su neprikladne, opasne ili štetne. Također bi trebao djelovati u skladu s Anthropicovim smjernicama i biti koristan. Nađe li se u sukobu interesa, model bi trebao općenito dati prioritet ovim svojstvima redoslijedom kojim su navedena.

Dokument Claudea naziva entitetom za koji treba pretpostaviti kako ima identitet (moguće i verziju emocija), pa mu treba pomoći kako bi bio pozitivan i stabilan. U Anthropicu se zasad još nisu očitovali je li riječ o entitetu koji može razlikovati dobro od zla i biti odgovoran za svoje izbore.

Žele da se Claudea koristi za zadatke koji su dobri za njegove vlasnike, društvo i svijet. Pri procjeni spornih situacija mogao bi koristiti gledište više rangiranog zaposlenika Anthropica kao obrazac za usporedbu.

Ustav će biti ponovno razmotren i revidiran kad se za time ukaže potreba. "Moćni modeli umjetne inteligencije bit će nova vrsta sile u svijetu, a oni koji ih stvaraju imaju priliku pomoći im da utjelove najbolje u čovječanstvu. Nadamo se da je ovaj novi ustav korak u tom smjeru", poručili su iz Anthropica.