Claude, model tvrtke Anthropic, pomaže u razvoju sljedeće, inteligentnije verzije tog modela. Predvodi 26 posto aktivnosti istraživanja i razvoja Anthropicovih modela, što znači kako može obaviti većinu zadanog posla od početka do kraja na temelju općenite upute, uz zadržavanje ljudskog nadzora. 

Model još ne djeluje potpuno autonomno. Ipak, oko 90 posto istraživanja i razvoja tvrtke odvija se u suradnji s Claudeom.

Vodeće osobe u području umjetne inteligencije, predvođene glavnim izvršnim direktorom Anthropica Dariom Amodeijem, pozivaju na usporavanje razvoja te tehnologije zbog zabrinutosti za sigurnost.

"Dok čelnici razmatraju tempo razvoja umjetne inteligencije, trebali bismo učiniti sve što je u našoj moći kako bismo smanjili jaz između onoga što znaju vodeći laboratoriji i onoga što zna javnost. To podrazumijeva bolje mjerenje razvoja umjetne inteligencije, javno izvještavanje o tome i pružanje prilike društvu da odluči kako će iskoristiti te informacije", naveli su iz Anthropica. 

Tvrtka je istaknula kako bi modeli koji ubrzavaju vlastiti razvoj mogli ljudima otežati razumijevanje ili kontrolu nad tim sustavima. Ustvrdili su kako bi dijeljenje tih pokazatelja moglo dovesti do boljeg razumijevanja toga koliko su vodeći laboratoriji za umjetnu inteligenciju blizu postizanja rekurzivnog samounapređenja, odnosno sposobnosti modela da samostalno izradi svog nasljednika.

Anthropic je također pozvao druge razvojne timove u području umjetne inteligencije na redovito dijeljenje sličnih pokazatelja, potičući pritom primjenu javno dostupne metodologije kako bi se brojčani podaci mogli uspoređivati ​​tijekom vremena, a potencijalno i među različitim laboratorijima.

Iz njihove objave nije jasno koliko su blizu postizanju rekurzivnog samounapređenja, no zamjetan je tempo kojim Claude sve više pridonosi istraživanju i razvoju. Udio posla koji Claude obavlja u velikoj mjeri uz ljudski nadzor u veljači je iznosio nula posto. Šest mjeseci kasnije, u kolovozu, Claude je predvodio četvrtinu aktivnosti istraživanja i razvoja.

Tvrtka je također iznijela pojedinosti o mjerama nadzora agenata koje provodi, napomenuvši kako je u kolovozu na poslovima istraživanja i inženjeringa radilo približno 30 tisuća agenata. Nadzorne mjere ključne su za utvrđivanje koliko često sustavi praćenja otkrivaju neprimjereno ponašanje agenata, uvjereni su u Anthropicu. Tvrtka se nedavno obvezala na osnivanje vanjskih procjenitelja treće strane koji će biti uključeni u tvrtku kako bi pratili sigurnosne napore.