Velike AI tvrtke daleko su ispod globalnih sigurnosnih standarda
Iako su tvrtke bile zauzete utrkom u razvoju superinteligencije, nijedna nije imala robusnu strategiju za kontrolu takvih naprednih sustava.
Sigurnosne prakse velikih tvrtki za umjetnu inteligenciju, kao što su Anthropic, OpenAI, xAI i Meta, daleko su ispod novih globalnih standarda, prema novom izdanju indeksa sigurnosti umjetne inteligencije Instituta Future of Life. Iako su tvrtke bile zauzete utrkom u razvoju superinteligencije, nijedna nije imala robusnu strategiju za kontrolu takvih naprednih sustava.
Utrka umjetne inteligencije također ne pokazuje znakove usporavanja, a velike tehnološke tvrtke ulažu stotine milijardi američkih dolara u nadogradnju i proširenje svojih napora u strojnom učenju.
Future of Life Institute neprofitna je organizacija zabrinuta zbog rizika koje inteligentni strojevi predstavljaju za čovječanstvo. Osnovana 2014. godine, od samog početka podržava ju Elon Musk.
U listopadu je skupina - koja je uključivala znanstvenike Geoffreyja Hintona i Yoshuu Bengia - pozvala na zabranu razvoja superinteligentne umjetne inteligencije dok javnost to ne zahtijeva i znanost ne utre siguran put naprijed.
Glasnogovornik Google DeepMinda rekao je kako će ta tvrtka "nastaviti s inovacijama u pogledu sigurnosti i upravljanja u skladu s mogućnostima" kako njezini modeli postaju napredniji, dok je xAI rekao kako "tradicionalni mediji lažu", što se zvuči kao automatizirani odgovor.
