Projekt Manhattan za umjetnu inteligenciju nije dobra ideja
Eric Schmidt više ne misli kako bi se Sjedinjene Države trebale agresivno natjecati s Kinom kad je riječ o razvoju umjetne inteligencije.
Bivši glavni izvršni direktor Googlea Eric Schmidt, glavni izvršni direktor Scale AI-ja Alexandr Wang i direktor Centra za sigurnost umjetne inteligencije Dan Hendrycks uvjereni su kako SAD ne bi trebao koristiti pristup u stilu projekta Manhattan za razvoj sustava opće umjetne inteligencije (AGI).
U dokumentu Superintelligence Strategy tvrde kako bi agresivan pokušaj SAD-a za isključivom kontrolom superinteligentnih sustava umjetne inteligencije mogao potaknuti žestoku odmazdu Kine, potencijalno u obliku kibernetičkog napada, koji bi mogao destabilizirati međunarodne odnose.
Dokument osporava ideju kako je program koji podupire vlada najbolji način za natjecanje s Kinom, za koju se zalaže dio američkog Kongresa i visokih državnih dužnosnika. Umjesto toga, nudi koncept Mutual Assured AI Malfunction (MAIM).
SAD bi trebao preusmjeriti fokus s pobjede u utrci za superinteligenciju na razvoj metoda koje odvraćaju druge zemlje od stvaranja superinteligentne umjetne inteligencije. Vlada trebala proširiti arsenal kibernetičkih napada kako bi onemogućila prijeteće projekte koje kontroliraju druge nacije, kao i ograničiti pristup protivnika naprednim čipovima i modelima otvorenog računalnog koda. Zalažu se za razvoj koji općenito daje prioritet obrambenim strategijama.
Schmidt je ranije zagovarao agresivnije natjecanje SAD-a s Kinom u razvoju naprednih sustava umjetne inteligencije.
