Anthropic: Treba usporiti ili pauzirati razvoj umjetne inteligencije
Kritičari smatraju kako bi Anthropicova upozorenja o vlastitoj tehnologiji mogla biti marketinški trik. Ipak, u toj tvrtci namjeravaju pokrenuti razgovore o moratoriju s relevantnim sugovornicima
Iz Anthropica su upozorili kako se umjetna inteligencija razvija tako brzo da bi, nastavi li se dosadašnji trend, sustavi mogli postati sposobni razviti vlastitog nasljednika ranije nego što je je većina institucija spremna. U objavi na blogu naveli su kako bi umjetna inteligencija koja se može sama izgraditi mogla "donijeti ogromno dobro svijetu" u područjima znanosti i zdravstva, između ostalog. Međutim, mogla bi i "povećati rizik gubitka ljudske kontrole nad sustavima umjetne inteligencije".
Kako čovječanstvo može spriječiti materijalizaciju Skyneta iz filmskog serijala Terminator? Anthropic sugerira kako je odgovor globalno usporavanje ili privremena pauza u razvoju umjetne inteligencije "kako bi se društvenim strukturama i istraživanjima usklađivanja omogućilo praćenja napretka tehnologije".
Ta je tvrtka trenutno jedno od vodećih imena u utrci umjetne inteligencije. Za razliku od konkurenata, čini se kako je na putu prema svom prvom profitabilnom tromjesečju.
Nedavno je podnijela dokumentaciju američkoj regulatornoj agenciji SEC za izlazak na burzu, vjerojatno prije kraja godine. Kritičari smatraju kako bi Anthropicova upozorenja o vlastitoj tehnologiji mogla biti marketinški trik, moguće dio nastojanja da se predstavi kao najmanje skandalozna među svim tvrtkama za umjetnu inteligenciju ili kao tvrtka s najboljim proizvodima na tržištu.
Prijedlog o privremenom usporavanju/zaustavljanju razvoja temelji se na nalazima instituta Anthropic, istraživačkog odjela osnovanog u ožujku ove godine. Ako tvrtke koje se bave umjetnom inteligencijom pristanu na usporavanje, moraju postojati mehanizmi za provjeru jesu li sve zapravo zaustavile ili usporile razvoj umjetne inteligencije. U suprotnom, neke bi mogle prednjačiti u razvoju svoje tehnologije u tajnosti, navedeno je u prijedlogu.
Stoga bi se sve tvrtke koje se bave takvim razvojem trebale okupiti i zajednički obvezati na usporavanje ili stanku, po uzoru na dogovore o širenju i testiranju nuklearnog oružja. No, nemamo na raspolaganju desetljeća, koliko je bilo potrebno za te dogovore.
U Anthropicu planiraju u nadolazećim mjesecima razgovarati s kreatorima politika, istraživačima i drugim tvrtkama za umjetnu inteligenciju o ovom pitanju. Namjeravaju objaviti rezultate tih razgovora.
