Agencija Ujedinjenih naroda stvara okvir za provjeru AI agenata
Fokusna skupina bi trebala razviti okvire za prepoznatljivost i pouzdanost AI agenata te njihovu podložnost ljudskoj kontroli, posebno u područjima kao što su financije i infrastruktura.
Agencija Ujedinjenih naroda za digitalne tehnologije najavila je novu inicijativu za poboljšanje povjerenja agenata umjetne inteligencije, zbog toga što sve autonomniji sustavi umjetne inteligencije izazivaju zabrinutost oko odgovornosti i ljudskog nadzora.
Agenti umjetne inteligencije nova su generacija sustava umjetne inteligencije dizajniranih za neovisno djelovanje u ime korisnika, obavljajući zadatke u rasponu od raspoređivanja i kupnje do složenih poslovnih procesa. Iako mogu poboljšati produktivnost, oni također riskiraju slučajeve lažnog predstavljanja i donošenja odluka bez ovlasti, prema Međunarodnoj telekomunikacijskoj uniji (ITU).
Kao odgovor na te rizike, ITU je najavio osnivanje fokusne skupine, koja bi trebala razviti okvire za prepoznatljivost i pouzdanost AI agenata te njihovu podložnost ljudskoj kontroli, posebno u osjetljivim područjima kao što su financijske transakcije i kritična infrastruktura. U toj organizaciji vjeruju kako su potrebni zajednički međunarodni temelji kako bi se utvrdilo tko su agenti te kako i kada im se može vjerovati.
Skupina će se sastojati od tehničkih, političkih i pravnih stručnjaka. Prvi će sastanak održati u Parizu u studenom, a drugi u Ženevi u siječnju iduće godine.
