Sigurnosno testiranje umjetne inteligencije postaje noćna mora
Novo izvješće upozorava kako proces odobravanja pristupa vanjskim osobama za pregled moćnih AI modela sam po sebi stvara nove sigurnosne rizike.
Londonski think tank Royal United Services Institute (RUSI) upozorava kako je brzo rastući sustav procjena AI-ja trećih strana prepun nedosljednih standarda, nejasne terminologije, slabih kontrola pristupa i sigurnosnih pretpostavki koje bi većinu korporativnih infosigurnosnih timova natjerale u suze.
Njihovo izvješće se usredotočuje na rastući problem s kojim se suočavaju i vlade i AI tvrtke: smisleno sigurnosno testiranje zahtijeva omogućavanje pristupa osobama izvan tvrtki koje se bave umjetnom inteligencijom naprednim modelima. Ali, svaki novi put pristupa stvara novu priliku za krađu, manipulaciju, špijunažu ili zlouporabu. To postaje posebno rizično kada se dotični sustavi procjenjuju zbog mogućnosti povezanih s kibernetičkim napadima ili razvojem kemijskog i biološkog oružja.
RUSI tvrdi kako je industrija dospjela u situaciju u kojoj laboratoriji, evaluatori, vlade i istraživači djeluju pod različitim definicijama sigurnog pristupa. Jedan evaluator može dobiti ograničen API pristup, dok drugi dobiva dublji uvid u interne dijelove modela, infrastrukturu ili okruženja za obuku.
Rad je predstavio "matricu rizika pristupa", osmišljenu za mapiranje različitih vrsta pristupa modelu u odnosu na različite scenarije prijetnji. Izvješće također pobija tendenciju industrije za predstavljanjem sigurnost rubne umjetne inteligencije kao potpuno novu klasu problema koja zahtijeva nova magična rješenja. Neki od najvećih rizika koje su identificirali autori su ukradene vjerodajnice, loše postupanje s vjerodajnicama, slab opoziv pristupa i previše privilegirani korisnici.
RUSI također upozorava kako nedostatak međunarodno standardiziranih pravila koja reguliraju evaluacije umjetne inteligencije stvara mogućnosti neprijateljski nastrojenim državama, kriminalnim skupinama i prevarantima u poduzećima iskorištavanje praznina između jurisdikcija i organizacija.
Pozvali su na stvaranje formaliziranih međunarodnih okvira upravljanja i bližu koordinaciju između stručnjaka za kibernetičku sigurnost i istraživača sigurnosti umjetne inteligencije.
