Nadzori se provode na različite načine, kroz tzv. pametne gradske / sigurne gradske platforme u 56 analiziranih zemalja, sustavi za prepoznavanja lica masovno se koriste u 64 zemlje, a sustavi umjetne inteligencije za policijsko postupanje (prepoznavanje sumnjivih osoba, osoba s kriminalnom prošlošću, algoritmi za predviđanje zločina...) u 52 zemlje.

Autor izvješća Steven Feldstein rekao je kako je bio iznenađen učestalošću korištenja umjetne inteligencije (odnosno algoritama za prepoznavanje lica, automatizirane granične kontrole, predviđanja zločina...) u zemljama s demokratskim vladama. Ustvrdio je kako će korištenja umjetne inteligencije za slučajeve u kojima se krše ljudska prava najviše biti u Kini i sličnim zemljama, ali je, kako je naglasio, bio iznenađen nejasnim i mutnim primjerima korištenja umjetne inteligencije u nadzorima stanovnika u zemljama s razvijenijim demokratskim institucijama.

Konkretne vrste

U istraživanju se prije svega nastojalo doznati koje zemlje usvajaju tehnologiju nadzora AI, koje konkretne vrste nadzora AI rade vlade, te koje zemlje i kompanije isporučuju tehnologiju za nadzor kroz AI.

Na temelju tih podataka izgrađen je indeks AI Global Surveillance (AIGS). Podaci su prikupljani od 2017. do 2019. godine.

Najviše nadzora stanovništva je u SAD-u. Kina je druga na listi, i usto je također veliki izvoznik tehnologije za nadzor. Istraživanjem je utvrđeno da kineske kompanije – posebno Huawei, Hikvision, Dahua i ZTE – isporučuju AI tehnologiju za nadzor u 63 zemlje. Samo Huawei odgovoran je za pružanje AI tehnologije za nadzor u najmanje 50 zemalja širom svijeta. Najveći nekineski dobavljač tehnologije za nadzor je japanski NEC, koji isporučuje svoju tehnologiju u 14 zemalja.

Kineski prodavači često svojim kupcima odobravaju povoljne kredite kako bi potaknuli vlade na kupnju njihove tehnologije za nadzor. To se posebno odnosi na zemlje s nerazvijenom tehnološkom infrastrukturom, kao, primjerice, Keniju, Laos, Mongoliju, Ugandu i Uzbekistan... Te zemlje bez povoljnih kineskih ponuda ne bi mogle nabaviti takvu tehnologiju.

Tvrtke iz SAD-a također su aktivne u svjetskom izvozu. 32 zemlje iz SAD-a dobivaju tehnologiju za nadzor s primjenom AI. Najznačajniji američki izvoznici su IBM, čiji se proizvodi prodaju u 11 zemalja, Palantir (9) i Cisco (6).

U izvješću se navodi kako ni tvrtke sa sjedištem u liberalnim demokracijama (Francuska, Njemačka, Izrael i Japan) ne poduzimaju odgovarajuće korake za praćenje i kontrolu širenja sofisticirane tehnologije povezane s nizom kršenja zakona.

Indeks AIGS pokazuje da 51% naprednih demokracija implementira AI sustave za nadzor. Suprotno tome, zatvorenih autokratskih država s takvom tehnologijom je 37%. Uzrok je većinom u financijskim (ne)mogućnostima zemalja u nabavci sofisticirane tehnologije koja nije jeftina. Učestalost primjene nadzora uz AI u liberalnim demokracijama i širina njene primjene (za prepoznavanje lica, kontrolu granice...) ne znači i zloporabu tih tehnologija, navodi se u izvješću.

Sustavi kontrole

No, problem je to što za nove tehnologije ne postoje sustavi kontrole. U naprednim demokracijama takvi se sustavi uglavnom koriste za unapređenje sigurnosti i zaštitu građanskih sloboda, no pokazalo se u nekoliko slučajeva, navodi se u izvješću, da je došlo do ugrožavanja građanskih sloboda u SAD-u i Francuskoj.

Prema izvješću, najviše kršenja ljudskih prava nadzorom uz primjenu AI događa se u Kini, Rusiji i Saudijskoj Arabiji.

Primjena AI u naglom je porastu u vojsci. 40 od ​​50 najvećih nacionalnih vojski u svijetu koriste tehnologiju nadzora uz primjenu AI. U vojnoj primjeni AI nema razlike između zemalja s liberalnom demokracijom ili vojnih diktatura. Takve sustave koriste vojske bogatijih zemalja poput Francuske, Njemačke, Japana, Južne Koreje, ali i siromašnije države poput Pakistana i Omana.

Motivacije zbog kojih europske demokracije stječu nadzor nad AI (kontrola migracija, praćenje terorističkih prijetnji) mogu se razlikovati od interesa Egipta ili Kazahstana (držanje unutrašnjih neprijatelja i političkih protivnika pod kontrolom), ali instrumenti primjene poprilično su slični, smatra Feldstein. (G. K.)

NAPOMENA: Ovaj tekst je izvorno objavljen u časopisu Mreža.