Automatizirano odlučivanje i podršku odlučivanju (Automated Decision-Making AMD) u EU naglo se razvija i u Europskoj uniji. Premda EU prednjači po nizu zakonskih propisa o zaštiti osobnih podataka i pridržavanju etičkih načela primjene umjetne inteligencije iz dosadašnjih primjera primjene automatiziranog odlučivanja jasno je kako to područje još nema ni približno jasnu regulaciju.

Projekt SEWA

U okviru EU programa Obzor 2020 (Horizon 2020) financira se projekt automatizirane analize prirodnih karakteristika i izražaja lica i glasa čovjeka SEWA. Glavni cilj projekta je implementirati i iskoristiti postojeće vrhunske metodologije, modele i algoritme za strojnu analizu lica, glasa i verbalnog ponašanja, a zatim ih prilagoditi i kombinirati kako bi ostvarili naturalističko ljudsko-računalno usmjereno ljudsko računalo interakcija (human-centric human-computer interaction HCI) i računalno posredovana interakcija licem u lice (computer-mediated face-to-face interaction FF-HCI).

Projekt tehnološki uključuje razvoj računalnog vida, obradu govora i alata za strojno učenje za automatizirano razumijevanje ljudskog interaktivnog ponašanja u njegovim prirodnim kontekstima.

U projekt se uključuju dostignuća kognitivnih znanosti, odnosno skup audio i vizualnih prostornovremenskih metoda za automatsku analizu čovjekovih spontanih (za razliku od izvještačenih i glumljenih) obrazaca ponašanja, uključujući kontinuiranu i diskretnu analizu osjećaja, volje i empatiju.

Za SEWA se ne zna u kojim će se konkretnim aktivnostima koristiti. Do sada je slična aplikacija korištena u provjerama tražitelja azila u zemljama EU, odnosno članicama Schengenskog prostora.

Analiza AlgirithmWatcha

Sustavi za automatizirano donošenje odluka ili podršku odlučivanju (automated decision-making or decision support ADM) u porastu su u zemljama EU, navodi se u izvješću neprofitne organizacije AlgorithmWatcha Automatizirano društvo – prikupljanje primjera automatiziranog donošenja odluka u EU-u (Automating Society – Taking Stock of Automated Decision-Making in the EU). Izvještaj je nastao u suradnji s Bertelsmann Stiftung te uz potporu Open Society Foundations i to je prvo takvi istraživanje u Europi.

Navode se primjeri korištenja automatiziranog odlučivanja kod profiliranja kandidata za posao na temelju njihovih osobnih e-mailova u Finskoj, neke odluke o liječenju pacijenta u javnom zdravstvenom sustavu u Italiji, selektiranje kategorija nezaposlenih u Poljskoj prepoznavanje djece podložne roditeljskom zanemarivanju i nebrizi u Danskoj, otkrivanje prijevara sa socijalnom pomoći u Nizozemskoj, kao i najčešća primjena, prisutna u većini članica EU sustavi kreditnih sposobnosti klijenata banaka.

Aplikacije za automatizirano odlučivanje brzo se šire u sva područja života pa se prema tome nameće nužna regulacija takvih aktivnosti s obzirom na veliku mogućnost zloporabe. Regulacija se treba rješiti izradom zakonskih propisa za to novo područje ali i uspostavom institucija za kontrolu njihovog pridržavanja.

Izvješće je rađeno u 12 država članica EU: Belgiji, Danskoj, Finskoj, Francuskoj, Njemačkoj, Italiji, Nizozemskoj Poljskoj, Sloveniji, Španjolskoj, Švedskoj i Velikoj Britaniji.

AMD teže prolazi u zemalja s razvijenim javnim mnijenjem

Koliko može biti zloporabe automatiziranog odlučivanja i kako na takve pojave reagiraju nevladine organizacije i javnost ilustrativan je primjer Nizozemske, Naime, skupina tužitelja, koja se sastoji od nizozemske Platforme za zaštitu građanskih prava (Dutch Platform for the Protection of Civil Rights), Nizozemskog odbora pravnika za ljudska prava (Netherlands Committee of Jurists for Human Rights NJCM), zaklade za zaštitu privatnosti (Privacy First Foundation), Zaklade KDVP i Nacionalnog vijeća klijenata (Foundation and the National Client Council LCR) od ožujka 2018. godine vode sudski proces protiv nizozemskog Ministarstva za socijalna pitanja zbog masovnog profiliranja osoba zbog rizika od prevara socijalnih službi, odnosno korištenja aplikacije Systeem Risico Indicatie (Indikacija rizičnosti sustava – SyRI).

SyRI koristi algoritme za pregled cijelih stambenih područja kako bi profilirao građane na rizik od prevare s socijalnim službama, odnosno dobijanja socijalne pomoći na koju nemaju pravo. Algoritmi koje koristi aplikacija nisu dostupni nikakvoj kontroli pa tužitelji smatraju kako njeno korištenje od državnog ministarstva predstavlja prijetnju vladavini zakona, a traže od suda da korištenje SyRI proglasi nezakonitim. Tužbi su se priključili i radnički sindikat FNV te dvojica boraca za ljudska prava Tommy Wieringa i Maxim Februari. Tužbu koordinira nevladina organizacija Public Interest Litigation Project (PILP).

SyRI u velikoj mjeri povezuje osobne podatke građana iz različitih vladinih baza podataka. Ti centralno prikupljeni podaci naknadno se analiziraju algoritmima u koje nitko nema uvid. Aplikacija Mnistartvu za socijalna pitanja Nizozemske služi za ukazivanje na građane koji mogu predstavljati rizik za prijevare i kršenje prava na socijalnu naknadu. Ukoliko se aplikacijom utvrdi rizičnost neke osobe ona se uvrštava u Registar obavijesti o riziku (Register Risicomeldingen), kojem mogu pristupiti državne vlasti.

SyRI koristi sve podatke koje državna tijela pohranjuju o građanima. Sadrži 17 kategorija podataka koje zajedno daju vrlo detaljnju sliku nečijeg privatnog života. SyRI koristi baze podataka nizozemskih poreznih uprava, Inspektoratata za socijalna pitanja, Zavoda za zapošljavanje, Banke socijalnog osiguranja, općina i Imigracijske službe.

Kod izrade zakonske regulative o automatiziranom odlučivanju u Nizozemskoj nacionalno Državno vijeće (Raad van State) koje je dalo negativno mišljenje na prijedlogu zakona o SyRI-u. Isto mišljenje je imala i nizozemska agencija za zaštitu podataka. Njihov je ključni zaključak, usto što SyRI nema kontrolu, u tome što potkopava odnos povjerenja između vlade i njenih građana.

SyRI je u stvari tek tehnološki početnička primjena automatiziranog odlučivanja. Koliko daleko može ići primjena umjetne inteligencije ukazuju stručnjaci kroz ne tako vremenski daleku budućnost.

Zamislite u skoroj budućnosti da vas budi lagano vibriranje pidžame te je zamolite da prestane, ustanete i zaputite se u kuhinju gdje vam hladnjak zaželi dobro jutro te vas informira da morate nabaviti mlijeko kojeg je ostalo vrlo malo, zavoj na zglobu vas informira da vam je šećer u krvi nizak, a usput vas hladnjak opomene da ste večer prije popili veću količinu vina. Unatoč preporuci hladnjaka preskočite doručak i odlazite do automobila jer vam se žuri na posao, no automobil se neće pokrenuti jer ste zaboravili dousuti motorno ulje unatoč nekoliko upozorenja proteklih dana od automobila. U tom malom futurističkom scenariju, koji je u stvari tehnološki ostvariv već sada, pitanje njegove realizacije je samo stvar ekonomskih odnosa, umreženi uređaji prikupljaju mnoštovo podataka koji se mogu koristiti od osiguravajućih kuća, banaka, poslodavaca… Cijeli taj ‘armageddon’ podataka nekako će se morati regulirati i to neće biti lagan posao.

Podaci su već sada, premda ih se skuplja vrlo malo u odnosu na one koji će se skupljati u nekoj bližoj budućnosti već koriste od velikih platformi, ne samo kako platforme deklarativno objašnjavaju, za poboljšanje korisničkog iskustva nego su, kada se prodaju oglašivačima, ugrađeni u prediktivne proizvode koje zahvaljujući umjetnoj inteligenciji i snažnim računalima mogu predvidjeti vaše navike i čak utjecati na njih.

Podijeli:

 

Vezane objave