Ne tako davno činilo se da to spada u sferu znanstvene fantastike, ali afera s Cambridge Analyticom iz 2018., o kojoj je više puta pisao i Bug, pokazala je da je doista moguće utjecati na izbore ili političku budućnost neke zemlje korištenjem kombinacije osobnih podataka koje su milijuni ljudi objavili na Facebooku i moćne tehnologije analize podataka. 

Nove zaštitne mjere

Stalni napredak tehnologije i strojne inteligencije suočio nas je nekim s temeljnim dilemama o kojima nikad prije nismo morali razmišljati. Kako bi se što lakše i bezbolnije suočili s izazovima, zaklada Neurorights Foundation zagovara uvođenje novih zaštitnih mjera. O nekima od njih trenutno se pregovara unutar upravnih tijela EU-a u sklopu Akta o umjetnoj inteligenciji. Ovaj zakon mora regulirati, između ostalog, sposobnost umjetne inteligencije da utječe na našu podsvijest, slično slučaju Cambridge Analytica, ali na puno dubljim razinama.

Ignasi Beltran de Heredia, dekan Fakulteta prava i političkih znanosti na Sveučilištu Oberta de Catalunya (UOC) i autor knjige "Inteligencia artificial y neuroderechos" upravo je objavio rad u kojem preispituje izazove s kojima se suočavamo s napretkom umjetne inteligencije, ali i zakonodavstvo EU iz perspektive neuroznanosti.

Rizici davanja pristupa podsvijesti

Samo 5% aktivnosti ljudskog mozga događa se na svjesnoj razini. Preostalih 95% odvija se podsvjesno, što znači da nad tim procesima nemamo ni stvarnu kontrolu niti smo svjesni da se događaju. Ove izvanredne bujice neuralne aktivnosti, primjećuje de Heredia, nismo svjesni zbog velike složenosti interakcija između našeg svjesnog uma i našeg podsvjesnog ponašanja te potpunog nedostatka kontrole nad silama koje vode naše živote. Međutim, to ne znači da se na ljude ne može podsvjesno utjecati. 

"Postoje dva načina da umjetna inteligencija to učini", objašnjava de Heredia. "Prvi je prikupljanje podataka o životima ljudi i stvaranje arhitekture odlučivanja koja vas vodi do donošenja određene odluke. A drugi, trenutno manje razvijen, uključuje korištenje aplikacija ili uređaja za izravno stvaranje impulsa koji su neodoljivi za našu podsvijest kako bi proizveli impulzivne odgovore na subliminalnoj razini, tj. stvorili  impulse."

Sindrom čarobnog frulaša

Kako postupno budemo razvijali bolje i snažnije strojeve i postajali sve tješnje povezani s njima, obje opcije će postati sve raširenije. Algoritmi će imati više informacija o našim životima, a stvaranje alata za generiranje ovih impulzivnih odgovora bit će sve lakše. Ove bi nas tehnologije mogle natjerati da plešemo poput štakora vođenih melodijom čarobnog frulaša iz Hamelina, tvrdi de Heredia. 

Područje rada, odnosno zdravlja na radu, moglo bi biti prvo polje u kojem ćemo vidjeti prve pokušaje utjecaja na ljudsko ponašanje putem umjetne inteligencije, smatra katalonski znanstvenik.

Intruzivne tehnologije

Trenutno je u uporabi niz  intruzivnih tehnologija. jedna od njih uključuje uređaje za nadzor vozača autobusa kako bi detektirali senzore za mikrosan; zabilježena je i upotreba elektroencefalografije (EEG) koju neki poslodavci koriste za praćenje moždanih valova zaposlenika za razine stresa i pažnje dok su na poslu. 

"Teško je predvidjeti budućnost, ali ako ne ograničimo takve nametljive tehnologije dok su još u najranijim fazama razvoja, najvjerojatniji scenarij je da će se nastaviti poboljšavati i širiti svoje pipce u ime produktivnosti", strahuje de Heredia.

Nejasna ograničenja

Nova uredba o umjetnoj inteligenciji, o kojoj se trenutno raspravlja u EU, nastoji predvidjeti moguće buduće rizike ove i drugih upotreba umjetne inteligencije. Članak 5.1 izvornog prijedloga zakona sadržavao je izričitu zabranu stavljanja na tržište, u rad ili korištenja  umjetne inteligencije sposobne utjecati na osobu osim na svjesnoj razini i mijenjati njeno ponašanje. Međutim, razne dopune i izmjene razvodnile su apsolutnu prirodu zabrane.

"Prema trenutačnom prijedlogu zakona zabrana umjetne inteligencije primjenjivat će se kad postoji ozbiljna šteta i osoba završi radeći nešto što inače ne bi učinila. Ali to je nerealan standard", upozorava de Heredia. "Ako ne mogu pristupiti svojoj podsvijesti, onda ne mogu nikako dokazati što bih učinio bez poticaja, a ne mogu dokazati niti štetu. Ako je subliminalno oglašavanje sada potpuno zabranjeno bez kvalifikacija, zašto taj prostor ostavljamo umjetnoj inteligenciji?"

Zaštita privatnosti

Još uvijek mnogo toga ne znamo o tome kako funkcionira naš mozak i kako svjesni i podsvjesni dijelovi našeg uma međusobno djeluju. Mozak ostaje vrlo nedokučiv organ i, iako znanost čini velike korake u ovom području, ne znamo za mnoge načine na koje bi određeni podražaji mogli utjecati na njegovo funkcioniranje. Ostavimo li otvorena vrata prema našoj podsvijesti, čak i iz dobrih razloga, nećemo moći kontrolirati tko joj ima pristup, kako joj pristupa niti ciljeve tog pristupa. 

"Ovo nije tek neka distopijska budućnost. Mi smo već uvučeni u dubine nezamislive prije samo nekoliko godina i javnost bi trebala dobiti najveću moguću zaštitu", zalaže se katalonski znanstvenik. "Naša podsvijest predstavlja naše najprivatnije ja i trebala bi biti potpuno zaštićena od vanjskog pristupa. Zapravo, ne bismo trebali ni raspravljati o tome."