Britanski tjednik The Economist obilježava 175 godina kontinuiranog izlaženja. U to je ime otvorio niz diskusija pod naslovom Otvorena budućnost (Open Future), o politici, ekonomiji, međunarodnim odnosima, ekologiji, tehnologiji… U uvodniku je uredništvo podsjetilo da je tjednik uvijek, od početaka, bio liberalno-demokratske orijentacije te kako je također podupirao industrijske i tehnološke promjene. Začudo, u nekoliko se tema tehnologiji, u najširem smislu riječi, pristupa s negativnim prizvukom. U prvoj je pitanje hoće li automatizacija uzeti previše poslova, u drugoj trebaju li tehnološki divovi biti strože regulirani, a u trećoj je otvorena rasprava o generalnom nezadovoljstvu tehnologijom (Technology and its discontents).

Ozbiljni ljudi

Riječ je o ozbiljnom tjedniku, ozbiljnim ljudima i ozbiljnoj sredini. Ne radi se tu, dakle, o iracionalnim strahovima koji uvijek prate tehnologiju (primjerice, kad je Marconi 1901. uspostavio bežičnu vezu Europe i Amerike, novine su prenosile “svjedočenja” ljudi koji su “osjećali da radiovalovi prolaze kroz njih i razaraju ih”). Nije to ni samo opravdani oprez. Čovječanstvo je, naime, naučilo da tehnološke (kao i druge) promjene donose i neočekivane i nenamjeravane posljedice, neki put negativne, drugi put pozitivne: industrijalizacija je izazvala ekološke probleme, ali zahvaljujući primjeni motora s unutarnjim izgaranjem, u transportu gradovi su oslobođeni tona konjskog izmeta, čime su se značajno smanjile zaraze.

U slučaju Economista kritički, ili barem distancirani, odnos prema tehnologiji dio je recentnog trenda, u kojem sudjeluju najviše adrese, koji se intenzivirao posljednjih godinu, dvije, te kojim se pokušava tehnološke promjene staviti pod nadzor – politički, ekonomskom regulacijom, socijalnim aktivizmom, moralnim apelima i sl. Notorna je dugogodišnja bitka Europske komisije s tehnološkim divovima, suvišno je detaljno podsjećati na dinamiku u odnosima između američkih zakonodavaca i Silicon Valleyja, ali karakteristična aktivnost Britanskog parlamenta kao da je prošla ispod radara javnosti (barem domaće).

Gornji dom, Dom lordova, osnovao je povjerenstvo koje je ispitalo načela prema kojima bi se regulirala umjetna inteligencija (i to u hitnom postupku, valjda da stvari ne izmaknu kontroli). O Domu lordova vlada uvjerenje da je puki ukras, tradicijski zaostatak u Britanskom parlamentu, no nije bez utjecaja (a ni relevantnosti, što će se vidjeti) među ostalim i zato što ga ispunjavaju vrlo praktični i uspješni ljudi.

Uz predstavnike obitelji koje su opstale stoljećima, članica Doma lordova od 2015. godine je i bra tycoon Michelle Mone, koja se obogatila prodajom donjeg rublja. Područje odgovornosti barunice Mone su startup tvrtke. Tu je, zatim, 45-godišnja barunica Martha Lane Fox, najmlađa članica Doma lordova, koja je u vrijeme dotcom buma osnovala Lastminute.com, iz kojeg je izrastao vrlo uspješni mydeco.com, članica je uprave (board) Twittera, bila je članica uprave Channel 4 … (Sličnih članica ima još, no nisu tako usko vezane za digitalni svijet. Primjerice, Karren Brady je potpredsjednica nogometnog kluba West Ham United.)

Opće fraze

U prva četiri načela lordovi/lordice zahtijevaju da se “umjetna inteligencija razvija prema zajedničkom dobru i dobrobiti čovječanstva”, zatim da “funkcionira prema fer i razumljivim načelima”, da “ne umanjuje pravo na privatnost” te da bude ravnopravno dostupna svim građanima… Sve, dakle, opće fraze primjenjive na bilo koju tehnologiju, organizaciju ili aktivnost. To se može zahtijevati i od željeznica i zrakoplovstva. Peto je načelo, međutim, karakteristično. Ono glasi: “Umjetna inteligencija nikad ne smije steći samostalnu moć da uništi, ozlijedi ili prevari čovjeka”.

Upućeni čitatelj lako će prepoznati obrazac. Peto načelo gotovo nevjerojatno podsjeća na Tri zakona robotike koja je Isaac Asimov formulirao u kratkoj znanstvenofantastičnoj priči “Runaround” daleke 1942. godine. (Za one koji se o tome nisu stigli informirati ponovit ćemo načela: 1. Robot ne smije ozlijediti čovjeka ili dopustiti da čovjek bude ozlijeđen a da ne pomogne. 2. Robot mora slušati čovjekove naredbe, osim ako se kose s Prvim zakonom. 3. Robot mora štititi sebe, osim ako se ta zaštita ne kosi s Prvim i Drugim zakonom.)

Izgleda blesavo, naravno, da Britanski parlament usvaja načela razvoja umjetne inteligencije poput onih izmaštanih u kratkoj znanstvenofantastičnoj priči. No i Economist u svojem članku među nezadovoljstva tehnologijom uvrštava mogućnost da umjetna inteligencija, algoritmi i roboti jedan dan “počnu raditi izvan ljudske kontrole”.

Taj je dan, međutim, već odavno došao. Ne radi se o tome da je Googleov Deep Mind sam od sebe naučio igrati šah na način kojim uvijek pobjeđuje a nijedan čovjek ne razumije – kako. Algoritmi su izmakli kontroli u puno vitalnijem području nego što je šah – na sudovima. Taj problem navodi i The Economist. Vrlo je poznato da se na američkim sudovima masovno koriste algoritmi kako bi se procijenilo treba li optuženiku/osumnjičeniku prihvatiti jamstvo, kakva je vjerojatnost da ponovi djelo, može li ga se pustiti da se brani sa slobode itd. Ti algoritmi krše sva načela/fraze Britanskog parlamenta.

Fer načela

Za početak, ne funkcioniraju prema fer načelima. Naime, u pravosuđu vrijedi pravilo da nitko ne može na sudu trpjeti zbog nečijeg tuđeg djela. To je fer. Međutim, pri procjeni vjerojatnosti ponavljanja djela ili izmicanja od suda uz jamstvo, algoritmi kalkuliraju dolazi li okrivljenik iz obitelji ili četvrti u kojoj je netko već počinio nešto slično (Cathy O’Neil: Weapons of Math Destruction). Okrivljenikova sudbina, dakle, ovisi o tome što je učinio netko drugi, član obitelji ili čak susjed. Ne samo da to nije fer, nego je pitanje je li poštovano i drugo opće načelo Britanskog parlamenta, druga naoko fraza, ona o zaštiti privatnosti. Algoritmi su, služeći se dostupnim izvorima, sami uključili podatke o obitelji. Zašto bi ih se inače angažiralo nego da uoče koji su podaci relevantni i uključe ih. No time je dovedeno u pitanje i treće načelo – o transparentnosti rada umjetne inteligencije. Algoritmi biraju i od dostupnih podataka svojom metodom procjenjuju može li se prihvatiti okrivljenikovo jamstvo.

K tome, pojavljuje se povratna petlja. Sumnjivac kojeg se ne pusti da se brani sa slobode bit će teret i nekom njemu bliskom, jer će taj – nađe li se pred sudom – i sam doći iz sredine iz koje se malo koga pušta da se brani sa slobode. Što se više koprcaju ljudi iz neke četvrti, sve dublje padaju u živo blato.

Sam za sebe slijedi zaključak kako su algoritmi počeli “raditi izvan kontrole” (što bi rekao Economist), da dakle, imaju “samostalnu moć uništiti čovjeka” (okrivljenika). Krše, dakle, Peto načelo povjerenstva Doma lordova i Tri zakona robotike Isaaca Asimova.

Kako je do toga došlo? Sad je već potrebna analiza na malo apstraktnijoj razini. U etičkim raspravama o tehnologiji jedno je od glavnih pitanja je li tehnologija vrijednosno neutralna. Najpregnantnije je stav o tome izrazila Američka udruga za nošenje oružja (The American Rifle Association), prema kojoj – ne ubija puška nego čovjek!

Prema analogiji i u slučaju sudskih algoritama, kriteriji prema kojima oni procjenjuju okrivljenika/sumnjivca djelo su čovjeka koji im je dopustio korištenje i stavio na raspolaganje podatke o obitelji i susjedstvu. S druge strane, ako je tehnologija neutralna, ako je algoritam a priori nepristran, onda ti podaci objektivno govore o vjerojatnosti da netko ponovi djelo. Iz tog kuta gledajući, apsurdno je zabranjivati da se algoritam njima koristi. Zar da se koristi manje relevantnim, podacima iz kojih će lakše pogriješiti?

Sudski algoritmi

Iako se njima kao pomagalom koristi sve više sudova, bitka protiv sudskih algoritama u Sjedinjenim je Državama neprestana. Nemali broj osumnjičenika tužilo je sudove i suce jer su se koristili netransparentnim kriterijima. K tome, nedavni je eksperiment pokazao da slučajno izabrana porota ima jednak postotak pogodaka (oko dvije trećine) kao i algoritam, kad je riječ o počinjenju djela među onima koji su pušteni da se brane sa slobode, ili recidivista među onima koji su pušteni ranije.

No što to potvrđuje? Da je algoritam neutralan ili da nije? Za ljude se računa da su pristrani (da Crnce teže puštaju). Zato su algoritmi i uvedeni u procjenu vjerojatnosti ponavljanja djela. No, ispada da je i algoritam pristran, samo je njegova pristranost zavijena u kompliciranu matematiku. Ultimativni test sudskog algoritma je – biste li izabrali da o vašem puštanju na slobodu odlučuju ljudi ili strojevi?

Prema prirodi svog imena The Economist je više nego za probleme koje stvara umjetna inteligencija usmjeren na trend zauzdavanja tehnologije (techlash) u ekonomiji. Notorni su i intenzivno diskutirani fenomeni – izrastanje gigantskih monopola, rastuća nejednakost unatoč prividnom izjednačavanju prilika (tehnologija povećava nejednakost na cijeli niz načina) te ugrožavanje radnih mjesta robotizacijom i automatizacijom. Manje se, i najviše u stručnim krugovima, diskutira neočekivani razvitak digitalnih tržišta, koji možda i više nego druge teškoće s kojima čovjeka suočava pokazuje kako je tehnologija (digitalna posebno) od omiljenog sredstva koje otvara prolaz u novu utopiju u posljednje vrijeme postala – problem.

Nevolja su neočekivane posljedice. Na početku razvitka Internet je izgledao kao platforma iz snova – ogroman broj proizvoda, laka mogućnost usporedbe cijena, nepregledna i ponuda i potražnja – gotovo modelsko, idealno tržište. U tim okolnostima razlika među cijenama proizvoda trebala bi biti minimalna, gotovo nepostojeća. Međutim, disperzija cijena na Internetu nije manja nego offline, u nekim je slučajevima čak i veća. Skupo ostaje skupo. Izražen je star-effect. Posebno je smiješan na dating stranicama – potražnja je ekstremno koncentrirana na najzgodnije cure i dečke. Long tail, pravilo prema kojem na Internetu “svaka roba nađe kupca” sve je manje uvjerljivo. Na početku razvitka digitalnog tržišta aukcije su bile omiljeni način otkrivanja tržišne cijene. U posljednje vrijeme izlaze iz mode. Promocija nikako ne uspijeva uspostaviti kontrolu nad online aktivnošću. Prema nekim istraživanjima, online ponuda ipak ima niže cijene nego offline, prema drugima, ta su vremena prošla – stvari nerijetko stoje obratno.

Digitalno tržište

O tome se i radi. Digitalno tržište nije statično – razvija se. Dostupnost ponude nekoć je bila velika prednost Interneta. Danas je ponuda toliko obilata da uvjerljiva usporedba proizvoda, osnovni preduvjet tržišnog izbora, uzima previše vremena. Oni s viškom vremena puno bolje prolaze, što je čak jedan od uzroka rasta nejednakosti. To je i razlog zbog kojeg iz mode izlaze aukcije – malo tko ima vremena za aukcije, posebno kad kupuje potrošačku robu koja na Internetu ipak prevladava. Zbog toga se ni disperzija cijena ne smanjuje. Osim toga, zbog nemogućnosti potpune provjere onog što se kupuje, cijena postaje odlučujući putokaz: ono što je skupo, valjda je i vrijedno. Uz višu cijenu idu i razna jamstva, a to dodatno privlači kupce. Digitalno je tržište svoje početne karakteristike značajnim dijelom pretvorilo u suprotnosti.

Atak s kojim se posljednjih nekoliko godina suočavaju tehnološki divovi posljedica je činjenice da su izrasli u značajan, ne samo ekonomski, nego i socijalni i politički faktor. Uzrok oscilacija u odnosu prema cijelom digitalnom svijetu, od oduševljenja do distance i zauzdavanja, posljedica je razvitka koji – kao ni u slučaju digitalnog tržišta – nije linearan. Treba se naviknuti, a tek onda krenuti u novu etapu. Kao kad se penje u planinu.

Za to je vrijeme posebno smiješno promatrati nepomirljivu prepirku tehnoloških optimista i pesimista, u koje su se odjednom uvrstili Economist i Dom lordova. U temelju i jednog i drugog pristupa je tehno-determinizam – a tehnološki razvoj je sve samo ne determinizam. Tako se i oteo ljudskoj kontroli.