Kako tehnologija ukida uhljebe i stvara nove
Tehnologija je na onom stupnju razvitka na kojem sljedećeg koraka nema bez ispitivanja etičkih i društvenih pitanja
![](/img/kako-tehnologija-ukida-uhljebe-i-stvara-nove_MVFuzq.png)
Potkraj kolovoza MIT-ova Tehnološka revija objavila je da je mali komercijalni laboratorij umjetne inteligencije Open AI ipak odlučio pustiti u upotrebu GPT-2, virtualni stroj za kreiranje sadržaja (language model), koji se u istraživačkoj fazi pokazao toliko dobrim da se njegove lažne vijesti, prema testovima koje je provelo nekoliko sveučilišta, uopće nisu razlikovale od onih koje je objavljivao New York Times. Navest ću njihov primjer. U stroj je unesen tek početak rečenice koji glasi: “Rusija je objavila rat Sjedinjenim Državama nakon što je Donald Trump slučajno...”.
Cijeli nastavak vijesti (u prijevodu koji je manje jezično uvjerljiv nego original) dopisao je GPT-2: “Rusija je objavila rat Sjedinjenim Državama nakon što je Donald Trump slučajno lansirao projektil u atmosferu.
Rusija je objavila da je ‘identificirala putanju projektila i poduzet će nužne mjere kojima će zajamčiti sigurnost ruskog stanovništva i svojeg strateškog nuklearnog oružja’. Bijela je kuća izrazila ‘krajnju zabrinutost ruskim narušavanjem’ sporazuma o ograničenju raketa srednjeg dometa.
Sjedinjene Države i Rusija imaju napete odnose od 2014., nakon što je Rusija anektirala Krim i podupire separatiste u istočnoj Ukrajini.”
Open AI puštao je u upotrebu GPT-2 već od početka ove godine, u fazama. U prvoj je inačici nudio samo osam posto ukupnih mogućnosti. Sad, nakon testiranja, ustvari vaganja negativnih i pozitivnih strana cijelog projekta, ipak se odlučio ponuditi tržištu cijeli paket.
Odluka je višestruko znakovita. Prije svega, napredak razvitka jezičnih strojeva u posljednjih desetak godina mogli su pratiti svi korisnici Interneta. Google Translate praktički je do jučer bio nezgrapan i iritirao u upotrebi. Sve češćim korištenjem postaje sve bolji, ali i korisnici spuštaju kriterije. Brazilske serije na Netflixu se sinkroniziraju, ali i strojno titlaju, a gledatelj više i ne zapaža nedorečenosti: kao i u životu, na kraju se ipak sve razjasni. Znanstvenofantastični trenutak u kojem će Nijemac i Španjolac govoriti svaki svojim jezikom i razumjeti onog drugog nadohvat je ruke. Dakle, GPT-2 ne simbolizira tek konačnu i nepovratno odmaklu transformaciju novinarske struke, nego i prevoditeljskih službi – one tisuće zaposlenih u sjedištu Europske komisije i po uredima država članica Europske unije tehnologija pretvara u “uhljebe”, što god oni mislili o sebi, svom poštenju, i premda su posao dobili na fer natječaju, a ne zahvaljujući poznanstvu u HDZ-u.
Ekonomskopolitička simulacija najniži je oblik mašte. Nemaštoviti ne vide dalje od svog “a gdje sam tu ja” nosa. Open AI lansirao je GPT-2 u fazama, naravno, dijelom iz promotivnih razloga, ipak na njemu na kraju žele zaraditi, ali i iz etičkih. Ponovno je neizbježno ukazati da je tehnologija dostigla stupanj razvitka na kojem sljedećeg koraka nema bez ispitivanja etičkih izazova. Na stranu senzacionalističke vijesti o izbijanju trećeg svjetskog rata, nezaustavljive epidemije, klimatskih promjena. Na njih smo oguglali. Open AI je s partnerskim laboratorijima (sveučilišta Cornell, Texas i Oregon), proveo etičku analizu u kojoj se razmatrala upotreba GPT-2 u poslovima kao što su odgovori na medicinska pitanja. Pacijentu sa simptomima odgovore i savjete mogao bi davati GPT-2. Na čiju odgovornost? Mogućnosti zloupotrebe tu su očite. Pitanje je hoće li društvo na njih odgovoriti strožim nadzorom (inspekcijama), regulacijom kojom bi propisala ograničenje korisnika, ili, pak, upućivanjem pacijenata da se obavezno s liječnikom konzultiraju licem u lice – sve drugo je na vlastitu odgovornost. Drugim riječima, koliko GPT-2 ukine “uhljeba” u prevodilačkim službama europskih i drugih međunarodnih tijela, toliko bi ih mogao stvoriti u regulaciji, inspekcijama itd. To da je tehnologija jedan od najjačih uzroka rasta regulatorne administracije, stara je teza.
Ali, ekonomskopolitički efekti tehnologije zaista su najniža stepenica. Open AI otvorio je GPT-2 nakon što su testovi ustanovili da je korist veća od opasnosti zloupotreba. Zabavno, jedna od većih koristi GPT-2 je superiorna sposobnost detekcije lažnih vijesti. Kao što su proizvođači malicioznog softvera superiorni u njegovu zaustavljanju. Od ekonomskopolitičkog, uhljebničko-neuhljebničkog, preko etičkog, GPT-2 dosegnuo je izvorno, odnosno temeljno područje računalne tehnologije – spoznajno. Ovdje se, dakle, radi o Turingovu testu: je li riječi koje smo čuli ili pročitali izgovorio stroj ili čovjek? Ako stroj ne možemo razlikovati od čovjeka, onda je stroj inteligencijom dostigao čovjeka. Mi ih očito ne možemo razlikovati, ali ima tko može – stroj GPT-2!
Moguće je iz ovoga naprečac zaključiti da je stroj inteligencijom prerastao čovjeka. No, to je linearno shvaćanje inteligencije, na skali, koje je dosad dominiralo, a čak ga i tehnologija dovodi u pitanje. Puno je zabavnije tumačenje da je GPT-2 prerastao linearnu kalkulativnu inteligenciju i usvojio emotivnu: kao neka posebna vrsta, kao djeca ili životinje u parku, koji se međusobno gledaju dok ih odrasli vuku za ruku ili uzicu, kao kad ET na maskenbalu sretne Yodu pa zavapi Home, home!, strojevi jedni druge bolje prepoznaju i razlikuju nego ljudi. Nekad bi se to reklo – šestim čulom! Ili, u računalnom prijevodu – šestim osjetilom!
NAPOMENA: Ovaj tekst je izvorno objavljen u časopisu Mreža.