Intervju – Pamela Pavliscak: Dizajnerica emocionalno osjetljive umjetne inteligencije

Najvažniji razlog za razvoj emocionalno inteligentnih tehnologija je to što će nam one pomoći u poboljšanju općeg psihičkog stanja populacije i u daljem razvoju ljudske emocionalne inteligencije

Razgovarao: Zvonko Pavić

Jedna od glavnih govornica na ovogodišnjem LEAP Summitu je i Pamela Pavliscak, dizajnerica čiji rad se fokusira na to kako tehnologije utječu na naše osjećaje i odnose među ljudima te odnose ljudi prema tehnologijama. Pamela je tech emotionographer, osnivačica vlastite startup tvrtke, predaje na Institutu Pratt na kolegiju iz afektivnog računalstva, a tijekom svog radnog iskustva u proučavanju međuodnosa između ljudi i strojeva radila je na projektima u kompanijama kao što su Google, IKEA, Universal i Virgin Atlantic, među ostalima.

Napisala je i knjigu, Emotionally Intelligent Design koja je danas na popisu literature na mnogim sveučilištima i koja se koristi kao priručnik u mnogim tvrtkama koje se bave empatičkim dizajnom. Nastupala je na raznim događajima diljem svijeta (pogledajte na Youtubeu). Živi u blizini New Yorka, s obitelji, mnoštvom kućnih ljubimaca i sve većom zbirkom robota.

Što je emotional technographer  – i kako ste to postali?

Radeći u tehnološkom sektoru, uvidjela sam potrebu za većom prilagodbom strojeva i uređaja emocijama ljudi koji ih koriste.  Skloni smo naša iskustva s tehnologijama promatrati kroz to koliko su nam korisne i prikladne za obavljanje neke funkcije, no danas, kada su razni uređaji postali dio gotovo svakog aspekta našeg iskustva, oni sve više utječu i na to kako se osjećamo. Ja želim bolje razumjeti taj emocionalni odnos, te osjećaje koje ljudi imaju kad koriste svoje uređaje. Pokušajte to sebi predočiti na ovaj način: ako kartograf na svojim kartama označava pojave koje su nastale međuodnosom ljudskog društva i prirode, emotional technographer označava sve osjećaje koji nastaju interakcijom tehnologije s čovjekom.

Dio vašeg posla je osmišljavanje raznih pokusa kojima testirate reakcije ljudi na razne tehnologije – možete li nam opisati neke od tih pokusa?

Samostalno, i u suradnji s raznim klijentima, pokušala sam shvatiti emocije koje tehnologije izazivaju u ljudima, osjećaje koji nastaju u tim interakcijama. Iskustvo je pokazalo kako tu nije dovoljno postaviti izravno pitanje – jer ljudi često nisu svjesni svojih osjećaja prema uređajima, ili bar, ne mogu ih jasno artikulirati. Zato osmišljavamo razne, kreativne, aktivnosti. Pokušavamo napraviti nešto što će predočiti određene osjećaje ili napraviti scenarij koji opisuje neku konkretnu, emocijama prožetu, situaciju. Ponekad je to nešto vrlo jednostavno – zatražimo od ljudi da nam kažu u kojem načinu rada upravo radi njihov mobitel i ima li ta prilagodba veze s njihovim trenutnim raspoloženjem. Ljudi su u tome vrlo kreativni. Odabiru način rada uređaja koji ih zbog nečega podsjeća na neku pjesmu koja im se sviđala kad su bili mladi. Ili prilagode neku aplikaciju tako da ih povezuje s nekim tko je imao ili ima slične doživljaje.

Strojevi zapisuju osjećaje, ljudi ih tumače

Cilj je shvatiti kako možemo uređaje koje koristimo prilagoditi tako da nam budu bolja emocionalna podrška. Ponekad se u tome koristim emocionalnim tehnologijama koje prenose osjećaj izražen na nekoj slici, ili prenose osjećaj koji su ljudi iskusili tijekom nekog doživljaja. Tako registriramo obrasce koje bi čovjek istraživač zanemario, ili ih ne bi ni primijetio. Strojevi pomažu, no ipak, na kraju, trebamo čovjeka koji će sve što je zapisano protumačiti. U posljednje vrijeme više se bavim time kako to što smo svjesni emocija koje imamo prema uređajima, utječe na nas same.

Svoje poznavanje emocija koji ljudi doživljavaju pri uporabi uređaja koristite i u savjetovanju startup tvrtki – možete li nam reći više pojedinosti o tome?

Najčešće, krenemo s jednim osjećajem. Svijet dizajna opsjednut je oduševljenjem kao ciljem koji proizvod mora postići kod korisnika, no prije nego se postigne oduševljenje, postoji niz relevantnih emocija koje tehnologija može potaknuti kod neke osobe. Ponekad od ljudi tražimo da nam vjeruju više nego na što su inače navikli u poslovnom odnosu. Recimo, tražimo od njih da vode dnevnik i da se nakon toga posluže nekom tehnologijom koja će im pomoći u analizi video ili tekstualnih zapisa koje su napravili tijekom vođenja dnevnika.

Drugi put tražimo od njih da nam pomognu u osmišljavanju motivirajuće glasovne interakcije koja će se koristiti u nekom uređaju, a u svrhu izražavanja određenih emocija. Ili ih uvedemo u istraživanje koncepta nekog složenijeg uređaja, tako što analiziramo osjećaje koje ljudi imaju o svom domu i obitelji pa na temelju povratnih informacija koje tako dobijemo, razvijamo nove proizvode.

Emocija je osnova dizajna

Moj stav je da nas emocije  moraju voditi kroz proces dizajniranja, bilo da je riječ o stvaranju neke nove tehnologije koja će u sebi imati neku funkcionalnost koja treba izazvati neku emociju ili je riječ o tome da se neku tehnologiju prilagodi ljudskim emocijama ili je riječ jednostavno o novim uvidima u neki proizvod koji već postoji i u doživljaje koje kod ljudi izaziva.

Strojevi, zasad, čitaju razne bio markere i na temelju toga zapisuju ljudske osjećaje – no kako će strojevi naučiti izražavati vlastite osjećaje? Čini mi se da je oponašanje ljudskih osjećaja tek pola posla?

Strojevi mogu čitati razne fizičke signale koje odašiljemo i na taj način prepoznati emociju. Na primjer, stroj sposoban za prepoznavanje emocija može vidjeti da ste razvukli usnice i da su vam se pojačale bore oko očiju. To može označiti kao smiješak. Znači li to da ste stvarno radosni? Možda. A možda i ne. No ono što može reći jest da postoje situacije u kojima se ili smiješite ili mrštite. Morate sami protumačiti tu informaciju. Drugim riječima, stroj ne zna baš ništa o tome što se događa u vašoj glavi niti vam može reći što trebate učiniti kad se suočite s nekom emocijom. Problemi nastaju kada sve te signale uzmemo zdravo za gotovo, bez promišljanja, kada na temelju uočenih signala ljude etiketiramo, ocjenjujemo njihove odnose, pokušavamo predvidjeti njihovo ponašanje, pokušavamo njima i manipulirati, a bez analize.

Cilj: poboljšati ljude

Postoje mnogi dobri razlozi za razvoj na emocije osjetljivih tehnologija. Prvo, moramo postići višu razinu međusobne komunikacije koju danas ostvarujemo posredstvom tehnologija. Sada to radimo malim stiliziranim oblicima, kao što su emotikoni (kombinacije simbola na tipkovnici, poput slova, brojeva i znakova interpunkcije posloženi tako da tvore sliku nalik ljudskom licu), emoji sličice (to su piktogrami, male slike koje mogu prikazivati niz osjećaja) gifovi, rasplakani selfie portreti, itd. Tehnologija koja će bolje izražavati emocije pomoći će ljudima u boljem izražavanju osjećaja i u ostvarivanju kvalitetnije međusobne komunikacije, kako čovjeka s čovjekom, tako i između čovjeka i stroja. Moramo se prirodnije služiti strojevima.

Primjerice, danas nije neki veliki užitak biti u interakciji s chatbot aplikacijama, a razlog za to je djelomično i u tome što tom softveru nedostaje svijest o emocijama. Možda najvažniji razlog za razvoj emocionalnih tehnologija je to što će nam one pomoći u poboljšanju općeg psihičkog stanja ljudi i u daljem razvoju ljudske emocionalne inteligencije. Emocionalni strojevi će nam dati drukčiju perspektivu i navesti nas da postanemo još više svjesni svojih osjećaja. Emocije su važan faktor, kako u našem mišljenju tako i u našem djelovanju, pa bi bilo čudno da tehnološki sustavi koje stvaramo to zanemaruju. Jednostavnije rečeno, tehnologije bi trebale poboljšati a ne automatizirati ljudsko izražavanje osjećaja.

Kažete da emocionalne tehnologije imaju golemu tržišnu vrijednost. Koliko je veliko to tržište i što su njegove prve aplikacije?

Prognoze analitičke kuće Gartner kažu da će to uskoro biti posao veći od milijarde dolara. Zasad, to još nije doseglo tu vrijednost. Emocionalne tehnologije (ili emocionalna umjetna inteligencija, afektivno računalstvo) još su ograničeno područje razvoja. Tehnologije danas detektiraju temeljne fizičke signale emocija, bez shvaćanja konteksta. To se može poboljšati prikupljanjem veće količine tih podataka kao i  sintezom informacija kao što su izrazi lica i prepoznavanje “boje tona” u ljudskom glasu, ali i poboljšavanjem konceptualnog modela koji se neće temeljiti samo na pet osnovnih emocija. Osjećaji su komplicirana stvar što znači da ih stručnjaci iz različitih znanstvenih područja različito tumače. Dakle, i samu teoriju koja stoji iza emocionalno inteligentnih strojeva treba poboljšati.

Potencijalno opasno

Emocionalne tehnologije danas se koriste u marketinške svrhe i u svrhu istraživanja tržišta u industriji zabave. To je područje u kojem su emocije uvijek bile važne, a današnje tehnologije tek su nov alat koji prati kako ljudi reagiraju na pojedine podražaje. Dakle, nisu utemeljene u nekom pretjerano velikom razmišljanju pri donošenju odluka. I to je ono što je potencijalno opasno. Pogledajte kako se emocionalno inteligentne tehnologije danas koriste u korisničkim službama brojnih tvrtki. Ako ih se upotrijebi kao alat za trening prodajnog osoblja, emocionalno inteligentne tehnologije mogu podučiti prodajne agente modifikaciji glasa kako bi bili uvjerljiviji u komunikaciji i bolje razumjeli osjećaje kupaca.

Ako se koriste za nadzor, rangiranje i ocjenjivanje zaposlenika – tada će to biti problem. Mogu smanjiti, umjesto povećati ljudske kapacitete.  Za mene, to je mjesto na kojem treba testirati etičnost sustava. Emocionalno inteligentne tehnologije danas se koriste u zdravstvu, obrazovanju, automobilskoj i drugim industrijama kao alat za poboljšavanje psihičkog dobro stanja i sredstvo zaštite. No, kao što sam već naglasila, emocionalno inteligentne tehnologije područje su kojem je potrebno još dosta usavršavanja. Štoviše, dizajn tih sustava mora biti takav da ljudske emocije ne svodi samo na brojeve.

U vašim govorima postavili ste 2030. kao godinu u kojoj će emocionalno inteligentne tehnologije biti sveprisutne, i godinu u kojoj će, baš zbog utjecaja tih tehnologija, i ljudi doseći fazu u kojoj će biti znatno emocionalno inteligentniji nego danas. Zašto?

 Jesam tehnooptimist, ali pokušavam biti i realna. Lako je navesti sve negativne aspekte emocionalno inteligentnih tehnologija – najveći problem tih sustava jest to što se u njih mogu ugraditi razne predrasude  i pristranosti. Sama spoznaja da će svaki naš pokret i svaka gesta biti pod stalnim nadzorom i da će se informacije o tome koristiti na razne načine koje nećemo moći kontrolirati, strašna je sama po sebi. Zato moramo biti stalno budni i paziti da se ti negativni aspekti emocionalno inteligentnih tehnologija ne ostvare. Postoji i puno dobrih stvari u svemu tome.

Pomagalo a ne surogat

Na primjer, možemo pokušati automatizirati međuljudske odnose, no mislim da u tome nećemo uspjeti. Ljudi su komplicirani. Višeslojni. Imamo osobna sjećanja i asocijacije, imamo razna društvena pravila i konvencije, norme posredovane različitim kulturama u kojima živimo te puno toga drugoga što utječe na naše osjećaje.

Usto, automatizacija ljudskih odnosa i nije nešto što bi bilo poželjno. Tehnologiju moramo koristiti kao pomagalo a ne nešto što će nas zamijeniti. Emocionalno inteligentne tehnologije će nam pomoći u boljem razumijevanju samih sebe i svojih odnosa s drugim ljudima. Pomoći će nam da sagledamo sebe na potpuno nove načine. Što se tiče 2030. godine, to je tek pretpostavka. Riječ je o točki u vremenu kad ćemo imati strojeve koji će u sebi imati emocionalno inteligentnu umjetnu inteligenciju. Tada će takvih strojeva i softvera u svakodnevnoj uporabi biti puno više nego danas.

Ljudskim osjećajima je (relativno) lako manipulirati – ako razvijemo globalno prisutnu emocionalno svjesnu umjetnu inteligenciju, kako ćemo se zaštiti od potencijalne zlouporabe naše (ljudske) emocionalne osjetljivosti? Možemo li se zaštiti od strojevima generirane emocionalne manipulacije?

Mislim da smo još jako daleko od globalno prisutne emocionalno svjesne umjetne inteligencije. To je još  tema znanstveno fantastične literature i filmova. Ono što je realnije od toga jest to da ćemo imati strojeve koji će imati neki oblik osjetljivosti na ljudske emocije, na sličan način kako su danas osjetljivi na to kako govorimo i što radimo.

Etika umjetne inteligencije

Što se tiče etike, emocionalno osjetljiva umjetna inteligencija mora biti fer, mora se moći zaštititi od ugradnje predrasuda i pristranosti.  Tvrtke koje razvijaju te tehnologije moraju biti odgovorne, transparentne, moraju nam pokazati kako ti strojevi rade i što čine. Uz donošenje adekvatnih propisa i korporativnu odgovornost, važan je i sam dizajn tih tehnologija. Podaci s kojima ih treniramo moraju biti što više uključivi. Sadašnji model, koji se temelji na pet osnovnih, univerzalnih emocija, mora se revidirati i uvesti što više nijansi i modaliteta. A ono što iz tih strojeva izlazi mora biti više u skladu s načinima kako ljudi doživljavaju emocije. U svemu tome mora biti manje brojki, grafikona i tablica, a više otvorenosti u  interpretacijama.

Ljudi antropomorfiziraju tehnologije, no, hoće li strojevi, kad postanu još inteligentniji, “ustrojavati”, „mehanizirati” ljude?

Odnos koji imamo s tehnologijom nije jednosmjeran. Mi dizajniramo tehnologije, one dizajniraju nas. Ne bi li bilo neobično da se koristimo svim tim novim tehnologijama i da one uopće ne utječu na to kako se osjećamo? Strojevi stalno izazivaju emocije, dok čitate neki tekst na ekranu ili kad vidite neku obavijest na svom mobitelu, baš u ovom trenutku. Tehnologije mijenjaju način na koji procjenjujemo svoje osjećaje i mijenjaju načine kako izražavamo svoje osjećaje – gotovo je obavezno snažno pa i bijesno reagirati na neki video koji smo uočili na Facebooku i isto je tako gotovo obavezno pokazati da nas neka, premda važna, poruka e-pošte na poslu nije previše uzbudila.

Tehnologije mijenjanju načine kako internaliziramo svoje osjećaje, poput umora pa i svojevrsnog digitalnog mamurluka od kojeg patimo nakon što smo previše dugo gledali loše vijesti na Twitteru, ili zavisti koja nas preplavi kad vidimo nešto za čime žudimo na Instagramu prijateljice. Tehnologije nas navode i na djela, kako online tako i offline. Sve moguće komponente emocionalnog iskustva promijenile su se zbog naše stalne interakcije s tehnologijama, i dalje će se mijenjati. Ipak, ništa od toga nas još uvijek ne čini više strojevima, a manje ljudima.

Bogatstvo mogućnosti

Kad gledamo tehnologije koje će se koristiti umjetnom emocionalnom inteligencijom, vidim pravo bogatstvo mogućnosti. Možemo pretjerivati u izražavanju svojih emocija tako da ih zabilježi neka aplikacija. Upravo to činimo kada zaškiljimo pri izradi selfie fotografije ili kad na TikToku želimo naznačiti nešto šokantno nekom izražajnom grimasom. Mogli bismo postati puno svjesniji načina kojima izražavamo frustracije ako nam uređaj vizualizira ton našeg glasa, na sličan način na koji smo svjesni našeg lica u Zoom komunikaciji. Možda precjenjujemo tih pet osnovnih emocija koje strojevi danas mogu detektirati, no, vremenom, emocionalno inteligentne tehnologije će postati sofisticiranije i to baš zato što će ih ljudi učiniti takvima. Dok će ljudi i dalje ostati ljudi.

Naposljetku, neizbježno pitanje: kako će pandemija utjecati na razvoj i dizajn emocionalno inteligentnih strojeva i umjetne inteligencije?

Signali koje danas koristimo za predočavanje otkucaja srca ili tjelesne temperature, koristiti će se i dalje, i u emocionalno inteligentnim tehnologijama pa se može dogoditi da će buduće zdravstvene aplikacije među prvima koristiti te nove tehnologije. Zasad, to se još nije dogodilo. Emocionalno inteligentne tehnologije područje su koje se vrlo sporo razvija. Pandemija nas je prisilila da veći dio svog emocionalnog života: održavanje prijateljstava, zaljubljivanje, žalovanje, traženje potpore u raznim situacijama – ostvarujemo posredstvom tehnologija. Pa će i dizajn budućih uređaja i strojeva biti bolji ako u osmišljavanju novih tehnologija u obzir uzmemo i emocionalni sloj našeg iskustva. Podijeli: