AI može predvidjeti korisnikovu osobnost iz povijesti razgovora
U studiji objavljenoj prije recenzije, istraživači sa ETH Zurich zamolili su 668 korisnika ChatGPT-a iz Sjedinjenih Država i Ujedinjenog Kraljevstva da podijele kopije svoje povijesti razgovora
Nakon toga su obučili model umjetne inteligencije da iz tih razgovora zaključuje osobine ličnosti. Istraživači su prikupili i analizirali više od 62.000 razgovora, kategorizirajući ih prema temama na koje su bili usmjereni.
Obučeni model umjetne inteligencije zatim je pokušao procijeniti vjerojatnost da korisnik posjeduje pet osobina ličnosti poznatih kao „velika petorka” u psihološkim istraživanjima: ugodnost, savjesnost, emocionalnu stabilnost, ekstrovertnost i otvorenost.
Sudionici su također prošli standardizirani psihološki test kako bi se utvrdile njihove dominantne osobine ličnosti.
Izvješće pokazuje da je fino podešeni model umjetne inteligencije uspio prepoznati osobine korisnika s točnošću do 61 %. Umjetna inteligencija bila je posebno uspješna u predviđanju ugodnosti i emocionalne stabilnosti, dok je imala poteškoća s procjenom savjesnosti.
Studija je također pokazala da je umjetna inteligencija bila uspješnija kada je imala pristup duljoj povijesti razgovora, što sugerira da je veća vjerojatnost identifikacije osobnosti što korisnik više koristi AI sustave.
Iako su rizici za pojedince relativno mali, istraživači upozoravaju na „značajne rizike velikih razmjera” ako zlonamjerni akteri počnu iskorištavati podatke o osobnosti korisnika.
Primjerice, smatraju da bi takvi podaci mogli omogućiti „opsežne manipulativne kampanje koje šire dezinformacije i/ili političku propagandu”.
Istraživači se nadaju da bi se njihovi nalazi mogli iskoristiti za razvoj alata koji smanjuju rizik od prekomjernog dijeljenja osobnih podataka s umjetnom inteligencijom, primjerice sustava koji bi automatski uklanjao identifikacijske podatke.
