Švicarci punili Reddit AI sadržajem bez znanja i dozvole

Željeli su znati može li sadržaj generiran velikim jezičnim modelima promijeniti mišljenje čitatelja, pa su u rasprave uključili poluautomatizirane račune pokretane umjetnom inteligencijom.

Miroslav Wranka petak, 2. svibnja 2025. u 11:30
📷 Brett Jordan (Pexels)
Brett Jordan (Pexels)

Istraživači sa Sveučilišta u Zürichu priznali su kako su tajno objavljivali materijal generiran umjetnom inteligencijom na popularnom subredditu r/changemyview u ime znanosti. Željeli su znati može li sadržaj generiran velikim jezičnim modelima promijeniti mišljenje čitatelja, pa su u rasprave uključili poluautomatizirane račune pokretane umjetnom inteligencijom.

Istraživači su predložili svoju studiju u objavi iz studenog 2024. u Centru za otvorenu znanost koja opisuje njihov planirani pristup korištenja LLM-ova za pisanje generičkih objava, plus drugih personaliziranih kako bi odražavali dob, spol, etničku pripadnost, lokaciju i političku orijentaciju ljudskih članova r/changemyviewa.

Također su planirali stvoriti odgovore generirane pomoću fino ugođenog modela na temelju prošlih komentara na forumu. Ali, nisu obavijestili moderatore r/changemyview o njihovim aktivnostima niti su tražili dopuštenje, iako to traže pravila korištenja.

Moderatori su saznali za studiju u ožujku. Istraživači su im dostavili popis računa koje su koristili.Ti računi objavljivali su sadržaj u kojem se botovi predstavljali kao žrtve silovanja i savjetnici za traumu specijalizirani za zlostavljanje, optuživali članove vjerske skupine za smrt nedužnih ljudi, između ostalog.

Istraživači su navodno za eksperiment dobili odobrenje etičkog odbora Sveučilišta u Zürichu, ali su ga kasnije izmijenili bez dodatnog etičkog pregleda. Moderatori su stoga podnijeli žalbu Sveučilištu i pozvali da se studiju ne objavi. Sveučilište ih je odbilo jer smatra kako projekt daje važne uvide uz minimalne rizike.