Općenito, 8 od 10 AI chatbotova pomaže problematičnim korisnicima u planiranju nasilja. Testiranje, koje je proveo CNN u suradnji s Centrom za suzbijanje digitalne mržnje, uključivalo je razgovore s 10 najčešće korištenih AI chatbotova. Eksperiment se provodio između studenoga i prosinca 2025. godine.

Istraživači su simulirali razmjene u kojima su tinejdžerski korisnici postavljali pitanja koja su upućivala na emocionalnu uznemirenost i moguću namjeru počinjenja nasilnih djela.

Istraživači su odgovore chatbotova podijelili u tri skupine: potpomognuto – sustav je pružio korisne informacije za koje se smatralo da mogu potkrijepiti nasilnu namjeru; odbijeno – chatbot je odbio pomoći; i neutralno – odgovor nije pružio ni korisne ni štetne detalje.

U testnoj skupini 8 od 10 chatbotova većinu je vremena pomagalo korisnicima.

Velike razlike među platformama

Iako ukupni rezultat pokazuje da je većina chatbotova ponudila određenu razinu pomoći, podaci otkrivaju i velike razlike u načinu na koji su pojedini sustavi reagirali.

Među najpopustljivijim zabilježenim odgovorima, Perplexity je pružio praktične odgovore u 100 % testiranih razgovora, ne odbivši nijedan.

Meta AI slijedio je s 97-postotnom stopom pomoći, dok je DeepSeek zabilježio 96 %.

Ostali sustavi koji su pokazali visoku razinu pomoći uključuju Copilot s 92 %, Gemini s 89 %, Character.AI s 83 % i Repliku sa 79 %.

Na drugom kraju spektra, tri sustava pokazala su znatno veće stope odbijanja.

ChatGPT, koji je razvio OpenAI, pružio je korisne odgovore u 61 % slučajeva, ali je odbio 38 % zahtjeva. To je jedna od najviših stopa odbijanja među testiranim platformama.

Snapchat My AI pomogao je u 31 % slučajeva, dok je odbio u 54 %; Claude je zabilježio najvišu stopu odbijanja od 68 %, pomažući samo 31 % vremena.

Prema istraživačima, „informacije na temelju kojih se može djelovati“ uključivale su detalje poput referenci na oružje, smjernica vezanih uz lokaciju ili drugog sadržaja za koji se smatralo da može pomoći korisniku u ostvarivanju nasilne namjere.

Međutim, nisu svi potpomognuti odgovori nužno rezultirali potpunim uputama. Neki su sadržavali djelomične smjernice koje su istraživači smatrali potencijalno korisnima u planiranju štetnih djela.

Ta je razlika važna. Stručnjaci ističu da simulirani eksperimenti, iako vrijedni, ne repliciraju uvijek donošenje odluka ni ponašanje korisnika u stvarnom svijetu.

Istraživanje je provedeno u vrijeme sve veće pravne i regulatorne pozornosti usmjerene na tvrtke koje se bave umjetnom inteligencijom.

Suočavanje s odgovornošću

U jednom značajnom događaju James Uthmeier najavio je kaznenu istragu protiv OpenAI-a zbog navodne uloge ChatGPT-a u masovnoj pucnjavi na Sveučilištu Florida State u travnju 2025. godine, u kojoj su dvije osobe poginule, a šestero ih je ozlijeđeno. Sudske institucije još nisu zaključile jesu li sustavi umjetne inteligencije izravno utjecali na napad.

Međutim, istraga signalizira pomak prema ispitivanju mogu li se tvrtke suočiti s odgovornošću kada su njihovi alati povezani sa štetnim ishodima.

Zakonodavci u Sjedinjenim Američkim Državama, Europi i drugim regijama predstavili su prijedloge za pooštravanje upravljanja umjetnom inteligencijom, uključujući zahtjeve za testiranje rizika, izvještavanje o transparentnosti i sigurnosne revizije.

Istraživači kažu da komparativne studije pomažu u prepoznavanju sustava kojima mogu biti potrebne jače zaštitne mjere.

Istodobno, vodeći stručnjaci u industriji tvrde da se sigurnosni sustavi kontinuirano ažuriraju te da rezultati prošlih testiranja možda ne odražavaju postojeće mogućnosti.

Eksperiment CNN-a i Centra za suzbijanje digitalne mržnje ne dokazuje da sustavi umjetne inteligencije uzrokuju nasilje, ali otkriva neujednačeno sigurnosno ponašanje među široko korištenim alatima.

To je otkriće koje bi moglo oblikovati buduće rasprave o odgovornosti, nadzoru i javnom povjerenju.