Kriminalci koriste lažne poruke slavnih osoba ili državnih institucija kako bi naveli ljude da im vjeruju. Izvješće pokazuje da deepfakeovi postaju stvarni svakodnevni problem, a ne samo internetska zabava ili alat za političke dezinformacije.

Prema novim podacima iz izvješća tvrtke Resemble AI o deepfake prijetnjama za 2025. godinu, deepfake napadi sve više štete običnim ljudima, a ne samo slavnim osobama ili političarima.

Izvješće je analiziralo 1.567 potvrđenih deepfake incidenata prikupljenih iz globalnih medijskih izvještaja i dokumentiranih u kontinuirano održavanoj bazi podataka o incidentima.

Istraživači su pregledali 3.253 povezane vijesti i kategorizirali incidente prema „meti” (čija je sličnost korištena) i „žrtvi” (tko je na kraju pretrpio štetu).

Javne osobe bile su najčešće mete deepfakeova, pojavljujući se u 527 incidenata. Vladine institucije slijedile su s 363 slučaja, dok su se privatne osobe pojavile u 356 incidenata. Brendovi, institucije i zaposlenici činili su manji dio skupa podataka.

No kada su istraživači analizirali tko je stvarno pretrpio štetu, slika se dramatično promijenila. Privatne osobe postale su najveća kategorija žrtava, pojavljujući se u 561 incidentu, više nego javne osobe, vlade ili brendovi. Javne osobe bile su uključene u 392 slučaja, dok su vlade bile uključene u 208.

Alat za prijevare

Razlika između toga tko se lažno predstavlja i tko na kraju biva oštećen sugerira da deepfakeovi sve više funkcioniraju kao alati za prijevaru i društveni inženjering, a ne samo kao viralne dezinformacije. U mnogim slučajevima javne osobe ili pouzdane institucije koriste se kao mamac.

Lažna podrška slavne osobe, klonirani glas rukovoditelja ili poruka državne institucije generirana umjetnom inteligencijom mogu koristiti prepoznatljiv identitet kako bi naveli obične ljude da pošalju novac, podijele informacije ili povjeruju lažnom sadržaju. Taj obrazac podudara se s rastućim brojem upozorenja vlada i stručnjaka za kibernetičku sigurnost diljem svijeta.

Istraživači su također priznali da baza podataka u velikoj mjeri obuhvaća publikacije sa sjedištem u SAD-u, što znači da incidenti iz drugih regija mogu biti nedovoljno zastupljeni. Unatoč tim ograničenjima, podaci upućuju na širu promjenu u načinu korištenja deepfakeova.

Skup podataka također pokazuje da se same institucije rjeđe pojavljuju kao žrtve nego pojedinci. Istraživači su zabilježili samo 20 slučajeva institucionalnih žrtava, unatoč 61 incidentu u kojima su institucije bile mete. Ta neravnoteža može odražavati sposobnost velikih organizacija da učinkovitije apsorbiraju ili obuzdaju napade od pojedinaca. Također može ukazivati na nedovoljno prijavljivanje, posebno u slučajevima koji uključuju reputacijsku štetu ili povrede kibernetičke sigurnosti.

Brendovi i zaposlenici također su bili značajno zastupljeni među žrtvama, pojavljujući se u 129 incidenata.

Mnogi od tih slučajeva vjerojatno uključuju prijevare lažnog predstavljanja putem lažne korisničke podrške, lažnih poruka o zapošljavanju ili komunikacije s rukovoditeljima generirane umjetnom inteligencijom.

Industrijalizacija

Sam opseg izvješća je značajan. Praćenje više od 1.500 potvrđenih incidenata u jednoj godini sugerira da deepfakeovi više nisu rijetki ni eksperimentalni. Postaju industrijalizirani. Drugim riječima, lakše ih je stvoriti, jeftinije distribuirati i sve su češće povezani s financijskim kriminalom. To bi moglo biti najvažnije upozorenje iz izvješća.

Osnovna prijetnja više nije samo pitanje mogu li ljudi prepoznati je li videozapis lažan. Riječ je o tome može li se još uvijek vjerovati samoj digitalnoj komunikaciji. Kako sadržaji generirani umjetnom inteligencijom postaju sve realističniji, teret se sve više prebacuje na sustave provjere, alate za autentifikaciju identiteta i zaštitne mehanizme platformi osmišljene za otkrivanje manipulacija prije nego što dođe do štete.