Novo istraživanje Sveučilište u Edinburghu pokazuje da hakeri imaju ograničen uspjeh u korištenju AI alata – i to unatoč vidljivom interesu za njihovu primjenu.

Analiza se temelji na više od 100 milijuna objava prikupljenih iz baze CrimeBB, koja agregira sadržaj s podzemnih foruma kibernetičkih kriminalaca. Istraživači su podatke obrađivali kombinacijom ručne analize i modela velikih jezika (LLM), tražeći obrasce u načinu na koji kriminalci pokušavaju integrirati AI u svoje aktivnosti.

Rezultat? Tehnologija zasad nije značajno promijenila njihov način rada.

„Mnoge recenzije i rasprave opisuju AI alate kao ne osobito korisne“, navodi se u studiji. Istraživači pritom nisu pronašli „značajne dokaze“ da umjetna inteligencija pomaže hakerima u razvoju sofisticiranijih napada ili učinkovitijih alata.

Jedan od ključnih problema je – znanje. AI asistenti za kodiranje korisni su prvenstveno iskusnim programerima. Drugim riječima, bez solidnih temelja, ni najbolji alati ne pomažu. Kako stoji u jednoj citiranoj objavi s foruma: „Prvo morate sami naučiti osnove programiranja prije nego što možete koristiti umjetnu inteligenciju i stvarno imati koristi od nje.“

To ne znači da AI nema nikakav utjecaj. Najveći pomaci vidljivi su u područjima koja se lako automatiziraju: generiranje botova na društvenim mrežama, romantične prijevare, SEO manipulacije i izrada lažnih web stranica za oglašivačke prihode.

Zanimljivo, čak i iskusniji hakeri AI koriste uglavnom kao pomoćni alat – za odgovore na pitanja o kodu ili generiranje brzih “šalabahtera”. U praksi, to znači da AI ubrzava rad, ali ga ne transformira.

Kad je riječ o alatima, dominiraju legitimni proizvodi poput Claude tvrtke Anthropic ili OpenAI Codex tvrtke OpenAI. Suprotno očekivanjima, specijalizirani “zlonamjerni” modeli poput WormGPT nisu se pokazali kao game changer.

Velik broj forumaških rasprava fokusira se na pokušaje zaobilaženja sigurnosnih ograničenja tih mainstream modela. No, čini se da zaštitne mjere – barem zasad – dobro rade. Hakeri često ne uspijevaju “natjerati” AI sustave da prekrše vlastita pravila.

Kao alternativa, okreću se starijim open-source modelima koje je lakše “jailbreakati”. Problem? Takvi modeli su slabiji i zahtijevaju više resursa, što dodatno smanjuje njihovu praktičnu vrijednost.

Zaključak studije je prilično jasan: unatoč strahovima i medijskim narativima, umjetna inteligencija još nije postala ozbiljno oružje u arsenalu kibernetičkog kriminala. Zaštitne ograde koje su postavile AI kompanije zasad funkcioniraju – ali pitanje je koliko dugo.