AI prvi put samostalno izvela ransomware napad
Sigurnosni istraživači otkrili su ono što smatraju prvim slučajem u kojem je agent umjetne inteligencije samostalno izveo kibernetički napad od početka do kraja, bez ikakve ljudske pomoći
Napad pokretan umjetnom inteligencijom predstavlja važnu prekretnicu i za razvoj umjetne inteligencije i za područje kibernetičke sigurnosti te izaziva zabrinutost da AI dodatno snižava prag za provođenje kibernetičkog kriminala.
Potpuno automatizirana kampanja uključivala je ransomware napad, pri kojem su žrtve prisiljene platiti otkupninu kako bi ponovno dobile pristup svojim podacima.
Tim tvrtke za sigurnost računalstva u oblaku Sysdig objavio je da je AI napadač, kojeg su nazvali Jadepuffer, provalio u ranjivi poslužitelj, pronašao lozinke i druge pristupne podatke te potom šifrirao produkcijsku bazu podataka prije nego što je zatražio otkupninu u bitcoinima.
„Ransomware je oduvijek imao čovjeka za tipkovnicom ili barem čovjeka koji je napisao njegov scenarij. Sysdigov istraživački tim za prijetnje (TRT) zabilježio je ono što smatramo prvim dokumentiranim slučajem agentskog ransomwarea – potpuno autonomnu operaciju iznude koju je od početka do kraja vodio model velikog jezika (LLM)“, napisao je u objavi na blogu Michael Clark, direktor istraživanja prijetnji u Sysdigu.
Odmah nakon što je dobio pristup Langflowu, alatu otvorenog koda za razvoj AI aplikacija, LLM je počeo tražiti vjerodajnice, s posebnim naglaskom na račune kod kineskih pružatelja usluga, poput Alibabe, Tencenta i Huaweija.
Autonomni sustav mogao je pritom prilagođavati svoju taktiku u stvarnom vremenu, djelujući brzinom koja nadmašuje čak i najvještije ljudske operatere.
„Međutim, najupečatljivija karakteristika bilo je ponašanje LLM-a. Operacija se prilagođavala u stvarnom vremenu, ponovno pokušavajući neuspješne korake s prilagođenim parametrima. U jednom slučaju od neuspješne prijave do funkcionalnog rješenja došlo se za samo 31 sekundu“, rekao je Clark.
Istraživači Sysdiga istaknuli su da čak i kada bi žrtva platila otkupninu, ne bi mogla oporaviti kompromitirane podatke jer ih je AI agent već izbrisao, bez prethodne izrade sigurnosne kopije.
Nalazi istraživanja još nisu neovisno potvrđeni, no ukazuju na rastući rizik koji predstavljaju sustavi umjetne inteligencije kako postaju sve sposobniji za samostalno izvođenje složenih kibernetičkih napada, bez ljudskog nadzora.
