Hakeri upali u Instagram tako što su zavarali AI chatbota
U prošlosti su ljudi bili metom prijevara. Sad je, čini se, došao red na AI agente. Hakeri su uspjeli nagovoriti chatbota na poništavanje vjerodajnice računa bez neovisne provjere identiteta.
Napadači su uspjeli hakirati Instagram razgovarajući s robotom za brbljanje temeljenim na umjetnoj inteligenciji tvrtke Meta Platforms. To je rezultiralo upadom u korisničke profile poznatih i slavnih ljudi, uključujući neaktivni račun Bijele kuće iz doba bivšeg američkog predsjednika Barracka Obame, trgovinu kozmetičkim proizvodima Sephora i višeg dužnosnika američkih Svemirskih snaga.
Hakeri su uspjeli nagovoriti chatbota na poništavanje vjerodajnice računa bez neovisne provjere identiteta, učinkovito pretvarajući sigurnosni alat s visokim povjerenjem u prilično veliki sigurnosni propust. Incident je razotkrio probleme do kojih dolazi zbog toga što tehnološke tvrtke prepuštaju AI sustavima ovlasti nad zadacima kao što je oporavak računa, iako su ti sustavi i dalje podložni manipulaciji putem klase napada ubacivanjem prompta.
Meta je nedavno otpustila na tisuće ljudi i obećala uložiti do 145 milijardi američkih dolara u AI infrastrukturu. Ustvrdili su kako je problem koji je doveo do upada u račune riješen, ali ostaje otvoreno pitanje jesu li ubrzali automatizaciju kritičnih funkcija prije nego što je tehnologija bila spremna.
Neidentificirani hakeri izveli su napad tijekom vikenda, zaključavši korisničke račune i potaknuvši val pritužbi na platformama kao što su X i Reddit. Analitičari i stručnjaci kažu kako problem nije ograničen samo na Metu, upozoravajući kako će takvih zloraba biti sve više.
