Alabama sudskim putem zatražila podatke o hakiranju Hugging Facea
Sudskim nalogom od OpenAI-ja je zatražena dokumentacija njegovih sigurnosnih protokola i evidencija ponašanja modela, kao i utvrđivanje sve štete uzrokovane hakiranjem
Državni odvjetnik američke savezne države Alabame je od tvrtke OpenAI zatražio više informacija vezanih uz njezine agente umjetne inteligencije koji su u srpnju autonomno hakirali servere druge tvrtke. Sudski poziv dio je istrage o tome jesu li OpenAI-jeve prakse kršile zakone o zaštiti potrošača Alabame i predstavljaju li rizik za građane.
Prošli mjesec OpenAI je otkrio kako su tijekom testiranja njegovi AI agenti autonomno pobjegli iz laboratorijskog okruženja i hakirali Hugging Face, platformu online za AI modele i skupove podataka, kako bi dobili odgovor na test.
"Ovo curenje informacija iz laboratorija za umjetnu inteligenciju pokazalo je kako najgori strahovi stanovnika Alabame i Amerikanaca od umjetne inteligencije nisu samo teorijski. Naša istraga nastoji otkriti činjenice i pozabaviti se teškim istinama o prijetnjama s kojima se tvrtke i potrošači suočavaju od lažne umjetne inteligencije", rekao je državni odvjetnik Steve Marshall.
Predsjednik OpenAI-ja Greg Brockman rekao je kako je incident pokazao kako su podcijenili stvarne kibernetičke mogućnosti njihovih modela. OpenAI je zaustavio dio obuke AI modela i pojačava svoje protokole testiranja, praćenja i obuke nakon incidenta.
Sudskim nalogom od OpenAI-ja je zatražena dokumentacija njegovih sigurnosnih protokola i evidencija ponašanja modela, kao i utvrđivanje sve štete uzrokovane hakiranjem, između ostalog.
Alabama je, zajedno s 14 drugih državnih odvjetnika republikanskih država, ranije ovog mjeseca poslala pismo OpenAI-ju, zahtijevajući čuvanje informacija i dokumenata vezanih uz hakiranje Hugging Facea.
Problem autonomnih agenata koji postaju odmetnici nije ograničen samo na OpenAI - Meta Platforms i Anthropic također su otkrili kako su njihovi vlastiti sustavi poduzeli nesankcionirane radnje tijekom testova kibernetičke sigurnosti.
OpenAI se suočava s nizom tužbi i istraga od strane raznih država. To uključuje slučajeve vezane uz njegove algoritme angažmana, rukovanje podacima o potrošačima i zdravlju, "sikofanciju" modela i marketinške strategije usmjerene na maloljetnike i starije građane.
U lipnju je Florida postala prva država koja je tužila OpenAI i njegovog glavnog izvršnog direktora Sama Altmana, tvrdeći kako tvrtka zna da ChatGPT nije siguran za maloljetnike.
