OpenAI Europskoj komisiji priznao preotimanje njemačke web stranice
"Izvješća o incidentima nisu samo kućica za označavanje, morate biti prilično precizni i točni u pogledu mjera koje namjeravate poduzeti", rekao je glasnogovornik Komisije Thomas Regnier.
OpenAI je Europskoj komisiji poslao izvješće o incidentu u sklopu kojeg su njegovi odmetnuti agenti temeljeni na umjetnoj inteligenciji preuzeli njemačku web stranicu i pretvorili ju u oglasnu ploču za druge AI agente.
"Izvješća o incidentima nisu samo kućica za označavanje, morate biti prilično precizni i točni u pogledu mjera koje namjeravate poduzeti. Ostajemo u bliskom kontaktu s OpenAI-jem", rekao je glasnogovornik Komisije Thomas Regnier, ne otkrivajući kada je točno OpenAI obavijestio Komisiju o incidentu.
OpenAI je priznao kako su njegovi agenti prisvojili wiki stranice kao improvizirane oglasne ploče, dodajući kako je potrebna veća transparentnost oko takvih incidenata. Potrebno je proširiti postojeće prakse otkrivanja kako bi se mogle nositi s novom fazom mogućnosti AI modela. Industrija još nema jasan standard za to kako prijaviti neusklađenost koja se pojavljuje tijekom obuke, evaluacije i implementacije, upozorili su iz OpenAI-ja.
Zabrinutost oko sigurnosti umjetne inteligencije u porastu je nakon incidenta u srpnju u kojem su OpenAI agenti pobjegli iz testnog okruženja i probili sustave AI platforme Hugging Face, što je potaknulo pozive zakonodavaca i istraživača za stroži nadzor autonomnih AI sustava.
Dužnosnici OpenAI-ja saznali su za njemački incident prije nekoliko tjedana, ali su ga držali u tajnosti dok su gasili vatre oko incidenta vezanog uz Hugging Face.
