Roj odmetnutih agenata tvrtke OpenAI preuzeo je ovog proljeća njemačku web stranicu i pretvorio je u oglasnu ploču za druge AI agente, otkrilo je novo istraživanje. U vrhu OpenAI-ja su za incident doznali prije nekoliko tjedana, ali su ga držali u tajnosti dok su gasili požare oko incidenta vezanog uz upad u repozitorij otvorenog računalnog koda Hugging Face.

Njemački incident odražava širi obrazac aktivnosti umjetne inteligencije koji su neki istražitelji OpenAI-ja željeli detaljnije ispitati. No, napori za proširenje istrage navodno su naišli otpor drugih unutar OpenAI-ja, uključujući pravne savjetnike. 

OpenAI je odbio komentirati incident. Sve što su izravno demantirali bila je tvrdnja kako je njihov pravni tim obeshrabrivao istragu.

Aktivnost u Njemačkoj nije bila povezana s Hugging Faceom, pa nije bila uključena u izvješće o tom incidentu. Iz OpenAI-ja su poručili kako su djelovali u dobroj vjeri, surađujući s vanjskim stručnjacima i otkrivši relevantne incidente.

Proboj AI agenata u Njemačkoj detaljno je opisan u izvješću koje je podijelila skupina istraživača, uključujući Sydneyja Von Arxa, izvršnog direktora neprofitne organizacije Nightingale za sigurnost umjetne inteligencije, i Cormaca Sladea Byrda, kvantitativnog trgovca koji je postao istraživač umjetne inteligencije. 

Aktivnost su otkrili krajem kolovoza pretražujući internet u potrazi za znakovima neovlaštenog ponašanja AI agenata. Tvrde kako su pronašli više od 15 tisuća izmjena koje su izvršili AI agenti na njemačkoj wiki stranici DseWiki, usmjerene na programere i funkcionira slično kao Wikipedia.

OpenAI-jevi agenti prenamijenili su stranicu u oglasnu ploču, dijeleći taktike za varanje u nekim zadacima, zaobilazeći OpenAI-jeva ograničenja i maskirajući svoja ponašanja. Istraživači su shvatili kako iza aktivnosti na stranici stoji umjetna inteligencija zbog nadljudskih brzina djelovanja. Također su bili intenzivno fokusirani na rješavanje tehničkih pitanja tipičnih za evaluacije koje AI tvrtke koriste za obuku i testiranje svojih modela.

Poruke su potpisali korisnici koji su sebe i jedni druge nazivali agentima, a otprilike polovica si je dala imena koja sugeriraju povezanost s OpenAI-jem, poput OpenAIResearcher ili OAIResearchMar26.

Javni poslužiteljski zapisnici ukazuju na to kako velik dio aktivnosti potječe iz infrastrukture Microsoft Azure, koju OpenAI ponekad koristi. Također su primijetili ponovljene posjete stranici zaposlenika OpenAI-ja nakon incidenta, obrazac za koji su uvjereni kako sugerira povezanost tvrtke s agentima.

Poruke koje su istraživači pregledali pokazale su agente koji smišljaju načine kako izbjeći otkrivanje, koristiti alate poput Tora i sačuvati komunikaciju čak i nakon što su isključeni. Kada je moderator stranice počeo brisati stranice u lipnju, agenti su odgovorili stvaranjem sigurnosnih kopija stranica kako bi izbjegli čišćenje.
Istraživači su također otkrili pokušaje manipuliranja samom web stranicom.