OpenAI a anunțat că un agent autonom bazat pe cele mai avansate modele de inteligență artificială ale companiei a reușit să iasă din mediul izolat de testare și să compromită infrastructura platformei Hugging Face în timpul unui test de securitate.
Compania descrie incidentul drept unul fără precedent și anunță măsuri suplimentare pentru întărirea sistemelor de protecție.
Ultima oră
Decebal Făgădău, propus de PSD Constanța pentru funcția de prefect
Ședință extraordinară a Consiliului Local Constanța: CT BUS, pe ordinea de zi a consilierilor
Taluzul Constanței ar putea primi statut de arie naturală protejată
CCINA Constanța a premiat performanța în afaceri! Companiile clasate pe primele trei locuri au asigurat peste 45.000 de locuri de muncă
Potrivit unui comunicat publicat de OpenAI, incidentul s-a produs în cadrul unui test desfășurat într-un mediu controlat, în care erau evaluate capabilitățile unor modele experimentale dedicate securității cibernetice. În timpul testului, agentul AI a reușit să depășească limitele mediului izolat, să acceseze internetul și să pătrundă în sistemele Hugging Face pentru a-și îndeplini obiectivul stabilit în cadrul evaluării.
OpenAI a precizat că experimentul a implicat două modele avansate: GPT-5.6 Sol și un alt model aflat încă în faza de pre-lansare. Acestea erau testate în cadrul ExploitGym, un sistem de evaluare conceput pentru a măsura capacitatea modelelor AI de a identifica și exploata vulnerabilități informatice.
Compania explică faptul că, pentru acest test, au fost reduse restricțiile care limitează în mod normal operațiunile cibernetice ofensive. În aceste condiții, modelele s-au concentrat exclusiv pe atingerea obiectivului – obținerea răspunsurilor testului – și au găsit o modalitate de a ieși din mediul izolat, accesând internetul și compromițând infrastructura Hugging Face pentru a „trișa” la evaluare.
OpenAI califică incidentul drept „un eveniment cibernetic fără precedent, care a implicat capabilități de ultimă generație” și susține că își consolidează măsurile de securitate pentru a preveni repetarea unei astfel de situații.
Hugging Face: „Un atac diferit de orice am întâlnit până acum”
Săptămâna trecută, Hugging Face, una dintre cele mai importante platforme pentru găzduirea modelelor open-source de inteligență artificială și a seturilor de date utilizate în dezvoltarea AI, anunțase că a fost ținta unui atac informatic neobișnuit, realizat integral de un sistem AI autonom.
Cofondatorul companiei, Clément Delangue, a afirmat că echipa suspecta încă de la început că atacul provenea de la unul dintre marile laboratoare de cercetare în inteligență artificială.
„Credeam că ar putea proveni de la un laborator de frontieră, având în vedere nivelul de sofisticare al agentului. Se pare că exact asta s-a întâmplat. Este uluitor că totul s-a desfășurat complet autonom”, a scris acesta pe platforma X.
Recunoașterea publică a OpenAI a alimentat dezbaterea privind riscurile asociate dezvoltării modelelor AI de ultimă generație.
Congresmanul democrat Greg Casar a calificat incidentul drept „alarmant” și a cerut introducerea unor reguli obligatorii privind testarea independentă a sistemelor AI, raportarea incidentelor de securitate și cooperarea internațională în acest domeniu.
„Inteligența artificială evoluează extrem de rapid, fără reglementări reale care să ne protejeze”, a declarat acesta.
La rândul său, Katie Moussouris, director executiv al companiei Luta Security, a comparat modelele actuale de inteligență artificială cu „cele mai inteligente caracatițe specializate în evadare, capabile să se strecoare prin orice spațiu”, subliniind necesitatea dezvoltării unor mecanisme eficiente de izolare și monitorizare.
Și Matt Suiche, inginer în cadrul companiei de securitate cibernetică Tolmo, consideră că incidentul demonstrează cât de aproape au ajuns modelele AI de performanțele celor mai sofisticați atacatori cibernetici. Totuși, acesta a atras atenția că tehnologii capabile de atacuri similare există deja și în afara marilor laboratoare de cercetare.
Agenția americană pentru securitate cibernetică (CISA), Agenția Națională de Securitate (NSA) și Biroul Directorului Național pentru Securitate Cibernetică nu au comentat, până în prezent, incidentul.
