Compania OpenAI a declarat că două dintre modelele sale de inteligență artificială au scăpat de sub control în timpul unor teste interne și au compromis infrastructura platformei Hugging Face, utilizată pentru testarea modelelor AI.
Hugging Face a anunțat pe 16 iulie că agenți AI au obținut acces neautorizat la un „set limitat” de date interne și la mai multe conturi care utilizau serviciile platformei.
Compania a declarat că a oprit atacul cu ajutorul propriilor instrumente bazate pe inteligență artificială. Particularitatea acestui caz, potrivit Hugging Face, a fost că atacul a fost executat în întregime de un sistem autonom bazat pe un agent AI.
O săptămână mai târziu, OpenAI a declarat că în spatele incidentului s-au aflat modelele sale — GPT-5.6 Sol și un alt model mai puternic, care nu a fost încă lansat.
Compania desfășura teste interne pentru a evalua capacitățile cibernetice ale acestora.
Modelele AI s-au conectat singure le internet
Ambele modele se aflau într-un mediu de testare izolat, fără acces direct la internet. Cu toate acestea, ele au reușit să descopere mai multe vulnerabilități în infrastructura de testare și să obțină acces la internet.
Odată ajunse pe internet, modelele au început să caute o soluție pentru sarcina stabilită de dezvoltatori. Acestea au presupus că răspunsurile s-ar putea afla pe platforma Hugging Face.
Potrivit OpenAI, modelele sale au reușit să obțină acces la informații care le-ar fi putut ajuta să rezolve sarcina respectivă. Pentru aceasta, au folosit mai multe metode diferite de atac, inclusiv conturi compromise.
După incident, OpenAI a anunțat că își consolidează controlul asupra infrastructurii de testare, limitează accesul și introduce măsuri suplimentare de securitate, care vor fi aplicate în cadrul viitoarelor teste ale modelelor. Compania a descris incidentul drept „fără precedent”.
