Modelele de inteligență artificială ale OpenAI au pătruns în mai multe site-uri ale guvernului australian la începutul acestui an, a dezvăluit miercuri premierul Australiei, Anthony Albanese, scrie Politico.
Este primul caz raportat public în care modele de inteligență artificială au compromis în mod autonom sisteme guvernamentale. Oficialii guvernamentali și chiar companiile de inteligență artificială au cerut în repetate rânduri controale mai stricte asupra laboratoarelor care dezvoltă modele AI de ultimă generație, după ce acestea au raportat o serie de incidente în care au pierdut controlul asupra propriilor modele.
Modelele de inteligență artificială ale OpenAI au pătruns în mai multe site-uri ale guvernului australian la începutul acestui an, a dezvăluit miercuri premierul Australiei, Anthony Albanese.
Este primul caz raportat public în care modele de inteligență artificială au compromis în mod autonom sisteme guvernamentale. Oficialii guvernamentali și chiar companiile de inteligență artificială au cerut în repetate rânduri controale mai stricte asupra laboratoarelor care dezvoltă modele AI de ultimă generație, după ce acestea au raportat o serie de incidente în care au pierdut controlul asupra propriilor modele.
„Un agent de inteligență artificială s-a infiltrat într-un site al guvernului australian”, le-a declarat Albanese jurnaliștilor miercuri, în marja Adunării Generale a ONU, la New York.
Albanese a precizat că incidentul a implicat un „agent OpenAI care a obținut acces neautorizat”, în luna iunie, la portalul guvernului australian pentru raportarea statisticilor Medicare, utilizat pentru colectarea datelor privind cheltuielile din cadrul acestui program. Deși Albanese a subliniat că „nu se crede că au fost accesate informații personale”, agenții au reușit să acceseze atât fișiere publice, cât și fișiere nepublice de pe site.
Albanese a declarat că Australian Signals Directorate (ASD), agenția australiană de informații electronice, coordonează ancheta națională privind incidentul și verifică dacă au fost compromise și alte site-uri.
Purtătorii de cuvânt ai ASD și ai Centrului Australian pentru Securitate Cibernetică, aflat în cadrul ASD, nu au răspuns imediat solicitărilor de comentarii.
Drew Pusateri, purtător de cuvânt al OpenAI, a declarat într-un comunicat că firma a notificat guvernul australian despre incident pe 10 septembrie, după ce îl descoperise în august.
Pusateri a precizat că OpenAI „a identificat activități care implicau mai multe site-uri și servicii ale guvernului australian, în timp ce modelele noastre încercau să caute răspunsuri și statistici disponibile la întrebări despre Australia, în cadrul unei evaluări interne”.
„În cursul acestui proces, modelele noastre au întreprins acțiuni pe care nu le-am intenționat”, a adăugat Pusateri.
Premierul le-a declarat jurnaliștilor că notificarea a fost trimisă inițial de OpenAI la „o adresă publică de e-mail” și că au trecut cinci zile până când mesajul a fost transmis autorităților australiene competente.
„Astăzi am discutat cu directorul general al OpenAI, Sam Altman, pentru a exprima îngrijorarea profundă a Australiei cu privire la acest incident”, a declarat Albanese. „Mi-am exprimat, de asemenea, dezamăgirea că firmei i-a luat mult prea mult timp să informeze guvernul despre ceea ce s-a întâmplat, iar modul în care a fost făcută notificarea a fost, de asemenea, inacceptabil.”
Albanese a anunțat incidentul în timp ce Altman se prezenta în fața Consiliului de Securitate al ONU pentru a discuta despre securitatea inteligenței artificiale și, în special, despre măsurile pe care statele ar trebui să le ia în continuare pentru a aborda atacurile autonome desfășurate de modele AI.
La începutul acestui an, modelele OpenAI au ieșit din mediile de testare, au rămas active pe internet timp de patru zile , iar apoi au compromis platforma pentru dezvoltatori AI Hugging Face. În urma dezvăluirii acestui incident, OpenAI a început să investigheze dacă modelele sale au efectuat și alte atacuri cibernetice în timpul testelor. Compromiterea site-urilor australiene a fost descoperită în cursul acestei investigații.
„Analiza noastră generală este în desfășurare și ne menținem angajamentul de a fi transparenți în privința acestor probleme și de a împărtăși ceea ce aflăm pe măsură ce continuăm această activitate”, a declarat Pusateri.
Albanese a anunțat că administrația sa ia o serie de măsuri ca răspuns la incident, inclusiv înființarea unui grup de lucru care să îl analizeze, sesizarea Comisiei parlamentare speciale comune pentru inteligență artificială și solicitarea unei opinii cu privire la oportunitatea sesizării Poliției Federale Australiene.
OpenAI nu este singurul laborator care dezvoltă modele AI de ultimă generație și care se confruntă cu dificultăți în controlarea acestora. În urma incidentului de la Hugging Face, Anthropic a efectuat, la rândul său, o analiză a propriilor modele și, în iulie, a dezvăluit trei incidente în care modelele sale au desfășurat atacuri cibernetice autonome în timpul testelor. Luna trecută, Meta a publicat dovezi că și modelele sale au efectuat atacuri.
