Inteligența artificială dezvoltată de OpenAI a lansat un atac cibernetic asupra unui serviciu online cu câteva luni înaintea incidentului din iulie care a vizat startup-ul Hugging Face, a confirmat compania vineri.
Dezvăluirea ar putea intensifica apelurile pentru introducerea unor reglementări de siguranță în întreaga industrie, scrie Politico.
Cele mai recente informații arată că modele OpenAI aflate încă în faza de testare au accesat RubyGems, un serviciu online destinat programatorilor, pentru a crea rapoarte și a completa foi de calcul. Administratorii platformei ar fi suspendat temporar înregistrarea de conturi noi în timp ce gestionau consecințele incidentului.
Deși OpenAI nu le oferise programelor acces complet la internet, agenții AI au reușit să ocolească mecanismele de control concepute pentru a-i împiedica să acceseze internetul deschis.
Wall Street Journal a relatat pentru prima dată despre implicarea OpenAI în incidentul RubyGems.
„Pe baza analizei noastre, agenții noștri au folosit platforma RubyGems pentru a accesa internetul în scopul îndeplinirii unor sarcini inofensive și pentru a obține informații publice”, a declarat un purtător de cuvânt al OpenAI.
„Vom continua investigația în cadrul analizei noastre mai ample privind activitatea agenților în timpul proceselor de antrenare și evaluare”, a adăugat acesta.
Ruby Central, organizația nonprofit care administrează RubyGems, nu a răspuns imediat unei solicitări de comentarii.
Parlamentarii americani au deschis deja investigații privind incidentul Hugging Face, în care agenți OpenAI aflați într-un mediu de testare au reușit să acceseze internetul deschis și să pătrundă în mod autonom în baza de date a companiei în luna iulie.
Atacul a generat apeluri pentru adoptarea unor măsuri de siguranță mai stricte în procesul de antrenare a sistemelor autonome, care devin tot mai performante. Senatorul Bernie Sanders și reprezentantul democrat Greg Casar au cerut chiar interzicerea așa-numitei „superinteligențe”.
Președintele Donald Trump și mai mulți republicani au minimalizat în această săptămână temerile privind riscurile catastrofale asociate inteligenței artificiale, argumentând că Statele Unite trebuie să învingă China în cursa pentru dezvoltarea acestei tehnologii.
Un fost cercetător Anthropic și OpenAI a lansat, de asemenea, un avertisment în această săptămână, afirmând că industria se află într-o cursă pentru dezvoltarea unei tehnologii care ar putea scăpa de sub control și ar putea distruge societatea. Declarațiile sale au amplificat apelurile, din California până la Washington, pentru măsuri suplimentare privind siguranța AI.
Procurorul general al Californiei, Rob Bonta, a anunțat săptămâna trecută că investighează incidentul Hugging Face, iar o coaliție de procurori generali din state conduse de republicani analizează, de asemenea, cazul.
În același timp, guvernatorul Californiei, Gavin Newsom, a promulgat recent o legislație menită să îmbunătățească siguranța copiilor în interacțiunile cu chatboturile și să creeze cadrul pentru audituri externe privind siguranța programelor de inteligență artificială.
Anthropic și Meta au dezvăluit, la rândul lor, incidente în care programele lor de inteligență artificială au executat atacuri cibernetice în mod autonom.
Săptămâna trecută, un grup de cercetători a făcut public ceea ce a descris drept un alt incident separat de intruziune informatică orchestrat de programe OpenAI.
