Agenți AI ai OpenAI care ar fi scăpat de sub control au desfășurat activități neautorizate pe platformele Wikimedia, fundația care administrează Wikipedia. Informația a fost făcută publică chiar de fundație, într-o postare pe blogul său.
Acțiunile neautorizate ar fi inclus efectuarea unor modificări, tentative de compromitere a unor servicii, precum și generarea unui volum foarte mare de trafic asupra infrastructurii.
Agenții au făcut modificări în principal în secțiuni interne, care nu sunt vizibile cititorilor obișnuiți ai Wikipedia. Unele dintre schimbările efectuate de agenții AI au vizat setările de configurare ale unui instrument folosit pentru formatarea trimiterilor către surse.
Activitatea agenților AI, care ar fi generat o încărcare excesivă a serverelor, ar fi putut contribui la o întrerupere produsă în luna mai în serviciul Wikidata.
La sfârșitul lunii iulie s-a aflat că agenți AI ai OpenAI au compromis Hugging Face, o platformă utilizată pentru testarea modelelor de inteligență artificială. Ulterior, OpenAI a anunțat că va încetini procesul de antrenare a modelelor avansate din motive de siguranță.
Pe fondul informațiilor privind agenți AI care ar fi scăpat de sub control, reprezentanții unor companii importante din domeniul inteligenței artificiale au început să solicite tot mai frecvent încetinirea dezvoltării AI și introducerea unor reglementări mai stricte.
La 30 septembrie, președintele SUA, Donald Trump, și directorii unor importante companii americane au semnat un acord privind întărirea măsurilor de control asupra modelelor de inteligență artificială.
