Platforma X, deținută de Elon Musk, este investigată de autoritățile din Europa, India și Malaezia, după ce chatbotul său, Grok, a permis utilizatorilor să creeze și să distribuie imagini sexualizate generate de inteligență artificială cu copii și femei.
Autoritatea britanică de reglementare în domeniul media, Ofcom, a anunțat că a solicitat informații de la X, care este deținută de xAI, în legătură cu problemele legate de Grok. De asemenea, duminică, o membră a Parlamentului Braziliei a declarat pe rețelele sociale că a cerut procurorului federal și autorității pentru protecția datelor să suspende utilizarea Grok până la finalizarea unei anchete, scrie CNBC.
Investigațiile vin pe fondul unei creșteri globale, în ultimele săptămâni, a utilizării Grok pentru a crea și distribui imagini intime neconsensuale (NCII), derivate din fotografii sau videoclipuri ale unor persoane reale, ca răspuns la solicitările utilizatorilor. Aceste imagini îngrijorătoare au fost distribuite pe scară largă pe X.
Compania lui Musk a actualizat recent funcțiile Grok Imagine, facilitând generarea de imagini pe baza comenzilor textuale direct pe platformă.
În timp ce experții în siguranță online și criticii din domeniul tehnologiei au condamnat proliferarea imaginilor și clipurilor exploatatoare pe X, Musk a părut să ironizeze situația, distribuind mai multe imagini generate de Grok, inclusiv una în care apare el însuși purtând un costum de baie, însoțite de emoji-uri care râd.
Într-o conferință de presă de luni, purtătorul de cuvânt al Comisiei Europene, Thomas Regnier, a declarat că autoritatea „analizează foarte serios această chestiune” și este „pe deplin conștientă” că X și Grok „oferă acum un așa-numit mod «spicy», care afișează conținut sexual explicit, inclusiv rezultate generate cu imagini cu aspect infantil”.
„Acesta nu este «spicy»”, a spus Regnier. „Este ilegal. Este revoltător. Este dezgustător. Așa vedem noi lucrurile și nu are ce căuta în Europa.”
La sfârșitul săptămânii trecute, Ministerul Indian al Electronicii și Tehnologiei Informației a ordonat platformei X să efectueze o „revizuire tehnică, procedurală și de guvernanță cuprinzătoare” a Grok, termenul-limită fiind 5 ianuarie.
Comisia Malaeziană pentru Comunicații și Multimedia a anunțat, la rândul său, că investighează X și că va convoca reprezentanți ai companiei.
„MCMC îndeamnă toate platformele accesibile în Malaezia să implementeze măsuri de siguranță conforme cu legislația malaeziană și standardele de siguranță online, în special în ceea ce privește funcțiile bazate pe inteligență artificială, chatboturile și instrumentele de manipulare a imaginilor”, se arată într-un comunicat.
În Statele Unite, Centrul Național pentru Combaterea Exploatării Sexuale (NCOSE) a cerut Departamentului de Justiție și Comisiei Federale pentru Comerț (FTC) să investigheze cazul, într-un interviu acordat CNBC. Dani Pinter, director juridic al NCOSE, a declarat că există „puține precedente juridice clare” pentru aceste situații specifice.
Totuși, ea a subliniat că legislația federală interzice crearea și distribuirea materialelor de abuz sexual asupra copiilor (CSAM), inclusiv conținutul creat virtual „atunci când prezintă un copil identificabil sau un copil implicat în acte sexuale explicite”.
Printre aceste legi se numără și Take It Down Act, susținut de Prima Doamnă Melania Trump înainte de adoptarea sa, anul trecut.
Un purtător de cuvânt al Departamentului de Justiție a transmis luni seara, într-un e-mail către CNBC, că „Departamentul de Justiție tratează extrem de serios materialele de abuz sexual asupra copiilor generate de inteligență artificială și va urmări penal agresiv orice producător sau deținător de CSAM. Continuăm să explorăm modalități de a optimiza aplicarea legii pentru a proteja copiii și a trage la răspundere persoanele care exploatează tehnologia pentru a-i vătăma pe cei mai vulnerabili”.
FTC a refuzat să comenteze, iar xAI nu a oferit un punct de vedere, în afara unui răspuns automat.
Compania de social media a lui Musk a emis prima declarație publică pe această temă sâmbătă, prin contul oficial X Safety:
„Luăm măsuri împotriva conținutului ilegal pe X, inclusiv a materialelor de abuz sexual asupra copiilor (CSAM), prin eliminarea acestora, suspendarea permanentă a conturilor și colaborarea cu autoritățile locale și forțele de ordine, atunci când este necesar.”
Într-o postare separată, Musk a scris: „Oricine folosește sau solicită Grok pentru a crea conținut ilegal va suporta aceleași consecințe ca și cum ar încărca conținut ilegal.”
A doua zi, un angajat xAI, Ethan He, a anunțat într-o postare că Grok Imagine a fost actualizat, fără a preciza însă ce modificări au fost făcute în privința capacității de a crea imagini explicite dăunătoare.
Elon Musk și platforma X au fost criticați și anterior pentru faptul că au permis unor utilizatori care au publicat conținut ce implică exploatarea sexuală a copiilor să rămână activi pe platformă.
