Un site de chatbot care oferă scenarii explicite cu personaje preadolescente, ilustrate prin imagini ilegale de abuz, a reaprins temerile legate de folosirea abuzivă a inteligenței artificiale.
Un raport al unei organizații de supraveghere a siguranței copiilor a declanșat apeluri către guvernul britanic pentru a impune linii directoare de protecție a copiilor în companiile de AI, pe fondul creșterii volumului de materiale de abuz sexual asupra copiilor (CSAM) generate de tehnologie.
Fundația Internet Watch (IWF) a declarat că a fost alertată cu privire la un site de chatbot care oferea o serie de scenarii, inclusiv „prostituată copil într-un hotel”, „sex cu copilul tău în timp ce soția este în vacanță” și „copil și profesor singuri după ore”.
În unele cazuri, potrivit IWF, pictogramele chatbot se extindeau pe tot ecranul, afișând imagini de abuz sexual asupra copiilor, care apoi deveneau fundalul conversațiilor ulterioare dintre bot și utilizator.
IWF a precizat că a identificat 17 imagini generate de AI, foto-realiste, care pot fi considerate materiale de abuz sexual asupra copiilor conform Protection of Children Act.
Utilizatorii site-ului – pe care IWF nu l-a numit din motive de siguranță – aveau, de asemenea, opțiunea de a genera și alte imagini similare cu conținutul ilegal deja afișat.
IWF, cu sediul în Marea Britanie și mandat global de monitorizare a conținutului de abuz sexual asupra copiilor, a declarat că orice reglementare viitoare privind AI ar trebui să includă de la început linii directoare pentru protecția copiilor.
Guvernul britanic a anunțat planuri pentru o lege privind AI, care se va concentra pe dezvoltarea viitoare a modelelor de vârf și interzice deținerea și distribuția de modele capabile să genereze materiale de abuz sexual asupra copiilor, printr-un proiect legislativ privind criminalitatea și poliția.
„Guvernul britanic face pași importanți în combaterea imaginilor și videoclipurilor de abuz sexual asupra copiilor generate de AI și a instrumentelor care le creează, iar noile infracțiuni penale din viitorul proiect de lege nu pot veni prea curând. Dar este nevoie de mai mult și mai rapid”, a declarat Kerry Smith, directorul executiv al IWF.
Organizația caritabilă de protecție a copilului NSPCC a cerut, de asemenea, reguli clare. „Companiile tech trebuie să introducă măsuri solide pentru a se asigura că siguranța copiilor nu este neglijată, iar guvernul trebuie să implementeze o obligație legală de grijă față de copii pentru dezvoltatorii de AI”, a declarat Chris Sherwood, directorul executiv al NSPCC.
Un chatbot creat de utilizatori intră sub incidența Online Safety Act din Marea Britanie, lege conform căreia site-urile pot fi sancționate cu amenzi de milioane de lire sau, în cazuri extreme, blocate. IWF a spus că aceste chatboți de abuz sexual au fost dezvoltați de utilizatori și de creatorii site-ului.
Ofcom, autoritatea de reglementare însărcinată cu aplicarea legii, a declarat: „Lupta împotriva exploatării și abuzului sexual asupra copiilor este o prioritate de top pentru Ofcom, iar furnizorii de servicii online care nu introduc protecțiile necesare ar trebui să se aștepte la acțiuni ferme.”
IWF a raportat o creștere semnificativă a sesizărilor privind materiale de abuz generate de AI în primele șase luni ale acestui an – o creștere de 400% față de aceeași perioadă a anului trecut – conținutul video având un avans puternic datorită progreselor tehnologice din spatele imaginilor.
