OpenAI intenționează să permită o gamă mai largă de conținut, inclusiv materiale erotice, în cadrul platformei sale ChatGPT, ca parte a unei inițiative de „a trata utilizatorii adulți ca adulți”, a declarat directorul executiv al companiei, Sam Altman.
Într-o postare publicată marți pe X (fostul Twitter), Altman a afirmat că viitoarele versiuni ale ChatGPT vor fi capabile să se comporte într-un mod mai „uman”, însă „doar dacă utilizatorii își doresc asta, nu pentru că vrem să maximizăm utilizarea”.
Decizia, asemănătoare cu cea a lui Elon Musk, care a introdus recent doi chatboți cu conținut sexual explicit în platforma Grok, ar putea ajuta OpenAI să atragă mai mulți abonați plătitori. În același timp, mișcarea este așteptată să intensifice presiunile asupra legislatorilor pentru a impune reguli mai stricte privind accesul minorilor la chatboți.
OpenAI nu a oferit un comentariu oficial pentru BBC.
Altman a explicat că, în trecut, compania a impus restricții stricte asupra ChatGPT „pentru a fi precauți în ceea ce privește problemele de sănătate mintală”.
Aceste modificări au fost anunțate inițial într-o postare de blog în august, care nu mai este disponibilă pe site-ul companiei.
„Ne-am dat seama că aceste restricții au făcut ChatGPT mai puțin util sau plăcut pentru mulți utilizatori care nu aveau probleme de sănătate mintală, dar, având în vedere gravitatea subiectului, am vrut să fim siguri că procedăm corect”, a scris Altman.
El a adăugat că OpenAI poate relaxa acum aceste restricții, „odată ce am reușit să reducem riscurile legate de sănătatea mintală și dispunem de instrumente noi”.
„În decembrie, odată cu extinderea sistemului de verificare a vârstei și în spiritul principiului nostru de a-i trata pe adulți ca adulți, vom permite și mai mult conținut, inclusiv erotică pentru adulții verificați”, a afirmat Sam Altman.
Context: controverse privind siguranța copiilor
Schimbările vin după ce OpenAI a fost dată în judecată la începutul anului de părinții unui adolescent american care s-a sinucis. Procesul, intentat de Matt și Maria Raine, părinții lui Adam Raine, în vârstă de 16 ani, este prima acțiune legală care acuză compania de „moarte nejustificată”.
Familia a prezentat jurnale de conversații între Adam și ChatGPT, în care adolescentul spunea că are gânduri suicidare. OpenAI a declarat atunci pentru BBC că „analizează cazul” și a transmis „cele mai profunde condoleanțe familiei Raine”.
Reglementări și reacții
În Marea Britanie, literatura erotică scrisă nu necesită verificare a vârstei conform Online Safety Act, însă imaginile pornografice, inclusiv cele generate de inteligență artificială, cer dovada că utilizatorul are peste 18 ani.
În Statele Unite, criticii afirmă că decizia OpenAI de a permite conținut erotic pe platformă evidențiază nevoia de reglementare la nivel federal și statal.
„Cum se vor asigura că minorii nu pot accesa secțiunile destinate exclusiv adulților, care oferă conținut erotic?”, a întrebat Jenny Kim, parteneră la firma de avocatură Boies Schiller Flexner.
Kim, care participă și la un proces împotriva Meta, privind efectele algoritmului Instagram asupra sănătății mintale a adolescenților, a adăugat:
„OpenAI, ca majoritatea companiilor mari din domeniul tehnologic, îi folosește pe oameni drept cobai.”
În aprilie, publicația TechCrunch a relatat că OpenAI a permis conturilor înregistrate ca minori să genereze conținut erotic explicit. Compania a declarat atunci că lucrează la o soluție tehnică pentru a restricționa astfel de cazuri.
Tensiuni între inovație și protecție
Un studiu publicat în această lună de Center for Democracy and Technology (CDT) arată că unul din cinci elevi cunoaște o persoană care a avut o relație „romantică” cu un AI.
Luni, guvernatorul Californiei, Gavin Newsom, a respins un proiect de lege care ar fi interzis dezvoltatorilor să ofere chatboți companioni pentru copii, cu excepția cazului în care ar fi garantat că software-ul nu produce comportamente dăunătoare.
„Este esențial ca adolescenții să învețe cum să interacționeze în siguranță cu sistemele AI”, a spus Newsom în mesajul care a însoțit veto-ul său.
La nivel federal, Comisia Federală pentru Comerț (FTC) a deschis o anchetă privind modul în care chatboții interacționează cu copiii. În paralel, Senatul SUA a introdus luna trecută un proiect de lege bipartizan care ar permite utilizatorilor să depună plângeri legale împotriva dezvoltatorilor de chatboți.
