Cum poți spune dacă o imagine este generată de AI? Șapte companii Big Tech lucrează la un sistem de reglementare

0
103
  • A distinge dacă conținutul digital a fost produs de om sau AI este o sarcină grea în zilele noastre.
  • Dar șapte companii Big Tech și AI tocmai au colaborat cu Casa Albă pentru a intensifica eforturile de a semnala un astfel de conținut.
  • Companiile ar putea lansa în curând sisteme care identifică originile materialelor generate de IA.

Sunt șanse să fi fost păcălit de conținutul generat de inteligență artificială în ultimele luni, sau cel puțin să te fi uitat de mai multe ori pentru a realiza dacă o fotografie este sau nu reală.

Dar această situație s-ar putea schimba cât de curând. O coaliție de giganți din tehnologie și startup-uri s-au angajat vineri să reglementeze conținutul produs de AI.

Grupul – format din pilonii Big Tech Google, Microsoft, Meta și Amazon, precum și din bastioanele AI generative OpenAI, Anthropic și Inflection – și-a asumat „angajamente voluntare” față de administrația Biden în efortul de a-și face produsele mai sigure și de a reduce tendința tehnologiei de a produce dezinformare, potrivit unui comunicat al Casei Albe, scrie Insider.

Angajamentul includea promisiunea de a realiza „sisteme robuste” care identifică sau filigranează conținutul produs de instrumentele lor AI. Acești identificatori sau filigrane ar distinge care serviciu AI a fost folosit pentru a genera conținutul, dar ar omite orice informații care ar putea fi folosite pentru a identifica utilizatorul initial.

Riscurile dezinformării prin AI

De la lansarea ChatGPT de către OpenAI în noiembrie anul trecut, instrumentele AI generative au uimit utilizatorii prin capacitatea lor de a crea text și imagini atunci când li se solicită. Dar puterea tehnologiei emergente de a produce texte convingatoare și imagini fotorealiste a fost deja folosită pentru a disemina informații false.

În mai, piețele au scăzut pentru scurt timp după ce o imagine falsă a Pentagonului învăluită în fum a circulat pe rețelele de socializare. Nu s-a confirmat niciodată că imaginea a fost creată folosind AI, dar conținea multe elemente nerealiste care apar ocazional în imaginile generate de AI, cum ar fi obiecte fizice care se amestecă unele cu altele.

Un anunț politic lansat marți în sprijinul guvernatorului Floridei, Ron DeSantis, a folosit inteligența artificială pentru a reproduce vocea lui Donald Trump și pentru a crea un sunet care nu a avut loc niciodată. Aceasta vine la o lună după ce o altă reclamă DeSantis a prezentat o imagine cu Trump îmbrățișându-l și sărutându-l pe Anthony Fauci, fostul consilier medical șef al Casei Albe, despre care experții au spus pentru AFP că ar fi probabil generată de IA.

Un studiu publicat în iunie a constatat că majoritatea oamenilor nu au putut spune dacă un tweet a fost scris de un om sau de ChatGPT. Participanții chestionați au găsit chiar și tweet-urile ChatGPT mai convingătoare decât omologii lor umani.

LĂSAȚI UN MESAJ

Vă rugăm să introduceți comentariul dvs.!
Introduceți aici numele dvs.