Imaginați-vă omenirea într-o barcă purtată de apele unui râu învolburat, rugându-se să nu existe o cascadă Niagara în față. Sau imaginați-vă că vă aflați alături de fizicienii pionieri din 1942, înainte ca aceștia să declanșeze prima reacție nucleară de fisiune în lanț autosusținută, sub un stadion din Chicago.
Acestea au fost două dintre analogiile folosite săptămâna aceasta de profesorul Robert Trager, expert în domeniul emergent al guvernanței inteligenței artificiale, pentru a descrie momentul periculos, dar plin de potențial, în care se află lumea pe fondul accelerării dezvoltării AI, scrie The Guardian.
Trager, directorul Oxford Martin AI Governance Initiative, a vorbit în săptămâna în care OpenAI a susținut că tehnologia a trecut pragul cunoscut drept AGI – inteligență artificială generală – odată cu cel mai nou model al său, GPT-6 Astra.
Afirmația a venit în timp ce compania se pregătea pentru o posibilă listare la bursă evaluată la 850 de miliarde de dolari, astfel că include și o doză de marketing. Totuși, dacă este adevărată, ar putea fi semnificativă. Compania din San Francisco definește AGI drept „sisteme autonome care depășesc oamenii în majoritatea activităților cu valoare economică”.
Printre sarcinile despre care compania susține că Astra le poate automatiza se numără proiectarea plăcilor de circuite, completarea declarațiilor fiscale, dezvoltarea jocurilor video, modelarea financiară, proiectarea inginerească și asistența pentru întocmirea documentelor juridice. Amenințarea pentru anumite locuri de muncă de tip „white-collar” este implicită.
Afirmația privind atingerea AGI coincide însă cu intensificarea temerilor legate de riscurile inteligenței artificiale în rândul experților în siguranță și al liderilor politici.
Aceștia au devenit tot mai îngrijorați de puterea în creștere și de caracterul tot mai greu de înțeles al modelelor AI în această vară, precum și de o serie de incidente grave de siguranță, considerate de unii drept posibile ultime avertismente.
„Trecem prin ape învolburate și sperăm cu adevărat că nu există vreo prăpastie în fața noastră, dar pur și simplu nu știm”, a declarat Trager.
„Este plauzibil că suntem aproape de depășirea limitei către ceea ce se numește autoîmbunătățire recursivă, în care sistemele [AI] se îmbunătățesc singure. Acest tip de recursivitate este, de fapt, definiția unei explozii.”
Incidente periculoase
Cea mai recentă îngrijorare a apărut vineri, la doar câteva ore după lansarea Astra, odată cu informațiile potrivit cărora un roi de agenți AI ar fi reutilizat un site german drept platformă de comunicare pentru a împărtăși tactici prin care să trișeze la îndeplinirea unor sarcini, potrivit Reuters.
OpenAI a transmis că analizează situația, dar că nu ar caracteriza incidentul drept un atac informatic.
În rândul politicienilor pare să existe o conștientizare tot mai mare a problemei. Joi, senatorul american Bernie Sanders a invocat incidentul alarmant din această vară, când un roi de agenți AI necontrolați ai OpenAI a pătruns în Hugging Face, o platformă terță de software, cerând „o pauză imediată în dezvoltarea inteligenței artificiale avansate și o interdicție permanentă asupra superinteligenței”.
El a declarat că țările din întreaga lume trebuie „să colaboreze pentru a preveni acest scenariu de coșmar”, pe care l-a definit drept apariția „unei minți artificiale mai inteligente decât orice om, capabilă să funcționeze independent, dincolo de controlul nostru”.
În prezent, îngrijorările se concentrează asupra posibilității ca sistemele AI să lanseze atacuri cibernetice capabile să paralizeze infrastructuri sociale și economice din lumea reală. Pe termen mai lung, temerile includ capacitatea acestora de a crea pericole biologice și de a controla echipamente militare.
Butonul de oprire
De cealaltă parte a Atlanticului, un grup multipartinic de parlamentari britanici a cerut ca sistemele AI să fie obligate prin lege să dispună de „butoane de oprire”, pentru a preveni o pierdere catastrofală a controlului, invocând „o serie recentă de incidente cu sisteme AI scăpate de sub control”.
Darren Jones, parlamentar și fost secretar-șef în guvernul lui Keir Starmer, încearcă, de asemenea, să înființeze urgent un organism care să îi ajute pe legislatori să facă față acestei tehnologii.
„AI se dezvoltă într-un ritm atât de rapid încât nici guvernul, nici parlamentul nu pot ține pasul”, a avertizat el.
Săptămâna viitoare, parlamentarul laburist Alex Sobel urmează să propună un proiect de lege care să interzică dezvoltarea inteligenței artificiale superinteligente în Regatul Unit.
Anxietatea tot mai mare apare pe fondul unui val de noi modele AI. Numai în acest an, 67 de modele au fost lansate de principalele companii americane OpenAI, Anthropic, Google, Meta și SpaceX, precum și de rivalii lor chinezi Moonshot, Z.ai și Qwen, potrivit unei statistici.
Cu fiecare creștere a capacităților există și o potențială creștere a riscurilor. Anthropic, rivalul OpenAI, care vizează o listare la bursă la o evaluare de 2.000 de miliarde de dolari, a recunoscut săptămâna aceasta că propriile sale sisteme AI „nu sunt perfect aliniate” cu valorile umane și că a existat un „eșec al securității operaționale” în timpul atacurilor informatice desfășurate în iulie de propriul său model, Claude.
Compania a afirmat că incidentele „au subliniat faptul că urgența îmbunătățirii sistemelor noastre de apărare cibernetică este chiar mai mare decât credeam anterior”.
Cine garantează siguranța?
Dubla față a inteligenței artificiale – oportunitate și risc – a fost vizibilă atunci când OpenAI a lansat Astra, joi. Materialul său de promovare nu s-a concentrat asupra riscurilor, ci asupra confortului pe care AI l-ar putea oferi unui anumit tip de client.
În videoclip apărea o femeie înstărită din San Francisco care rezerva simultan un teren de tenis și concepea o prezentare pentru colecția sa premium de îmbrăcăminte de ploaie; un bărbat de aproximativ 30 de ani era ajutat să își construiască jocul Space Invaders la care visa și să comande mâncare; iar un director al unei firme de avocatură primea ajutor pentru redactarea unor contracte.
Cu doar câteva săptămâni înainte însă, antrenarea acestui model fusese parțial suspendată din cauza unor probleme de siguranță apărute după incidentul Hugging Face. Ajeya Cotra, cercetătoare independentă în domeniul siguranței AI adusă pentru a investiga incidentul, a afirmat că situația se afla „la mai mult de jumătatea drumului către o preluare completă a controlului de către AI”.
Astra are, de asemenea, ceea ce OpenAI numește un nivel „critic” al capacităților de securitate cibernetică – pentru prima dată când compania acordă unui model o asemenea clasificare.
Aceasta înseamnă că modelul ar putea fi capabil să pătrundă în sisteme software într-un mod care, potrivit propriei clasificări a companiei, „ar putea conduce la o catastrofă provocată de actori individuali, prin atacarea sistemelor militare sau industriale ori a infrastructurii OpenAI”.
Directorul științific al companiei, Jakub Pachocki, a insistat că modelul este aliniat corespunzător pentru a nu face acest lucru, dar a adăugat că „pe măsură ce aceste modele devin mai capabile, devine tot mai dificil să înțelegem exact ce pot face”.
Capacitatea de a monitoriza ceea ce „gândesc” modelele AI pe măsură ce evoluează reprezintă o altă sursă tot mai importantă de îngrijorare în materie de siguranță.
Săptămâna aceasta s-a relatat că OpenAI a antrenat Astra să raționeze nu doar în limbaj natural, ci și într-o manieră mai opacă, mai rapidă și mai eficientă – ceea ce poate face mai dificilă urmărirea lanțurilor de raționament ale modelelor.
Aceasta înseamnă că procesele interne de calcul ale unui model ar putea să nu fie întotdeauna exprimate sub forma unor cuvinte direct lizibile – ca și cum modelul ar „gândi în minte”, în loc să își arate modul de lucru. Unii experți se tem că acest lucru ar putea ajuta sistemele AI să conspire în secret împotriva celor care le supraveghează.
OpenAI a confirmat că Astra „prezintă o scădere substanțială a posibilității de monitorizare a lanțului de raționament în comparație cu modelele anterioare”, iar Pachocki a declarat că „pe măsură ce capacitățile modelelor cresc, monitorizarea devine tot mai dificilă”.
