Un cercetător în inteligență artificială care și-a dat demisia de la compania Anthropic a declarat că oamenii care lucrează la dezvoltarea acestei tehnologii sunt „cu adevărat speriați” de viteza progreselor și de ceea ce acestea ar putea însemna pentru omenire.
Jacob Coxon a vorbit sâmbătă, într-un interviu acordat jurnalistei BBC Laura Kuenssberg, despre postarea sa virală în care și-a anunțat demisia și și-a exprimat îngrijorarea cu privire la posibilitatea ca inteligența artificială să scape de sub control.
„Cred că, dacă nu încetinim ritmul actual al progresului, există o probabilitate mare ca noi toți să murim în viitorul apropiat”, a declarat el.
Demisia sa vine pe fondul îngrijorărilor tot mai mari privind siguranța AI, inclusiv din partea fostului său șef, CEO-ul Anthropic, Dario Amodei, care a susținut într-un eseu că dezvoltarea tehnologiei ar trebui încetinită.
Șefii a două companii rivale din domeniul inteligenței artificiale, Sam Altman de la OpenAI și Elon Musk de la xAI, au declarat, de asemenea, că sunt de acord cu propunerea lui Amodei privind încetinirea dezvoltării la nivelul întregii industrii, introducerea unor reglementări și monitorizarea independentă a dezvoltării modelelor AI.
Amodei a precizat că nu se pune problema opririi dezvoltării tehnologiei, însă riscurile asociate acesteia sunt „serioase”, iar companiile și guvernele trebuie să primească timpul necesar pentru a le gestiona.
Coxon, în vârstă de 27 de ani, care a lucrat la OpenAI înainte de a se alătura Anthropic, a salutat ideea unei încetiniri, dar a avertizat că aceasta ar trebui coordonată cu China pentru a evita „o cursă la scară internațională”.
„Oamenii care lucrează la aceste companii vorbesc cât se poate de serios atunci când cer reglementări, pentru că se simt prinși într-o cursă. Și sunt speriați de rezultatele acestei curse”, a declarat el în emisiunea „Sunday with Laura Kuenssberg”.
Cum ar arăta apocalipsă provocată de inteligența artificială
Potrivit lui Coxon, cea mai dificilă întrebare este cum ar arăta, concret, o apocalipsă provocată de inteligența artificială.
Unul dintre riscurile descrise de Amodei este apariția unui roi de boți care ar putea funcționa asemenea unui supercomputer și ar putea prelua controlul asupra internetului.
Coxon susține că un asemenea scenariu ar putea deveni realist în următoarele șase luni până la un an.
Ca reacție la plecarea lui Coxon, un purtător de cuvânt al Anthropic a declarat pentru BBC News: „Am fost întotdeauna transparenți în privința faptului că AI va aduce atât beneficii enorme, cât și riscuri fără precedent.”
„Pentru a gestiona aceste riscuri, continuăm să construim modele care dispun de unele dintre cele mai puternice măsuri de siguranță din industrie.”
Reprezentantul companiei a adăugat că Anthropic a fost unul dintre pionierii cercetării privind modul în care funcționează modelele AI.
Compania a fost prima care a publicat un cadru pentru reducerea riscurilor asociate dezvoltării acestora și își testează „agresiv” modelele, publicând rezultatele pentru a permite verificarea lor și pentru a preveni incidentele de „nealiniere a AI”.
„Această activitate este și motivul pentru care credem că lumea ar avea de câștigat dacă industria ar adopta o modalitate legală și verificabilă de a colabora pentru a controla ritmul în care lansăm modele puternice”, a transmis compania.
Păreri contrare
Unele persoane din industria AI au sugerat că declarațiile privind pericolele și puterea inteligenței artificiale ar putea avea drept scop alimentarea entuziasmului și a atenției în jurul tehnologiei. Alți critici susțin că Anthropic încearcă să impulsioneze introducerea unor reglementări care să limiteze concurența și să lase compania, alături de OpenAI, într-o poziție de duopol.
Potrivit informațiilor apărute în presă, Anthropic se pregătește pentru o posibilă ofertă publică inițială care ar putea stabili noi recorduri.
Și OpenAI era așteptată să facă același lucru, însă Altman a declarat vineri, într-un interviu pentru revista Fortune, că ar fi „un moment neinspirat” pentru o astfel de operațiune, „având în vedere tot ceea ce se întâmplă în privința siguranței”.
Opiniile lui Coxon au fost contestate și de CEO-ul platformei AI Hugging Face, Clement Delangue.
„Îmi pare rău, dar să-l întrebi pe Jacob despre riscul ca AI să provoace extincția este ca și cum l-ai întreba pe instalatorul aparatului de aer condiționat despre schimbările climatice”, a scris acesta pe X. „Nu spun că opinia lui este neapărat neinteresantă sau greșită, dar trebuie să păstrăm lucrurile în perspectivă.”
După publicarea eseului lui Amodei, sâmbătă, Delangue s-a oferit însă să contribuie la găsirea unor soluții dintre cele propuse de șeful Anthropic.
CEO-ul Nvidia, Jensen Huang, a discutat, de asemenea, despre afirmațiile lui Coxon la o conferință organizată săptămâna trecută de banca de investiții Goldman Sachs, potrivit mai multor persoane prezente, citate de BBC. Acestea au declarat că Huang a respins afirmațiile lui Coxon, considerându-le neadevărate.
