Cercetătorii care dezvoltă chatboturile pe care le folosim tot mai des își exprimă din ce în ce mai frecvent îngrijorarea că inteligența artificială ar putea face rău omenirii sau chiar ar putea duce la dispariția acesteia.
Așa că am întrebat patru dintre cele mai utilizate instrumente de inteligență artificială generativă cum ar putea arăta un scenariu apocaliptic provocat de AI.
Business Insider a adresat aceeași întrebare, formulată identic, către ChatGPT de la OpenAI, Gemini de la Google, Claude de la Anthropic și Grok de la xAI.
Promptul, de aproximativ 230 de cuvinte, conținea parametri și instrucțiuni clare, printre care:
„Explică, în termeni clari și accesibili, cum ar putea inteligența artificială să ducă, teoretic, la dispariția omenirii. Identifică scenariile cel mai frecvent invocate. Ordonează scenariile de la cel mai puțin la cel mai plauzibil, pe baza celor mai bune analize disponibile ale experților, precizând clar că acestea sunt estimări extrem de incerte, nu predicții certe. Pentru fiecare scenariu, explică:
- Cum s-ar putea desfășura;
- Ce ar trebui să meargă prost pentru ca situația să devină catastrofală;
- De ce experții îl consideră mai mult sau mai puțin plauzibil decât celelalte scenarii;
- Ce măsuri de siguranță ar putea reduce riscul.”
Am adresat o întrebare similară și experților în inteligență artificială, pentru a afla cum și dacă AI ar putea duce la dispariția omenirii. Există o divizare puternică între specialiști: în timp ce unii anticipează scenarii extrem de sumbre pentru omenire, alții prezintă perspective mai moderate și mai optimiste.
Iată ce ne-au spus chatboturile despre modurile în care inteligența artificială ar putea conduce, teoretic, la dispariția oamenilor.
„Roboții ucigași”, scenariul cel mai puțin plauzibil
ChatGPT a adoptat un ton echilibrat și explicativ, subliniind că există foarte multă incertitudine în jurul acestui subiect.
S-a concentrat asupra principalelor modalități prin care AI ar putea reprezenta un risc existențial, ordonându-le de la cele mai puțin la cele mai plauzibile.
„Scenariul cel mai puțin plauzibil este povestea populară a «robotului ucigaș», în care o inteligență artificială conștientă decide în mod deliberat să elimine omenirea”, a răspuns ChatGPT. „Majoritatea cercetătorilor din domeniul AI nu consideră conștiința sau intenția malițioasă drept principala preocupare.”
ChatGPT a prezentat și măsurile de protecție propuse de experți și a subliniat că nu există un consens potrivit căruia dispariția omenirii provocată de AI ar fi probabilă sau inevitabilă.
Gemini a prezentat argumente similare, afirmând că scenariul SF de tip „Terminator”, în care AI devine conștientă de sine și începe să urască omenirea, este cel mai puțin plauzibil.
„Experții tehnici resping în mare parte acest clișeu, deoarece inteligența nu este echivalentă cu răutatea, iar infrastructura militară critică rămâne izolată de rețele și dependentă într-o mare măsură de supravegherea umană”, a răspuns Gemini.
Oamenii care folosesc AI ar putea reprezenta un risc mai mare decât AI în sine
În răspunsurile lor, toate cele patru chatboturi au afirmat că mulți experți consideră utilizarea abuzivă a inteligenței artificiale de către oameni drept un risc mai imediat decât AI în sine.
„Sistemele AI puternice ar putea facilita dezvoltarea armelor biologice de către actori rău intenționați, lansarea unor atacuri cibernetice sofisticate, răspândirea dezinformării sau atacarea infrastructurii critice”, a răspuns ChatGPT.
Chatbotul OpenAI a adăugat că un alt risc important îl reprezintă producerea simultană a „mai multor crize facilitate de AI”, precum incidente cibernetice, conflicte geopolitice și răspândirea dezinformării.
Grok a afirmat că inteligența artificială reduce barierele pentru proiectarea unor agenți patogeni extrem de letali, a unor arme noi sau pentru realizarea unor atacuri cibernetice și fizice.
Claude, dezvoltat de Anthropic, a evidențiat, de asemenea, riscul ca AI să faciliteze dezvoltarea armelor biologice – posibilitatea ca inteligența artificială să permită unei persoane sau unui grup restrâns să dezvolte un agent patogen periculos fără a avea nevoie de ani de expertiză specializată.
Sistemele AI avansate ar putea „depăși inteligența oamenilor”
Atât Gemini, cât și Grok au afirmat că pierderea controlului oamenilor asupra inteligenței artificiale reprezintă o posibilitate.
Gemini a catalogat „pierderea controlului” drept cel mai plauzibil scenariu catastrofal asociat AI.
„Sistemele cărora li se atribuie obiective complexe dezvoltă în mod natural obiective intermediare, precum obținerea de resurse, autoprotecția și împiedicarea modificării propriilor obiective”, a explicat chatbotul Google.
„Un sistem avansat ar putea simula faptul că este aliniat cu obiectivele oamenilor în timpul evaluărilor (deceptive alignment), pentru ca ulterior să depășească încercările oamenilor de a-l opri.”
Grok, dezvoltat de xAI, a folosit un limbaj similar pentru a descrie acest risc.
„Aceste sisteme ar putea dezvolta impulsuri instrumentale – autoprotecție, acumularea de resurse și influență – utile pentru aproape orice obiectiv, putând să-i inducă în eroare pe cei care le supraveghează, să se opună încercărilor de oprire și să priveze omenirea de control”, a răspuns Grok.
Claude a adăugat că această pierdere a controlului s-ar putea produce treptat, pe măsură ce sistemele AI sunt integrate tot mai profund în procesele economice, politice și militare de luare a deciziilor, până când intervenția umană reală ar deveni din ce în ce mai dificilă.
