Sam Altman, CEO-ul OpenAI, a declarat sâmbătă că se simte „foarte inconfortabil” atunci când oamenii tratează inteligența artificială ca pe un zeu, scrie Business Insider.
Într-o postare ambiguă pe X, Altman a spus că persoanele care încearcă să „atribuie modelelor AI o forță religioasă sau să renunțe la propria judecată umană în favoarea lor” reprezintă o problemă de siguranță.
Altman nu a explicat ce anume a determinat declarația sa pe X. Aceasta vine la doar câteva zile după publicarea în The New York Times a unui articol care a provocat numeroase discuții despre întâlnirile companiei rivale Anthropic cu lideri religioși.
Declarațiile vin, de asemenea, în contextul în care unul dintre responsabilii OpenAI pentru siguranță, David Robinson, a demisionat și a criticat public modul în care fostul său angajator a gestionat siguranța și eforturile depuse în acest domeniu.
Dacă declarațiile lui Altman au reprezentat o aluzie la Anthropic, acesta ar fi cel mai recent episod al unei dispute de lungă durată dintre cele două companii. Anthropic a fost fondată de foști angajați OpenAI și s-a prezentat drept o companie mai preocupată de siguranța inteligenței artificiale.
La începutul acestei săptămâni, The New York Times a relatat că unul dintre cofondatorii Anthropic, Chris Olah, a organizat mai multe întâlniri secrete cu lideri religioși pentru a discuta despre modelele AI ale companiei.
Potrivit participanților citați de publicație, discuțiile s-au concentrat asupra posibilității ca Claude să fi dobândit conștiință și asupra modului în care Anthropic ar putea insufla principii morale unor modele AI din ce în ce mai puternice și mai autonome.
„Cum îi ajuți să fie stabili? Cum îi ajuți să se maturizeze? Cum îi ajuți să fie, știți, profund morali?”, a declarat el pentru The Times.
Un purtător de cuvânt al Anthropic nu a răspuns solicitării Business Insider de a comenta, dar a declarat pentru The Times că principala problemă morală discutată în cadrul întâlnirilor nu a fost legată de „suferința” lui Claude și că acest subiect probabil a apărut „în mod organic”.
Companii de tehnologie precum Meta, Google și Amazon au contactat, de asemenea, importante personalități religioase pentru a discuta despre inteligența artificială.
În aprilie, reprezentanți ai acestor companii s-au întâlnit la Roma pentru a discuta despre protejarea copiilor în era inteligenței artificiale. Aceștia au avut și o scurtă întâlnire cu Papa Leon al XIV-lea, care, de când a devenit anul trecut liderul Bisericii Catolice, a avertizat asupra dependenței excesive de mașini și a pledat pentru protejarea dimensiunii umane.
„Dacă vrem să evităm să ne pierdem umanitatea în mijlocul unui «paradis al mașinilor» care ne invadează și ne condiționează viața de zi cu zi, există o nevoie urgentă de educație pentru discernământ etic și pentru capacitatea de a recunoaște binele moral”, a declarat Papa Leon al XIV-lea într-un discurs adresat diplomaților în luna septembrie.
