Pe măsură ce inteligența artificială schimbă modul în care lumea colectează și procesează informații, unii critici susțin că aceasta perpetuează stereotipuri și șterge nuanțele culturale ale populațiilor indigene și ale comunităților de culoare, scrie Axios.
Majoritatea modelelor AI de largă utilizare sunt antrenate pe lucrările unor autori occidentali – în special bărbați albi – și tind să reproducă valorile, stilurile de scriere, perspectivele și prejudecățile acestora.
- Unii critici afirmă că această colectare masivă de date reprezintă o nouă formă de colonialism, în care extragerea informațiilor înlocuiește confiscarea teritoriilor din epoca imperială, iar companiile de inteligență artificială – nu statele coloniale – sunt cele care obțin profituri de pe urma grupurilor marginalizate.
- Datele provenite din aceste comunități sunt adesea colectate fără consimțământul lor și fără verificarea exactității informațiilor.
Ce spun experții
„Colonialismul este prezentat mereu ca ceva ce s-a întâmplat în trecut… multe țări și-au obținut independența, iar manualele spun apoi că colonialismul s-a încheiat”, a declarat pentru Axios Julian Posada, profesor la Universitatea Yale, care studiază relația dintre munca umană și producția de date.
- Posada consideră că forme moderne de colonialism există și astăzi, însă adesea nu sunt recunoscute ca atare.
Majoritatea modelelor lingvistice de mari dimensiuni sunt dezvoltate în societăți considerate „WEIRD” (occidentale, educate, industrializate, bogate și democratice) și sunt antrenate pe date extrase din rețele sociale, site-uri web, arhive de presă și materiale digitalizate provenite în principal din America de Nord și Europa.
- Aceste surse au determinat modelele AI să inventeze uneori detalii bazate pe presupuneri occidentale despre tradiții și valori culturale, iar aceste erori persistă chiar dacă marile companii tehnologice încearcă să introducă perspective și surse mai diverse.
Exemplu concret: Aditya Vashistha, profesor la Universitatea Cornell, spune că modelele AI descriu frecvent toată bucătăria indiană drept „bogată, aromată și picantă”, deși realitatea este mult mai diversă.
- „Există numeroase bucătării regionale care diferă prin tipurile de condimente folosite și prin cantitățile în care acestea sunt utilizate”, explică profesorul.
Privind imaginea de ansamblu: Preluarea datelor în sine este „un act profund colonial”, afirmă Nick Couldry, coautor al cărții Data Grab: The New Colonialism of Big Tech and How to Fight Back.
- „A spune că informațiile sunt pur și simplu acolo și pot fi luate reprezintă exact logica colonialismului.”
- „Nu doar că le putem lua, ci considerăm că avem dreptul să le luăm și să extragem din ele cât mai mult profit.”
Presiunea concurenței agravează problema
Michael Sherbert, membru al comunității indigene Algonquin din Pikwàkanagàn First Nation și cercetător la Queen’s University, afirmă că goana marilor companii tehnologice după profit și viteză amplifică fenomenul.
- „Multe companii americane de AI încearcă să depășească firmele chineze. Discuțiile aprofundate cu comunitățile indigene necesită timp și resurse, iar companiile se tem că astfel ar putea rămâne în urmă.”
- Brian Ritchie, fondatorul kama.ai și membru al Chapleau Cree First Nation din Ontario, spune că a participat la numeroase summituri cu lideri indigeni, însă nu a observat exemple în care populațiile indigene să fi fost implicate direct în antrenarea modelelor AI.
Un aspect important: Multe tradiții indigene sunt transmise oral și nu prin documente scrise, ceea ce înseamnă că modelele AI nu au acces la ele. În plus, anumite cunoștințe sunt păstrate intenționat în interiorul comunităților și nu sunt destinate publicului larg.
Concluzia: „Problema nu este doar dezinformarea”, spune Sherbert.
- „Răspunsurile oferite de aceste modele influențează tot mai mult modul în care oamenii își înțeleg propria cultură, istorie, identitate și chiar ceea ce consideră a fi adevărat și legitim.”
