Profesor emerit de economie politică, despre inteligența artificială: Ne îndreptăm spre o distopie

Redăm argumentele lui Robert Skidelsky, profesor emerit de economie politică la Universitatea Warwick.

***

Investitorii oferă miliarde de dolari startup-urilor din domeniul inteligenței artificiale, iar frenezia suscitată de IA generativă începe să se asemene unor himere economice precum mania lalelelor olandeze din anii 1630 și South Sea Company de la începutul secolului al XVIII-lea. Și, la fel ca acele momente istorice, explozia IA pare direcțioantă spre un colaps inevitabil. În loc să creeze noi resurse, amenință să ne afunde în datorii.

Actualmente, explozia IA este alimentată de convingerea că modelele lingvistice mari precum GTP-4, lansat recent de OpenAI, vor fi capabile să producă conținut identic celui creat de oameni. Investitorii pariază că sistemele avansate de IA generativă vor crea fără efort text, muzică, imagini și videoclipuri în orice stil imaginabil, ca răspuns la indicațiile simple ale utilizatorului.

Cu toate acestea, pe fondul valului de entuziasm față de IA generativă, există tot mai multe îngrijorări cu privire la impactul său potențial asupra pieței forței de muncă. Într-un raport întocmit recent de Goldman Sachs despre efectele economice „potențial colosale” produse de IA, se estimează că aproximativ 300 de  milioane de joburi riscă să fie automatizate, inclusiv cele care necesită forțe de muncă calificată și cele cu guler alb.

Cert este faptul că multe dintre promisiunile și pericolele asociate răspândirii IA încă sunt iminente. Noi încă nu am reușit să creăm mașini care au nivelul de conștiință de sine și capacitate de a lua decizii informate care corespund percepției asupra inteligenței artificiale a majorității oamenilor. Acesta este motivul pentru care experții în tehnologie pledează pentru încorporarea „principiilor morale” în sistemele de IA înainte ca acestea să depășească abilitățile umane.

Dar adevăratul pericol nu rezidă în faptul că IA generativă va deveni autonomă, după cum preconizează mulți lideri din domeniul tech, ci în faptul că va fi folosită pentru subminarea autonomiei umane. Atât sistemele de IA „narrow”, cât și cele „general purpose”, care pot îndeplini sarcini mult mai eficient decât oamenii, reprezintă o oportunitate remarcabilă pentru guvernele și corporațiile care își doresc să exercite mai mult control asupra comportamentului uman.

După cum menționa Shoshana Zuboff în cartea ei „Era capitalismului de supraveghere”, apărută în 2019, evoluția tehnologiilor digitale poate duce la apariția „unei noi ordini economice care revendică experiența umană ca material gratuit, rudimentar, pentru practici comerciale ascunse de extragere, predicție și vânzare.” După cum a remarcat ea, relația tot mai simbiotică dintre guvern și supravegherea sectorului privat este rezultatul parțial al unui sistem de securitate națională „mobilizat de atentatele 9/11” și de intenția de a dezvolta și reapropria noile tehnologii pentru a căpăta o „cunoașterea deplină” a comportamentelor și vieților private ale oamenilor.

Palantir, compania de analizare a datelor, co-fondată de Peter Thiel, un investitor miliardar, este un exemplu elocvent. Thiel, un donator proeminent al partidului Republican, a convins aparent administrația fostului președinte Donald Trump să-i ofere companiei Palantir contracte de muncă lucrative pentru dezvoltarea sistemelor de IA destinate utilizărilor în scopuri militare. În schimb, Palantir trebuia să presteze servicii de intelligence pentru guvernul SUA și alte agenții de spionaj din lume.

În „O călătorie spre Laputa”, a treia parte din „Aventurile lui Guliver”, un roman scris de Jonathan Swift, căpitanul Guliver ajunge pe o insulă plutitoare populată de savanți și filozofi care au elaborat metode ingenioase de a detecta conspirații. Una dintre aceste metode implică examinarea „alimentației tuturor persoanelor suspecte”, precum și examinarea atentă a „excrementelor lor”, inclusiv „culoarea, aroma, gustul și consistența”, precum și etapele digestiei prin care au trecut. Deși sistemul modern de supraveghere al statului se focusează pe inspectarea email-urilor, nu a funcțiilor corpului, el are un obiectiv similar: demascarea comploturilor și conspirațiilor împotriva „ordinii publice” sau „securității naționale” prin sondarea minților oamenilor.

Însă măsura în care guvernele pot spiona cetățenii lor nu depinde doar de tehnologiile disponibile, dar și de controalele și echilibrele oferite de sistemul politic. Acesta este motivul pentru care China, a cărui sistem de credite sociale este centrat în totaliate pe menținerea stabilității politice și a „valorilor socialiste”, a putut pune bazele celui mai invaziv sistem electronic de supraveghere de stat. De asemenea, asta contribuie la elucidarea ipostazierii entuziaste a Chinei în calitate de lider mondial în reglementarea IA generative.

În schimb, reglementarea Uniunii Europene este centrată pe drepturile fundamentale ale omului, cum ar fi dreptul la demnitate personală, dreptul la viață privată, dreptul la nediscriminare și libertatea de exprimare. Structurile lor sunt centrate pe viața privată, protecția consumatorului, siguranța produselor și moderarea conținutului. În timp ce Statele Unite mizează pe competiție pentru protecția drepturilor consumatorilor, legea inteligenței artificiale a UE, car va fi promulgată anul acesta, interzice în mod explicit utilizarea datelor generate de utilizatori pentru actualizarea sistemului de credite sociale.

Metoda de abordare occidentală centrată pe drepturile și libertățile omului, pentru reglementarea IA, pune accentul pe protejarea indivizilor de pericole, contrastând izbitor cu modelul autoritarist al Chinei. Dar există un pericol clar și actual că aceste două modele se vor suprapune. Această amenințare iminentă este cauzată de conflictul inerent dintre angajamentul occidental față de drepturile omului și imperativele securității naționale, care tind să fie mai prioritare decât libertățile civile, în perioadele de amplificare a tensiunilor geopolitice. De exemplu, versiunea actuală a Legii Inteligenței Artificiale oferă Comisiei Europene puterea de a interzice practici precum poliția predictivă, dar cu diferite excepții pentru securitatea națională, apărare și practici militare.

În contextul competiției acerbe pentru supremație tehnologică, abilitatea guvernelor de a dezvolta și utiliza tehnologii intruzive reprezintă o amenințare atât la adresa companiilor și regimurilor politice, cât și a unor țări întregi. Această dinamică nocivă se află în cotrast izbitor cu preconizările optimiste că IA va facilita implementarea unui „spectru larg de beneficii economice și sociale, în toate industriile și activitățile sociale.”

Din păcate, erodarea graduală a puterilor democratice și a limitelor constituționale aplicate acțiunilor guvernamentale din cadrul democrațiilor liberale occidentale avantajează autocrațiile. După cum a remarcat profetic George Orwell, un război interminabil, sau chiar iluzia acestuia, creează conjunctura ideală pentru instaurarea unei distopii tehnologice.