Ar putea negocia inteligența artificială sfârșitul unui război? Ce spune un analist despre viitorul diplomației

Redăm argumentele lui Mark Galeotti dintr-un editorial publicat în „The Spectator”.

***

Știm de mult timp că computerele ne pot bate la șah, așa că ce mai contează dacă au început să ne bată la jocuri mai verbale și mai colaborative, cum ar fi diplomația? Cu siguranță asta sugerează un viitor în care inteligența artificială ar putea începe să joace un rol din ce în ce mai important în întregul spectru al afacerilor internaționale, de la redactarea comunicatelor la soluționarea disputelor și analizarea rapoartelor de informații.

Diplomacy, un joc de societate strategic care a fost unul dintre jocurile preferate atât de Henry Kissinger, cât și de John F. Kennedy, este plasat în Europa înainte de primul război mondial. Obiectivul este de a obține controlul a cel puțin jumătate din tablă prin negocierea alianțelor prin intermediul unor conversații private de la unul la unul. Nu există acorduri obligatorii, astfel încât jucătorii își pot denatura planurile și pot face înțelegeri duble. Pentru a juca, ca să nu mai vorbim de victorie, este nevoie de capacitatea de a înțelege motivația celorlalți jucători, dar și de a putea negocia cu aceștia într-un mod natural și flexibil, obținând încrederea lor, pentru a o trăda la momentul potrivit. Este un joc de viclenie, nu de mecanică.

Așadar, dezvoltarea la Meta a lui Mark Zuckerberg a lui Cicero, un computer capabil să joace diplomație mai bine decât 90% dintre jucătorii umani, demonstrează că computerele pot învăța să vorbească, să înțeleagă și să facă scheme ca noi toți. Desigur, Diplomacy este doar un joc, dar folosește abilitățile de bază necesare pentru o diplomație reală, precum și fratele său mai mic și mai puțin cunoscut, inteligența. Acesta sugerează că inteligența artificială, care este deja prezentată ca fiind următorul mare pas în lupta împotriva războiului, ar putea juca, de asemenea, un rol în procesul de pacificare.

Sistemele de inteligență artificială simulează procesele de învățare, de rezolvare a problemelor și de luare a deciziilor care au fost până acum apanajul inteligenței umane. Acestea sunt deja utilizate pe scară largă, de la platformele de tranzacționare la bursă de înaltă frecvență la sistemele de recunoaștere a vorbirii de pe telefoanele noastre. Dar una este să calculezi foarte repede numere mari și alta este să poți să te gândești, să te implici și să înțelegi intențiile umane.

Compania OpenAI a prezentat recent sistemul ChatGPT – un computer programat să vorbească ca un om. Îl puteți găsi online și îi puteți cere să redacteze orice, de la un eseu de istorie până la o cerere în căsătorie. Pentru o vreme, a fost un fenomen, jurnaliștii susținând că ar putea chiar să înlocuiască jurnaliștii. Dar limitele chatbotului au devenit clare după o vreme, cum ar fi o uniformitate pietonală a răspunsurilor sale. Totuși, ce a avut de spus ChatGPT atunci când a fost întrebat dacă AI ar putea revoluționa diplomația internațională?

Toate răspunsurile sale se învârteau în jurul îmbunătățirii analizei și a procesului decizional: „Algoritmii de inteligență artificială ar putea fi utilizați pentru a analiza cantități mari de date și pentru a oferi perspective și recomandări cu privire la probleme diplomatice complexe”, a răspuns ChatGPT. „Acest lucru ar putea ajuta diplomații să ia decizii mai informate și mai strategice și să își îmbunătățească capacitatea de a naviga în situații internaționale complexe”.

Acesta este, în esență, unul dintre cele două domenii principale în care – pentru moment – IA începe să fie utilizată. A devenit normal ca mașinile să preia munca plictisitoare și repetitivă; a început cu ștanțarea componentelor identice, apoi cu asamblarea mașinilor. Deci, de ce să nu automatizăm o parte din mesajele standard care fac parte din diplomație? Condoleanțe și felicitări oficiale, discursuri la inaugurarea unui centru cultural aici sau la o absolvire acolo: toate acestea trebuie să fie destul de standard, dar suficient de personalizate pentru a nu fi insultătoare. Acesta este exact genul de lucruri la care inteligența artificială excelează. Un diplomat britanic din Washington mi-a vorbit cu entuziasm despre ChatGPT, spunând: „Cât timp mi-ar fi putut economisi în cariera mea, găsind moduri ușor diferite de a spune același lucru…”.

Analiștii presați, care abia reușesc să facă față cantității uriașe de informații pe care le au la dispoziție, pot, de asemenea, să folosească IA pentru a căuta corelații, pentru a vâna anomaliile care merită atenția oamenilor sau chiar pentru a face backtrack la surse. La sfârșitul anilor 1990, am fost pentru scurt timp atașat la ceea ce era pe atunci departamentul de analiză a cercetării din cadrul Foreign and Commonwealth Office. Puteam să-mi petrec toată ziua citind totul, de la articole din mass-media la materiale de informații, fără să scriu un cuvânt sau să dau un singur briefing, și totuși nu puteam să prind din urmă tot ce era disponibil. Situația în lumea saturată de date de astăzi este și mai extremă.

Niciodată nu au fost mai multe de digerat. Ca indivizi, fie că ne place sau nu, trăim într-o societate de supraveghere. Telefoanele inteligente ne localizează cu precizie locațiile, tranzacțiile cu carduri bancare ne dezvăluie indulgențele, iar camerele de luat vederi ne urmăresc mișcările. Niciodată nu a fost mai greu pentru cineva să ascundă ceva, iar acest lucru este valabil și pentru guverne. Gândiți-vă la modul în care detectivii open-source de la Bellingcat au folosit bazele de date rusești care au făcut obiectul unor scurgeri de informații pentru a-i identifica pe potențialii asasini care au încercat să-l otrăvească pe Serghei Skripal în Salisbury. Provocarea lor nu a fost atât de mult obținerea de informații, cât procesarea acestora. Inteligența artificială are viteza neobosită a unui computer, dar și capacitatea de a învăța genul de salturi analitice pe care noi le-am numi intuiție umană. În fața privirii lor cibernetice, chiar și statele pot deveni transparente.

Deja, IA intră în vârful picioarelor în lumea inteligenței. MI5, de exemplu, colaborează în ultimii cinci ani cu Institutul Alan Turing (numit după cel care a fost, de fapt, părintele conceptului inițial de inteligență artificială) la proiecte nespecificate. MI5 a declarat că Regatul Unit se confruntă cu o „gamă de amenințări, cu indicii ascunse în date din ce în ce mai fragmentate”, așa că cere mașinilor de inteligență artificială să ajute la căutarea acestor indicii. Acest lucru va include probabil utilizarea analizei de date mari și a sistemelor de recunoaștere vocală pentru a urmări suspecți de terorism și spioni străini.

În paginile acestei reviste, Henry Kissinger însuși a evocat spectrul „armelor autonome… capabile să definească, să evalueze și să țintească propriile amenințări percepute și, prin urmare, să fie în măsură să pornească propriul război”. „Cum pot liderii să exercite controlul”, a întrebat el, „atunci când computerele prescriu instrucțiuni strategice la o scară și într-un mod care limitează și amenință în mod inerent contribuția umană?” Cu toate acestea, merită remarcat faptul că amenințarea armelor autonome este încă foarte limitată, în mare parte limitată la apărarea antirachetă concepută pentru a doborî ținte care se deplasează atât de repede încât prezența unui om „în buclă” le-ar încetini prea mult. O altă utilizare este cea a „munițiilor care zăbovesc”, care pot urmări o țintă ce îndeplinește criterii preprogramate. În ambele cazuri, un om va trebui să pornească sistemul sau să lanseze muniția.

Atunci când robotul ChatGPT este întrebat despre IA și diplomație, acesta încheie cu o frază importantă: „Este important să se ia în considerare cu atenție potențialele implicații etice și societale ale utilizării IA în acest context”. Există cu siguranță o preocupare valabilă cu privire la măsura în care introducerea IA în domenii cu totul neclare care implică interacțiunea umană – cum ar fi diplomația și politica – poate începe să denatureze procesul și să lipsească oamenii de putere.

Prin urmare, ideea este că IA ar putea deveni consilier, sprijinindu-i, dar nu înlocuindu-i pe partenerii lor umani. În urmă cu cinci ani, la o reuniune a Organizației Mondiale a Comerțului, a fost prezentat un „consilier comercial cognitiv”, un sistem conceput pentru a oferi răspunsuri rapide la întrebări complexe legate de complexitatea comerțului mondial. Cu alte cuvinte, o sarcină care, altfel, necesită timp și o serie de experți. De asemenea, Ministerul de Externe al Regatului Unit a adoptat instrumente de inteligență artificială pentru a monitoriza datele publice și a semnala potențiale crize, în speranța că acestea pot fi prevenite (sau cel puțin pregătite). Ministerul german de Externe a urmat exemplul.

Toate bune și frumoase, dar orice student la științe politice – sau privitor al serialului Yes, Prime Minister – știe că adevărata putere se află în cei care formulează alegerile. Ar putea oamenii să devină dependenți de consilierii lor de inteligență artificială? Calculatoarele pot fi fenomenal de inteligente și uimitor de stupide. Capacitatea lor de a aduna, digera și evalua rapid o gamă imensă de date este contrabalansată de prejudecățile și presupunerile încorporate în algoritmii pe care îi folosesc pentru a interpreta lumea și a învăța. Aceștia pot fi defectuoși de la început sau chiar manipulați în mod deliberat.

În urmă cu șapte ani, Microsoft a prezentat Tay, un chatbot Twitter cu inteligență artificială care a învățat tactici de conversație și vocabular nou prin interacțiunile cu utilizatorii. Imediat a devenit un adevărat sport să îl faci să twitteze termeni și opinii ofensatoare și, după doar 16 ore, Tay a fost retras. Nimeni nu se așteaptă ca inteligența artificială guvernamentală să fie la fel de vulnerabilă, dar într-o perioadă în care hackingul a devenit un alt instrument al rivalității dintre marile puteri, ce s-ar putea întâmpla dacă agențiile de informații chineze sau rusești ar putea modifica algoritmii?

Nu suntem nici pe departe în era motoarelor diplomatice autonome cu inteligență artificială care scriu tratate și emit demersuri din proprie inițiativă – și nici nu ne-am dori acest lucru. Ca și în cazul IA militare, cu excepția unor circumstanțe foarte specifice, în viitorul apropiat vom dori ca oamenii să fie prezenți în buclă pentru a stabili parametrii politicii și pentru a se opune prin veto sugestiilor mai puțin atrăgătoare ale sistemelor.

Cu toate acestea, pe măsură ce IA încep să treacă așa-numitul test Turing – capabile să comunice într-un mod care nu poate fi distins în mod fiabil de un om – rolul lor în diplomație și politică va crește în mod inevitabil. Ca și în cazul calculului cuantic, are loc o cursă a înarmării cu IA, în timp ce țările încearcă să fure startul și să schimbe echilibrul global al puterii.

După cum a spus Vladimir Putin în mod grandilocvent în 2017: „Inteligența artificială este viitorul, nu doar al Rusiei, ci al întregii omeniri… oricine va deveni lider în această sferă va deveni conducătorul lumii”. Poate că nu (și, în orice caz, nu pare că va fi Rusia), dar dacă acum computerele îi întrec pe oameni la diplomație, succesul lor sugerează că ne apropiem de o nouă etapă. În viitor, nu vor fi doar „roboții de măcelărie” autonomi și alte aplicații violente similare care vor demonstra puterea inteligenței artificiale, ci și asistenții cibernetici ai diplomaților, analiștii, redactorii și ofițerii de protocol. De ceva timp, roboții ne ajută să luptăm în războaie. Următoarea provocare ar putea fi să ne ajute să le evităm.