Informația, inteligența artificială și oamenii

Yuval Noah Harari este cu siguranță un istoric charismatic, cu o capacitate de analiză uluitoare, iar demersul logic aproape fără fisuri l-a ajutat să sintetizeze un volum uriaș de informații, ceea ce cititorii români au putut remarca încă de la primele volume traduse și publicate de Editura Polirom, în colecția Historia, coordonată de Mihai-Răzvan Ungureanu. Cel mai recent volum al său, Nexus: scurtă istorie a rețelelor informaționale din epoca de piatră până la IA, a fost așteptat cu nerăbdare peste tot în lume. În 2024 a fost tipărit și tradus în numeroase limbi, inclusiv în limba română, ajungând rapid un best seller. Personal eram circumspectă: știu că nu e ușor să fii sub lupa oamenilor de știință, dar și a publicului larg; ce poți spune nou, atractiv, fără să te repeți sau să utilizezi clișee supărătoare, astfel încât să te bucuri de atenția (nu neapărat aprecierea) confraților într-ale științei, și să stârnești suficientă curiozitate în rândul cititorilor, încât aceștia să îți cumpere volumul (nu tocmai ieftin). Ediția în limba română are aceeași copertă cu cea în limba engleză și aceeași calitate deosebită a traducerii, așa cum ne-au obișnuit cei de la Editura Polirom. Ioana Aneci și Adrian Șerban au făcut față cu brio termenilor relativ noi, cu care încă nu suntem prea familiarizați, și au gestionat cu succes un aparat critic extrem de dens. La câteva zile de la apariția ediției în limba engleză, Yuval Noah Harari a fost invitatul celebrei Christiane Amanpour, ocazie cu care explica ideea care a generat Nexus: rețelele informaționale pot fi distructive atât timp cât nu știm să le gestionăm, iar cea mai recentă invenție în domeniul comunicației – inteligența artificială (IA) – este și cea mai periculoasă pentru că reușește să fie autonomă și, în consecință, poate crea. Exemplele pe care le analizează Harari în a doua parte a volumului sunt elocvente.

Dacă până la Primul Război Mondial cel care deținea aur și/sau petrol avea toate șansele să domine lumea, iată că aproape pe nesimțite, după Al Doilea Război Mondial, cel care deține informația/iile are cele mai mari șanse să domine lumea. Fragilitatea democrațiilor postbelice se explică și prin incapacitatea de a gestiona un volum uriaș de informații, pe când totalitarismul comunist postbelic și dictaturile au reușit să domine cel puțin câțiva zeci de ani o parte semnificativă a lumii prin suprimarea accesului la informație al oamenilor și prin menținerea unui singur nod informațional, controlat, evident, de aparatul de stat. Astfel se înțelege de ce propaganda și cenzura au fost arme atât de eficiente în mâna lui Hitler, Stalin, dar și a dictatorilor postbelici. În acest context, cititorii români vor fi oarecum surprinși de exemplele aduse de Harari. Pentru a-și susține ipoteza de lucru, istoricul israelian a detaliat modul de funcționare al Securității pe timpul regimului Ceaușescu. Dar Harari aduce și alte informații prețioase despre legislația antisemită adoptată de guvernul Octavian Goga, reprezentant al unui partid de extremă dreapta, care a servit perfect intereselor lui Carol al II – lea. Yuval Harari aduce astfel un omagiu bunicului său matern, născut la Cernăuți, dar aduce în prim planul cititorilor din lumea largă represiunea sistemelor comuniste din Europa de Est, despre care, în general, s-a vorbit prea puțin.

Istoricul israelian face o critică pertinentă concepției naive asupra informației; aceasta a permis breșe, fisuri de care au profitat mai toții liderii autoritari încă din antichitate:

„Concepția naivă asupra informației susține că obiectele se definesc ca informație în contextul căutării adevărului. Ceva este informație dacă oamenii îl utilizează pentru a încerca să descopere adevărul. Această viziune leagă conceptul de informație de conceptul de adevăr și presupune că rolul principal al informațiilor este să reprezinte realitatea. Există o realitate în afara noastră, iar informația este ceva care reprezintă această realitate și pe care îl putem de aceea utiliza pentru a învăța despre realitate. […]

Spus altfel, concepția naivă susține că informația este o încercare de a reprezenta realitatea, iar când această încercare reușește, o numim adevăr. Deși cartea de față polemizează în multe chestiuni cu concepția naivă, e de acord că adevărul înseamnă o reprezentare exactă a realității. Însă această carte susține și că majoritatea informațiilor nu sunt o încercare de a reprezenta realitatea și ceea ce definește informația e ceva cu totul diferit. Majoritatea informațiilor din societatea umană, ba chiar și din alte sisteme biologice și fizice nu reprezintă nimic.” (p. 31 – 32)

Respectând criteriul cronologic (adeseori exagerat de mulți istorici, în detrimentul celorlalte principii), Yuval Noah Harari ne ajută, prin exemplele atent selectate, să înțelegem adevărata natură a informației și ce rol au jucat tehnologiile informației de-a lungul timpului în dezvoltarea relațiilor interpersonale și în preluarea și menținerea controlului și a puterii:

„Contrar a ceea ce afirmă concepția naivă asupra informației, informația nu are nicio legătură esențială cu adevărul, iar rolul ei în istorie nu este să reprezinte o realitate preexistentă. În schimb, ceea ce face informația este să creeze noi realități legând lucruri disparate – indiferent dacă sunt cupluri sau imperii. Trăsătura ei definitorie este conectivitatea mai degrabă decât reprezentarea, iar informația este orice conectează diferite puncte într-o rețea. Informația nu ne informează în mod necesar despre lucruri. În loc de asta, ea așază lucrurile în formații. Horoscoapele așază îndrăgostiții în formații astrologice, emisiunile de propagandă așază votanții în formații politice, iar cântecele de marș așază soldații în formații militare.” (p. 36)

Nevoia de a stabili o ordine este, din această perspectivă, o nevoie de a înțelege lumea de lângă noi și, implicit, ordinea noastră interioară. Instinctiv, omul a creat tehnologii ale informației încă din cele mai vechi timpurii, prin intermediul cărora nu numai că aranjează, „disciplinează” informațiile din ce ce în ce mai abundente, dar și dezvoltă relații. Prima tehnologie a informației – povestea – se bucură de același succes și astăzi: cu ce plăcere ne uităm la filme, seriale, reportaje care spun o poveste! Prea puțin contează realitatea! A doua tehnologie a informației – scrisul, respectiv documentul scris, își va dovedi rapid utilitatea. Birocrația îi va ajuta pe monarhii autoritari din lumea antică să își satisfacă dorința de putere, dar și să controleze eficient populații diferite, din zone geografice diverse. Imperiul roman rămâne un model de succes multă vreme, chiar dacă găsirea/stabilirea echilibrului dintre mitologie și birocrație naște dileme imposibil de gestionat. Cea de a treia tehnologie a informației – Cartea Sfântă, a contribuit la mărirea și decăderea multor state, asigură legătura dintre realitatea obiectivă și cea subiectivă și creează o realitate intersubiectivă. Totodată:

„Încercarea de investi cu toată autoritatea o tehnologie supraumană infailibilă a dus la ascensiunea unei noi și extrem de puternice instituții umane – Biserica.” (p.95)

Biserica, atât timp cât a fost instituție a statului, a trebuit să gestioneze un volum uriaș de informații. Limitele fizice și mentale ale ordonatorilor de informații și-au spus cuvântul: vânătoarea de vrăjitori/vrăjitoare și actualizarea Index-ului au generat adevărate catastrofe: informația devine toxică și chiar letală. Ceea ce se întâmplă astăzi, în era internetului, nu ar trebui să ne surprindă: procesul de radicalizare (vezi exemplul prezentat în detaliu despre soarta etnicilor musulmani rohingya din Myanmar) îi consternează chiar și pe inițiatori. Cea de a patra tehnologie a informației – internetul – a creat un instrument greu de controlat: Inteligența Artificială. Din perspectiva lui Harari, aceasta reprezintă adevărata provocare: cum să gestionăm ceva ce tinde să fie deja independent de noi. Pentru democrațiile moderne, mai toate instituțiile statului au și mecanisme de corecție și autocorecție, inclusiv în ceea ce privește gestionarea unui volum uriaș de informații:

„În timp ce într-o dictatură e vorba de un singur nod informațional central care dictează totul, o democrație este un dialog continuu între diverse noduri informaționale. Nodurile se influențează adesea unele pe altele, dar în majoritatea chestiunilor nu sunt obligate să ajungă la un consens. Indivizii, companiile și comunitățile pot continua să gândească și să se comporte în moduri diferite. Există, desigur, cazuri în care toată lumea trebuie să se comporte la fel, iar diversitatea nu poate fi tolerată. De exemplu, în 2002-2003, când americanii nu erau de acord dacă să invadeze Irakul, au trebuit cu toții în ultimă instanță să respecte o singură decizie. Era inacceptabil ca unii americani să mențină o pace privată cu Saddam Hussein, iar alții să declare război. Indiferent dacă a fost bună sau rea, decizia de a invada Irakul l-a angajat pe fiecare cetățean american. La fel stau lucrurile când se inițiază proiecte naționale de infrastructură sau se definesc infracțiunile. Nicio țară nu poate funcționa bine dacă i se permite fiecărui om să-și construiască o rețea de cale ferată separată sau să aibă o definiție proprie a crimei.” (p. 120)

În contextul actual, cu zone de conflict fierbinți, sub spectrul unei crize economice profunde, votul, presa și tehnologia modernă a informației sunt cele mai eficiente mecanisme de corecție, dar și cele mai predispuse la erori. Yuval Noah Harari ne explică cum algoritmii Facebook au contribuit decisiv la genocidul etniei rohingya, dar și cum Donald Trump a câștigat alegerile pentru primul mandat de președinte al SUA, grație algoritmilor aparent scăpați de sub control al unei rețele de socializare competitoare, Tweeter, redenumită X. Dacă scopul rețelelor informaționale totalitare este ordinea, iar informațiile alarmante erau suprimate cu promptitudine, la începutul secolului XXI, lucrurile stau altfel: algoritmii social media, total diferiți de tipar și de radio, se comportă autonom, și aduc în prim plan informațiile alarmante, generând reacții agresive, extreme în rândul celor ce accesează diferite platforme media sau de socializare. Toate acestea pentru că:

„Oamenii confundă adesea inteligența cu conștiința, așa încât mulți trag concluzia că entitățile nonconștiente nu pot fi inteligente. Dar inteligența e una și conștiința e cu totul altceva. Inteligența este capacitatea de a atinge niște obiective, precum maximizarea implicării utilizatorilor pe o platformă de social media. Conștiința este capacitatea de a avea sentimente subiective precum durerea, plăcerea, iubirea și ura. La oameni și la alte mamifere, inteligența merge adesea în tandem cu conștiința. Directorii și inginerii de la Facebook se bazează pe sentimentele lor ca să ia decizii, să rezolve probleme și să-și atingă obiectivele.” (p. 183)

În acest context, al fraudelor cibernetice din ce în ce mai sofisticate, al criminalității cibernetice deosebit de periculoase, Harari ne readuce aminte codul etic al navigării pe internet, prin respectarea căruia putem gestiona mai ușor informațiile și, în felul acesta, putem câștiga timp în fața unei IA deja independentă, grație lanțurilor informaționale de la calculator la calculator. Bunăvoința, descentralizarea, reciprocitatea, disponibilitatea pentru schimbare și odihnă sunt pe cât de banale, pe atât de eficiente în mediul on-line. Inteligența Artificială învață, se dezvoltă prin găsirea de tipare în noianul de date pe care îl procesează și astfel ajunge să „descopere” lucruri pe care părinții săi umani nu le știu. Cu atât mai mult trebuie ca algoritmilor să li se dea un scop, unul cât mai clar și mai puțin predispus la interpretare, pentru că potențialul anarhic al inteligenței artificiale este deosebit de alarmant:

„ea nu permite doar unor noi grupuri de oameni să participe la dezbaterea publică. Pentru prima dată în istorie, democrația trebuie să facă față și unei cacofonii de voci nonumane. Pe multe platforme sociale, boții constituie o minoritate importantă între participanți. O analiză estima că, dintr-un eșantion de 20 de milioane de tweeturi generate în timpul campaniei electorale din SUA din 2016, 3,8 milioane (aproape 20%) au fost generate de boți.

Până la începutul anilor 2020, situația s-a înrăutățit. Un studiu din 2020 aprecia că boții produceau 43,2% din tweeturi. Un studiu mai detaliat din 2022 al agenției pentru inteligență digitală Similarweb a descoperit că 5% dintre utilizatorii platformei Twitter erau probabil boți, dar ei generau „între 20,8% și 29,2% din conținutul postat pe Tweeter”. Când oamenii încearcă să dezbată o întrebare crucială cum ar fi pe cine să aleagă ca președinte al Statelor Unite, ce se întâmplă dacă multe dintre vocile pe care le aud sunt generate de calculatoare?

O altă tendință îngrijorătoare privește conținutul. Boții au fost folosiți inițial pentru a influența opinia publică prin volumul considerabil al mesajelor pe care le răspândeau. Ei redistribuiau sau recomandau un anumit conținut produs de oameni, dar nu puteau să creeze idei noi și nici să stabilească legături apropiate cu oamenii. Totuși, noul tip de inteligențe artificiale generative precum ChatGPT poate face exact asta.” (p. 293)

Din această perspectivă, este mai ușor de înțeles rezultatul surprinzător al primului tur al alegerilor prezidențiale din România, din decembrie 2024. Dar câți dintre votanți acceptă ideea că au fost manipulați prin intermediul unor algoritmi? Decizia Congresului american de a interzice funcționarea platformei TikTok pe teritoriul american a fost o consecință logică a unui lung șir de dezinformări grosolane, dar și de violențe greu de închipuit și cu atât mai dificil de gestionat, la care o contribuție importantă au avut-o algoritmii scăpați de sub control. Războiul Rece dintre o superputere democratică și una comunistă se duce acum de o parte și de alta a unei Cortine de Siliciu: fiecare superputere își dezvoltă propriile platforme media, propriile motoare de căutare, propriile inteligențe artificiale. Că vrem sau nu să acceptăm, China este în avantaj net, ceea ce explică paradoxul menținerii unui sistem totalitar represiv care are drept misiune controlul unei populații cu mult mai numeroase decât are SUA, Marea Britanie, Germania și Franța la un loc. Marea provocare pentru statele democratice este să nu cadă victime scenariilor pesimiste, ci să se adapteze astfel încât să înțeleagă cât mai bine tiparele noi create de inteligența artificială, pentru că altfel clivajele sociale și politice vor fi mult prea greu de minimalizat.

Nexus: scurtă istorie a rețelelor informaționale din epoca de piatră până la IA este un pariu câștigător: ne scoate din zona de confort, ne demolează prejudecăți, ne provoacă să găsim soluții. Totul depinde doar de noi.

Nexus: scurtă istorie a rețelelor informaționale din epoca de piatră până la IA de Yuval Noah Harari