Unul dintre cele mai interesante episoade din serialul Star Trek-Next Generations, intitulat The Measure of a Man, apărut în anii ’90, începe cu o partidă de poker la care participă și androidul Data, cel care este setat să copieze comportamentele umane și care învață, astfel, să devină mai uman. Nu are rost să spunem că robotul cu chip de om cunoaște perfect regulile jocului, calcuează în câteva fracțiuni de secundă toate variantele posibile de mutări, cu alte cuvinte deține toate avantajele pentru a câștiga runda. Cu toate acestea, comandorul Riker, cu care rămâne la masă în final, reușeste să câștige, spre stupefacția lui Data. Jucătorul om a blufat, mizând pe incapacitatea androidului de a înțelege complicata „ecuație” a pierderii unui joc, deși trebuia să îl câștige. M-am gândit, după vizionarea acestui episod celebru, cât de complicat este să te pui în pielea unui android, să joci rolul acestuia. Așa cum gândește și Charles, personajul din cartea pe care urmează să o prezint, nu poți înțelege un robot, decât dacă ești unul.
Este și mai dificil să scrii un roman despre pasiunile unui robot. Sigur, imaginația poate crea orice, dar credeam, înainte de a citi cartea lui Ian Mc Ewan, că un scriitor care abordează domeniul IA trebuie să fie, în același timp, credibil și riguros în a-și găsi informațiile. După ce am citit ultima pagină a romanului consacratului scriitor britanic, mi-am dat seama că a reușit să treacă testul unui cititor scrupulos. Și al criticii literare, deopotrivă.[1] În esență, e ușor să îți imaginezi existența unui robot, creat cu scopul de a ajuta în treburile obișnuite omul, stăpânul și creatorul lui. Mai greu este să înțelegi cum ar funcționa în realitate un astfel de robot, ce ar putea să facă, să gândească, să simtă, să cunoască. Adam, computerul android creat în anii ’80, în serie limitată (doar alți câțiva au mai fost creați, împreună cu un număr aproximativ egal de Eve), reușește să creeze impresia că până la urmă toate problemele informaticii și ciberneticii ar putea fi, în scurt timp, depășite. Cred că marele merit al cărții lui Mc Ewan stă chiar în încercarea curajoasă a acestuia de a broda, în infrastructura narațiunii, o poveste superinteligentă despre ultimele descoperiri în domeniul teoriei completitudinii, cu implicații largi în inteligența artificială. Scriitorul britanic explorează astfel un domeniu al științei, aidoma unui scriitor SF. Și totuși, deși lumea în care trăiește Adam este ușor diferită față de lumea noastră – vom vedea în ce sens – aceasta seamănă foarte bine cu lumea noastră. Sunt mici ajustări, mici inserții, infinitezimale am putea spune, insuficiente însă pentru a considera romanul lui Ian Mc Ewan un roman SF.
Adam este, în fond, o variantă ușor îmbunătățită a Sophiei, robotul cu cetățenie saudită a vremurilor noastre. Iar personajele principale ale romanului, Charles și Miranda, doi tineri îndrăgostiți dintr-o Londră reală, trăiesc într-un timp și spațiu recognoscibile oricui. Ajustările realității aduse de scriitor sunt doar niște cosmetizări necesare, contrapunctice, în măsura în care îl ajută pe autor să introducă în firul narațiunii digresiuni subversive ale realității istorice în care acesta își plasează acțiunea – anul 1982. Astfel, dacă, pe de o parte, istoria povestită de Ian Mc Ewan este una datată – suntem în anul în care Marea Britanie se angajează într-un conflict cu Argentina (războiul Malvinelor) pentru recapturarea insulelor Falkland, iar țara este condusă de guvernul conservator al lui Margaret Thatcher, confruntat cu mari probleme interne, pe de altă parte, autorul romanului suprapune peste această lume propria sa realitate, în care Anglia pierde războiul Malvinelor, guvernul Thatcher nu rezistă și îi lasă locul unuia condus de laburistul Tony Benn[2], care imediat propune un Brexit categoric pentru Anglia, dar sfârșește prin a fi omorât în hotelul unde locuia, în urma unui atentat cu bombă. Este aceasta o lume paralelă celei în care trăim, perfect posibilă în contextul în care Marea Britanie chiar nu câștiga războiul cu Argentina, iar guvernul conservator cădea, lăsând mai mult ca sigur loc unei conduceri laburiste, în care comportamentul politic al liderului Tonny Benn chiar ar fi fost consistent cu scenariul imaginat de Ian Mc Ewan. În plus, Beatles-ii se reunesc după doisprezece ani de despărțire, evident cu John Lennon, și scot un nou album, iar psihologia evoluționistă reafirmă ideea unei naturi esențiale, provenite dintr-o moștenire genetică comună, indiferentă față de loc sau de timp. Este epoca în care vehiculele fără pilot reprezintă 17% din totalul autoturismelor, provocând multe accidente și blocaje rutiere, iar frigiderele răspund la o simplă comandă vocală. În romanul Mașinării ca mine, anii ’80 reprezintă viitorul nostru, timpul desfășurării scenariului realist și, totodată, trecutul nostru alternativ. Este ca și cum autorul privește din viitor către un trecut instantaneizat într-un prezent continuu. Romanul se comportă ca un univers cuantic, în care cauzalitatea nu funcționează ca în lumea noastră, timpul nu curge uniform, iar realitatea este întotdeauna aparență.
În lumea alternativă a lui Ian Mc Ewan, anul 1982 este cel în care trăiește celebrul Alan Turing, (în realitate decedat în 1954, la doar 41 de ani), creatorul celebrului test care-i poartă numele, erou de război pentru munca susținută la spargerea codului „Enigma”, iar în prezentul imaginat de Mc Ewan, cercetător la King’s Cross. Romanul lui Mc Ewan aduce și un omagiu celui care a fost unul dintre cei mai inteligenți oameni, deschizător de drumuri în domeniul IA, un „guru” al criptografilor și al tuturor informaticienilor. În anii ’80, Alan Turing reușise de ceva vreme să rezolve celebra problemă a informaticii privind clasele de complexitate P și NP.[3] Demonstrarea identității formulei P=NP îl face pe Turing să fie cu adevărat creatorul primilor Adami și a primelor Eve artificiale. Scrierea corectă a tuturor algoritmilor posibili pentru configurația oricărui Adam pune bazele unei noi lumi și, evident, a unei noi rase, deschizând perspective amețitoare privind viitorul umanității, într-o lume în care omul va trebui să accepte să conviețuiască alături de roboți, exact ca în romanele considerate utopice ale lui Bradbury și Asimov. Totuși, noua eră a umanității (post-umană?) nu este încă posibilă: androizii, deși sunt programați să fie cât mai umani cu putință, au probleme în a lua decizii, altele decât cele „scrise” algoritmic de programatori și sfârșesc, în cele din urmă, prin a se autodistruge. Interesantă această apostazie a roboților imaginată de scriitorul britanic cu o mulțime de androizi alegând să se sinucidă în diverse moduri, din cauza incompatibilității dintre sistemele lor morale, scrise în algoritmi binari și cele ale omului, pentru care greșeala și eșecul fac parte integrantă din viață!
Romanul lui Mc Ewan este, în acest sens, o pledoarie pentru om, pentru umanitate în general, pentru complicata existență umană și pentru infinitele posibilități de a face alegeri, ce nu se scriu în niciun cod posibil. Chiar dacă, aparent, problema identității P=NP a fost demonstrată, făcând astfel loc deciziei în universul fascinant al roboților, rămâne un inefabil specific uman care nu poate fi integrat de roboți. Iar acesta pare a fi prezent în controversatul și mult discutatul domeniu al moralei umane, unde se iau cu adevărat deciziile. În fond, simetria morală pe care o propune Adam și care corespunde codului său etic nu coincide cu deciziile morale luate de stăpânii săi, Charles și Miranda. Ceea ce pentru Adam recunoașterea unei fapte și asumarea ei reprezintă o soluție logică, pentru cei doi oameni, soluția nu corespunde dinamicii vieții, care tinde să devină chiar mai complexă decât cea a logicii binare a roboților. Și nu vorbim aici despre un Adam imperfect. Dimpotrivă, androidul creat de specialiști, în frunte cu Turing, are capacitatea de a învăța în permanență – consecința principală a rezolvării identității P=NP – de a se remodela social, de a deveni mai uman. Ian Mc Ewanreușeste chiar să ne convingă că roboții pot avea conștiință de sine. Adam se îndrăgostește de Miranda, își anulează butonul de oprire, scrie poezii, face alegeri raționale, are calități morale, se individualizează de ceilalți androizi, face sex, simte și filosofează. Aceasta sunt comportamentele obișnuite ale Adamilor și ale Evelor, care creează impresia că toate problemele despre inteligența artificială au fost rezolvate.
În realitate, este vorba despre mai mult decât o creare în serie a unor roboți inteligenți. Romanul scoate excelent în evidență și problemele ce țin de responsabilitatea savanților și inginerilor programatori. Adam nu este doar o cucerire a ciberneticii; îndrăznim să spunem că el apare și ca o variantă îmbunătățită a omului însuși, în măsura în care îl ajută pe acesta în luarea deciziilor, în calcule bursiere, în morală și în cunoaștere. „Inteligența artificială ar putea îmbunătăți ceea ce avem, ce suntem”. (p. 48), crede Turing.
Într-o lume în care omul trăiește alături de roboți de companie, împrumuturile sunt reciproce. Rămâne evident un important spațiu al diferenței – este spațiul infinitezimal al deciziilor mărunte, al modului în care se realizează conștiința de sine. Această infinitate minusculă este cea care menține alteritatea, în ciuda faptului că la testul Turing probabil că în viitorul foarte apropiat nu vom mai reuși să facem distincția dintre un reprezentant al IA și un om. Două dimensiuni separate de o graniță aproape invizibilă avem în fața noastră. Pe de o parte, este vorba de caracterul pragmatic și pozitivist al testului Turing, care în fond este un răspuns clar la o întrebare : „poate un computer să gândească?”, fără ca această întrebare să aibă în vedere conștiința, iar pe de altă parte, este totuși vorba de ceea ce ne face să fim diferiți de o mașină. Dacă în ceea ce privește aspectul filosofic al problemei, legate de capacitatea unei mașinării de a gândi, putem amâna la nesfârșit răspunsul punând aceeași întrebare pe care i-a pus-o Wittgenstein lui Turing, la întâlnirea acestora din preajma anului 1940, „ce înseamnă a gândi?” sau, mai simplu, putem opta pentru frumusețea și simplitatea protocolului lui Turing – dacă un computer arată, vorbește și se poartă ca o persoană, atunci ar trebui să i se acorde statut de persoană înzestrată cu conștiință, la întrebarea asupra a ceea ce poate și a ceea ce nu poate face un robot, ne răspunde chiar autorul romanului, prin vocea lui Alan Turing: „Această inteligență (n.m, cea artificială) nu e perfectă. Nu va putea fi niciodată, așa cum nici a noastră nu poate fi. Există o singură formă de inteligență anume despre care toți Adamii și toate Evele știu că e superioară inteligenței lor. Această formă este extrem de adaptabilă și inventivă, capabilă să abordeze situații și peisaje noi cu o ușurință absolută și să teoretizeze despre ele cu o genialitate instinctivă. Mă refer la mintea unui copil înainte să i se atribuie fapte, aspecte practice și scopuri. Adamii și Evele au o înțelegere minimă a ideii de joc – modul esențial al copilului de a explora” (p. 186). Nu întâmplător, singurul cu care Adam nu reușește să stabilească vreun contact uman este Mark, băiatul pe cale de a fi adoptat de Charles și Miranda. Chiar dacă un robot reușește să treacă minimalistul test Turing, este greu de conceput că acesta va reuși să înțeleagă mecanismul complicat al luării deciziilor de către om, mai ales când acesta se comportă ca și cum s-ar juca. Și de câte ori nu se joacă omul atunci când ia decizii?
Iată încă o pistă pe care ne duce romanul lui Ian Mc Ewan: gândite euristică vs. gândire algoritmică. În alegerile noastre obișnuite s-ar putea ca tocmai refuzul algoritmizării, a calculului probabilistic, al drumului sigur să fie calea către o umanitate perenă. Iar acest lucru înseamnă că eroarea, ca parte integrantă a procesului decizional, este ceea ce ne face mai umani, diferiți și autentici. Pentru noi oamenii, o decizie corectă nu înseamnă și o decizie bună; evident, reciproca este valabilă, mai ales în ceea ce privește deciziile morale. Sigur, se poate concepe un computer care, potrivit principiului învățării continue din experiența umană, să învețe să greșească, să ia decizii în mod intenționat eronate, anti-algoritmice, așa cum s-a întâmplat cu mașina inteligentă imaginată de Mc Ewan ca fiind testată de Turing în jocul de șah. Dar, așa cum afirmă și personajul-cheie a lui Mac Ewan, Alan Turing, „chestia e că șahul nu-i o reprezentare a vieții. E un sistem închis (…) Este un joc cu informație completă. Dar viața, în cadrul căreia ne punem în aplicare inteligența, e un sistem deschis. Haotic, plin de șmecherii și de tertipuri, de ambiguități și cuvinte-capcană”. (pag. 185)
În cele din urmă, chiar dacă este greu să decidem în ceea ce privește existența unei conștiințe a computerului (se pare că, în cele din urmă, Charles înțelege, după o discuție avută cu maestrul Alan Turing și după ce își omoară (sic!) robotul, că Adam este o persoană, că are conștiință, că este o formă de viață („Nu erai doar un copil răsfățat care-și sfarmă jucăria (…) Încercai să distrugi o viață. Era conștient. Avea personalitate” – pag. 311), așa cum, într-un final grandios, judecătoarea din serialul amintit înțelege că Data poate fi înțeles ca fiind o persoană non-umană, dar înzestrată cu capacitatea de a decide ceea ce vrea să fie – cu atât mai greu cu cât comportamentul unui computer este camuflat în gesturi și comportamente umane – nu este atât de dificil să înțelegem că libertatea conștiinței este cea care ne face să fim responsabili pentru deciziile pe care le luăm. Tot despre libertate și responsabilitate este vorba și atunci când omul ajunge să trăiască alături de mașini inteligente. Legea 1 a roboticii a lui Asimov este exact despre libertate, responsabilitate și infinite posibilități de a conviețui pașnic alături de mașinăriile noastre, conștienți mereu de ceea ce ne apropie, dar mai ales de ceea ce ne desparte decisiv.
Romanul nu este atât despre Adam, robotul superinteligent, cât mai mult despre relațiile dintre oameni, despre interacțiunile umane în epoca androizilor. Bizar și surprinzător, romanul britanicului nu este doar o simplă carte de vacanță, pentru că pune întrebări, problematizează din mai multe unghiuri și povestește despre oameni și roboți, deopotrivă. Cum vom interacționa cu roboții, dar și cum ne privesc aceștia pe noi? Ce ne face mai umani, deciziile pe care le luăm sau ceea ce trăim cu adevărat? Unde se termină inteligența umană și de unde începe inteligența artificială? Ce înseamnă moralitatea pentru roboți? Pot aceștia iubi? Cum va arăta viața noastră alături de mașinării care gândesc? Care va fi statutul adevărului și al dreptății într-o lume pe care va trebui să o împărțim cu roboții superinteligenți? Acestea și multe alte întrebări se pot pune citind cartea lui Ian Mc Ewan. Ca și în romanele anterioare, Ispășire, Amsterdam sau în Mângâieri străine (Polirom, 2014), britanicul pune problema moralității umane, a vinovăției și a responsabilității etice. Romanul Mașinării ca mine are, în cele din urmă, un mesaj optimist pentru noi, oamenii: poate că nu este sigur că vom înțelege ce este un robot, dar vom reuși cu siguranță să supraviețuim în lumea noastră, salvați de propriile noastre decizii, de intuiții și de sentimente, adică exact de ceea ce ne face să fim oameni. Acesta este un elogiu adus umanității și vieții, în general, speranța că lumea de mâine va arăta bine pentru noi.
Anti-distopic și antirealist, deopotrivă, romanul lui Ian Mc Ewan este tulburător, prin problemele pe care le ridică, fascinant în ceea ce privește narațiunea și încântător în stil și ca intensitate a dialogurilor. De aceea credem noi, poate fi pus alături de marile cărți de anticipație ale unor scriitori celebri. Atâta tot doar, că nu este de anticipație, ci despre o realitate cu care aproape că suntem contemporani.
Mașinării ca mine de Ian Mc Ewan
Editura: Polirom
Colecția: Biblioteca Polirom. Actual
Traducerea: Dan Croitoru
Anul apariției: 2019
Nr. de pagini: 320
ISBN: 978-973-46-7842-6
[1]Romanul lui Ian Mc Ewan a fost primit foarte bine de critică, dovada fiind numeroasele cronici și recenzii laudative, apărute în reviste prodigioase (The Guardian, Daily Express, Harper’sBazaar). Și acest lucru se petrece într-un stat unde rareori se întâmplă să fii lăudat pentru ceea ce scrii. Să nu uităm totuși că scriitorul britanic a câștigat numeroase premii pentru cărțile pe care le-a scris, cele mai importante fiind Booker Prize, pentru romanul Amsterdam (Polirom, 2011) și National BookCriticsCircle Awards, pentru romanul Ispășire (Polirom, 2014).
[2]Tonny Benn a fost într-adevăr un lider al laburiștilor, care s-a opus războiului din Atlanticul de Sud, numai că el și-a încheiat cariera politică la sfârșitul anilor 70, când conservatorii conduși de Margaret Thatcher au preluat puterea în Marea Britanie, pe care au guvernat-o până în 1997, când la conducere au venit laburiștii, conduși de Tony Blair. Tonny Benn a fost o voce importantă în politica anti-război și anti-thatcherism, până prin anii 90, când s-a retras din viața publică. A murit în 2014, la vârsta de 89 de ani.
[3]Problema claselor de complexitate P și NP rămâne una dintre problemele nesoluționate și extrem de disputate ale informații. În formularea clasică, dată de Gödel, în 1956, într-o scrisoare adresată unuia dintre colaboratorii lui Turing la proiectul „Enigma”, John Von Neumann, problema vizează rapiditatea cu care un calculator poate să rezolve o problemă. Ideea este că, dacă un calculator procesează rapid informația, nu înseamnă că el rezolvă tot atât de rapid o problemă. Conform Wikipedia, „soluția problemei P=NP ar determina dacă problemele ce se pot verifica în timp polinomial, ca problema sumei elementelor submulțimii, pot fi și rezolvate în timp polinomial. Dacă se dovedește căP≠NP, ar însemna că există probleme din NP care sunt mai greu de calculat decât de verificat: ele nu pot fi rezolvate în timp polinomial, dar o soluție se poate verifica în timp polinomial”. În universul paralel imaginat de Mc Ewan, Alan Turing a reușit să rezolve problema identității P=NP, ceea ce înseamnă că mașinile gânditoare pot procesa algoritmi și identifica rapid soluții la problemele cu care se confruntă, deci pot învăța singure.
