Efecte etice timpurii ale ciberneticii

În ideea de a cerceta implicațiile sociale ale ciberneticii, Norbert Wiener își revizuia în 1961 o serie de prelegeri susținute anterior și publica volumul „Dumnezeu și golemul. Comentariu asupra câtorva probleme în care cibernetica intră în contradicție cu religia”. Agnostic declarat, „întemeietorul ciberneticii” nu era la prima încercare de a pune această disciplină în relație cu altele științifice, cu precădere filosofia. Însă eseul „Dumnezeu și golemul…” tratează aspecte aflate la tangența ciberneticii cu religia, fapt pentru care propune din start cititorului o stare de detașare față de conceptele absolute cu care operează îndeobște religia, în baza premisei „Cunoașterea este interconectată inevitabil cu comunicarea, puterea cu controlul, iar evaluarea scopurilor umane cu morala și cu întreaga latură normativă a religiei” (p. 10). În demersul său, Wiener se va ajuta de analogii „limitate” ale situațiilor din cibernetică pentru a lămuri într-un mod satisfăcător câteva situații religioase.

Afirmând că fizica nu ține cont de scop, autorul respinge ferm orice abordare blasfematoare, însă recomandă, de dragul progresului, experimentarea opiniilor „eretice” printr-un exercițiu critic. Spre dezbatere sunt propuse trei aspecte: mașinile care învață, mașinile auto-reproducătoare și, respectiv, coordonarea mașină-om. Toate aceste cazuri implică anumite reflecții normative, având legătură „cu unele dintre cele mai importante capcane morale în care, probabil, va cădea generația actuală de ființe umane” (p. 18).

Primul caz se încadrează în temă prin jocul dintre Creator și creatură, imaginea diavolului jucând cu Dumnezeu fiind prezentă și în Cartea lui Iov (pentru sufletul acestuia), și în „Paradisul pierdut” (pentru umanitate). Poate pierde Creatorul în urma acestui conflict sau „joc semnificativ”?

„Se poate spune că un sistem organizat este unul care transformă un anume mesaj de intrare într-unul de ieșire, în conformitate cu un anumit principiu de transformare. Dacă acest principiu de transformare este supus unui anumit criteriu de calitate a performanței și dacă procedeul de transformare este reglat astfel încât să tindă spre îmbunătățirea performanței sistemului potrivit acestui criteriu, se poate spune că sistemul «învață». Un model de sistem foarte simplu, cu un criteriu al performanței ușor de înțeles, este un joc, având reguli fixe, unde criteriul performanței este câștigul în conformitate cu regulile” (p. 18).

Wiener aduce în discuție particularități ale jocului de șah și ale celui de dame, susținând că analizarea unor criterii (ale unui joc bun), precum mobilitatea și puterea de alegere, poate genera un indice de performanță pentru viitoarea mișcare a mașinii, aceasta comparând indicele de performanță al mișcărilor regulamentar posibile și alegând-o pe cea cu eficiența cea mai mare, ceea ce nu e altceva decât modul de automatizare a mișcării următoare. Va rezulta o alegere, nu neapărat cea ideală; iar ca jocul mașinii să fie din ce în ce mai inteligent trebuie ca aceasta să conserve istoricul jocurilor, iar formularea indicelui de performanță va ține cont de constante ca importanța relativă a comenzii, mobilitatea sau numărul de piese. Cum jocurile câștigate au valoare superioară, indicele de performanță va fi reevaluat permanent. Ca atare, mașina va „absorbi” o parte din personalitatea adversarului ei uman, exact așa cum procedează șahiștii prin corespondență. Cum nimeni nu-i profet în țara lui, matematicianul prezice că „zilele șahului ca ocupație umană interesantă sunt numărate”; sigur este că, la puține decenii după scrierea eseului „Dumnezeu…”, computerul Deep Blue (care putea evalua 200 de milioane de mutări pe secundă, față de cele maximum trei ale adversarului!) îl învingea în 1997 pe marele Garry Kasparov.

Toate cele prezentate au valabilitate în cazul respectării regulilor fixe ale unui joc. Însă dacă „un efort uman poate fi considerat un joc doar dacă există un criteriu obiectiv pentru determinarea gradului performanței realizate prin acel efort” (p. 26), autorul avertizează asupra pericolului jocurilor de tip conflictual, războiul și afacerile, suspecte de posibilitatea de a fi formalizate pentru a ajunge jocuri cu reguli precise. În 1961, atins de temerile provocate de Criza rachetelor cubaneze, Norbert Wiener are motive să creadă că asemenea versiuni formalizate erau deja stabilite pentru a determina politicile ce ar implica declanșarea războiului nuclear, iar pentru absurdul unei astfel de situații arbitrare, în care nu există nici criteriu de succes, nici reguli, este reamintită celebra partidă de crochet din „Alice în Țara Minunilor”.

Pentru a trata al doilea aspect, autorul face trecerea de la învățarea individuală, proces care se petrece în viața sa (în ontogenie), la învățarea filogenetică, realizată în cursul evoluției speciei. Esențiale pentru evoluție, fundamentul supraviețuirii și al transformării speciei, sunt mecanismele eredității și variabilității. Poate mașina (sistemul non-viu) să se reproducă într-o manieră similară în care o face omul, după chipul și asemănarea sa? Ar putea mașina astfel creată să devină la rândul ei, printr-un proces de reproducere mecanică, prototip? Da, răspunde Wiener, dacă suntem de acord că o mașină este un dispozitiv prin care mesajele de intrare se transformă în mesaje de ieșire, mesajul fiind aici o secvență de cantități (curenți electrici sau potențiale electrice) care constituie semnale (distribuite în timp) în mesaj. Sau, inginerește, o mașină este un traductor multi-input, multi-output. Utilizând termeni proprii jargonului fizicii (impedanță, admitanță, funcție de precizie, redresor, semnal de intrare sinusoidal, „zgomot alb” ș.a.), omul de știință susține că traductorii neliniari (spre deosebire de circuitele liniare) se pot reproduce, respectiv că „mașina poate genera mesajul poate genera altă mașină” (p. 35). Pentru concretizarea particulară a mașinii autoreproductive trebuie descris aspectul formal al schemei, scop în care limbajul următorului capitol este aproape exclusiv matematic; cu eleganță, cititorii care „vor să evite cu orice preț dificultățile, … căci matematica nu e un limbaj care să poată fi înțeles de publicul larg” sunt preveniți să sară peste această parte. Am încercat să ignor somația autorului. Nu am reușit. Impulsul meu a fost rapid descurajat de dezvoltări trigonometrice, seriile Fourier, polinoame hermite, coeficienți Laguerre. Am reținut, în schimb, ipoteza:

„Acesta (procesul mecanic de reproducere – n.m.) este, în fapt, foarte asemănător cu ceea ce se întâmplă în actul fundamental de reproducere al materiei vii. Și aici un material capabil să îmbrace o mulțime de forme, de structuri moleculare în acest caz, este făcut să asume o formă particulară prin prezența unei structuri – o moleculă – are are deja această formă” (p. 41).

Studiind genetica mașinilor, savantul american găsește alte similitudini cu evoluția umană: variația e chiar lipsa de precizie a procesului de copiere, iar mașina copiată reprezintă un prototip ce poate fi recopiat, menținându-se variațiile în ereditate (deși sunt supuse unei variații ulterioare).

Al treilea subiect al eseului, coordonarea mașină-om (cibernetica fiind definită acum jumătate de secol ca studiul controlului și al comunicării la mașini și ființe vii), pornește de la compararea vrăjitoriei de demult cu cibernetica modernă, mai precis de la condamnarea acestora. Sunt amintite aici pretenția lui Rabbi Loew de a însufleți Golemul, Liturghia Neagră, simonia. Fără să fie supranaturală, puterea mașinilor trebuie pusă în slujba binelui; ar fi păcat, susține autorul, ca „magia automatizării moderne să fie folosită pentru un profit personal ulterior sau pentru declanșarea apocalipsei nucleare”. Și continuă:

„Spre deosebire de răposatul domn Adolf Hitler, încă nu am ajuns la punctul culminant al sublimei indiferențe morale care să ne așeze dincolo de bine și rău. Și, atâta timp cât mai avem o urmă de discernământ etic, utilizarea unor puteri în scopuri josnice va constitui echivalentul moral perfect al vrăjitoriei și simoniei” (p. 47-48).

Pericolul e reprezentat de „adoratorii dispozitivelor”, ingineri și șefi de firme care coexistă într-o lume unde dictează proletariatul, marxismul și comunismul; înconjurați de slugi depersonalizate, aceștia sunt dispuși ca, pentru o decizie catastrofală, să transfere responsabilitatea pe circumstanțe, servitor sau pe un dispozitiv mecanic, nou și ideal tip de subordonat (asemenea subalterni întâlnim în piesa „R.U.R.” a scriitorului ceh Karel Čapek). Primejdiile învăluite ale magiei sunt pilduitoare în „1001 de nopți”, în povestirea „Pescarul și djinul”, în „Ucenicul vrăjitor” al lui Johann Wolfgang von Goethe, în „Laba de maimuță” a englezului W. W. Jacobs. Altfel spus, ai grijă ce-ți dorești, că s-ar putea să se întâmple! Fără precizarea explicită a condiției de supraviețuire, scopul unui joc ca războiul va fi victoria cu orice preț, iar un război atomic („nu uitați că în războiul atomic nu există experți” – p. 70) ar putea avea drept consecință dispariția omenirii. Pe măsură ce tehnica inginerească suplinește din ce în ce mai mult omul, aceasta trebuie armonizată cu scopurile umane. De aceea, estimează autorul, o mare problemă viitoare este ce funcții vom atribui omului și mașinii, fiecare cu avantajele și dezavantajele sale. Unul dintre sistemele care implică elemente umane și mecanice este proteza care înlocuiește un organ sau un membru. O altă sferă care necesită automatizare era cea a traducerii automate (ce s-ar fi delectat Wiener astăzi cu un Google Translate…): este necesar un sistem mecanico-uman în care traducătorul uman să fie critic și expert, existând posibilitatea ca mașina, după ce va fi absorbit o anumită cantitate de cunoștințe („maturitate lingvistică”), să se dispenseze de om. Similar, dispozitive care în timp ar fi capabile să stabilească diagnostice medicale. În privința invențiilor, sistemul mecanic e necesar să fie îmbinat cu elementul social, după cum, în domeniul militar, latura operațională este inseparabil de cea a automatizării.

Convins că „Cibernetica nu e nimic dacă nu e matematică, dacă nu in esse, atunci in posse”, omul de știință afirmă că observațiile asupra controlului și comunicării au aplicații în inginerie și fiziologie, sociologie și economie, iar ideile ciberneticii pot avea utilitate, prin cibernetica societății și a speciei umane, în domeniul moral.

Evident că „Dumnezeu și Golemul” nu prezintă surprize tehnologice; dimpotrivă, poate stârni uneori zâmbete condescendente prin inactualitate („calculatorul corespunzător unui creier ar trebui să ocupe o sferă cu un diametru de 9,1 metri” – p. 61). Dar acesta este un aspect cu totul și cu totul minor. Rigurozitatea limbajului, spiritul intuitiv și propensiunea către inovația fundamentată moral fac din Norbert Wiener un pionier al eticii aplicate. De altfel, afinitatea matematicianului pentru filosofie se manifestă din prima tinerețe: viitorul om de știință studiase disciplina la Cornell University, ca mai apoi să ocupe timp de doi ani (1915 – 1916) catedră de specialitate la Harvard. În altă lucrare a sa, „The Human Use of Human Beings” (1954), anticipând posibile probleme etice produse de tehnologia informației, va pune ca temelie la „Etica informației (sau a computerului)” valori umane esențiale – viața, sănătatea, fericirea, abilitățile, cunoașterea, libertatea, siguranța și oportunitățile -, elaborând totodată o listă de principii: al libertății, al egalității, al binefacerii și al minimei încălcări a libertății.

Îngrijorat că noua tehnologie pune omul în „fața unui potențial social fără precedent de a face binele sau răul”, Norbert Wiener atrage critic atenția în final:

„Oamenii cu mintea dependentă de dispozitive au deseori iluzia că o lume cu un înalt grad de automatizare va solicita mai puțin ingeniozitatea umană și ne va elibera de problemele dificile, aidoma unui sclav roman care, fiind și filosof grec, ar fi gândit în locul stăpânului său” (p. 55).

Probabil că de aceea a refuzat smerit, dar ferm, la începutul eseului „Dumnezeu și Golemul” să trateze cunoașterea doar în termenii atotștiinței, puterea doar în cei ai atotputerniciei și venerarea doar în cei ai unei singure Dumnezeiri.

Dumnezeu și golemul. Comentariu asupra câtorva probleme în care cibernetica intră în contradicție cu religia de Norbert Wiener