Duhuri, oracole și alte inteligențe artificiale

Știință, speculație, filosofie

Cartea despre care voi vorbi în rândurile următoare, „Superinteligența” de Nick Bostrom, tradusă exemplar de gălățeanul Doru Căstăian, poate fi citită în mai multe moduri. Unii ar putea spune despre ea că este o carte de știință. Autorul, profesor la Oxford, are peste 200 de lucrări publicate, a predat și la Universitatea Yale și are tot felul de studii în fizică, neuroștiință computațională, logică matematică și filosofie. Alții ar putea spune că este o carte de filosofie. Probabil că cei mai mulți așa ar citi-o. Dar ar trebui să treacă peste cantitatea extrem de mare de speculații și de scenarii aproape literare despre cum umanitatea va construi o inteligență artificială la nivelul omului, pentru ca apoi să construiască una la nivel supra-uman, o superinteligență artificială. Unii, cum ar fi, spre exemplu, programatorii, ar putea fi dezamăgiți că nu conține informații mai precise, alții s-ar simți de-a dreptul încântați de orizontul de imaginație și de fantezie pe care îl deschide cartea lui Nick Bostrom. Alții ar remarca faptul că la anumite problematici, precum cea morală, cartea lui Bostrom nu a depășit literatura SF, a se vedea comandamentele morale ale roboților lui Asimov, în timp ce alții ar găsi-o foarte realistă privind la felul în care aplicațiile de inteligență artificială ne înconjoară din ce în ce mai mult. Iar alții ar citi-o pentru simplul fapt că are un citat de Elon Musk pe copertă, acest strălucitor tânăr antreprenor care ne aprinde imaginația și bursele venind cu mașini electrice care se conduc singure și promițând interfețe om-mașină.

Când și cum putem ajunge la superinteligență

Când vom avea o inteligență de nivel uman? Undeva pe la începutul cărții e o statistică făcută printre experți care ne spune că undeva prin 2065-2080, cu o probabilitate de 90%. Apoi ne-ar mai trebui încă puțin, 20-30 de ani, pentru a atinge nivelul unei superinteligențe. Ar fi interesant de recitit aceste predicții undeva spre sfârșitul secolului. Cert este că pare un fel de acord că, o dată ce am atins nivelul inteligenței umane, ne va fi mai ușor să-l depășim.

Dar să mai precizăm câteva lucruri importante. Ceea ce numim inteligență artificială, adică posibilitatea de-a avea inteligență cu ajutorul unui calculator, este doar una dintre căile prin care am putea ajunge la superinteligență. Nu e singura, chit că este cea mai importantă și, într-un fel, celelalte se reduc tot la ea. Care sunt celelalte căi prin care am putea depăși inteligența umană așa cum o știm azi? Emularea globală a creierului, cogniția biologică (sau îmbunătățirea omului), interfețele om-mașină (posibilitatea omului de-a comunica, direct prin actul gândirii, cu tehnica digitală) și îmbunătățirea rețelelor și a organizațiilor socio-umane. Dar intervin tot felul de obstacole etice și psihice, așa că, într-un fel, ameliorarea cognitivă sau a organizațiilor sociale cad sau, cel puțin, nu putem aștepta prea multe de aici. Rămân emularea globală a creierului și interfețele om-mașină ca principale alternative la inteligența artificială. Dar, în ceea ce privește emularea creierului, metoda pe care pare că pariază Nick Bostrom ca fiind prima care va da rezultate spectaculoase, nu s-a făcut mai nimic. Nu s-a reușit ici măcar emularea celui mai simplu creier de pe planetă, cel al unei râme, care conține aproximativ 300 de axoni. Iar interfețele om-mașină, cele pe care pariază Elon Musk, fondatorul Tesla, se reduc, într-un fel, tot la IA computațional. Se pare că fiecare om își codează amintirile și reprezentările într-un anumit fel, așa că nu s-a reușit transferul de informații de la un om la altul. Ceea ce reduce totul la o decodare și o re-codare digitală în simbolistica fiecărei persoane, deci tot la o problemă de IA ajungem.

O mențiune. O eventuală superinteligență nu trebuie, morțiș, să fie asemănătoare celei a omului. E în carte un pasaj foarte simpatic unde autorul ne invită să nu comparăm distanța dintre o eventuală superinteligență și un om extrem de inteligent, Einstein, spre exemplu, ca fiind sinonimă cu distanța dintre Einsten și prostul satului. Avem tendința de a antropomorfiza. Ar trebui, ne spune Nick Bostrom, să privim mai degrabă la diferența dintre om și albină. E ceva mult mai profund, care privește calitatea inteligenței și felul complet diferit în care se va ajunge la ea care va face ca diferența să fie mult mai mare decât cea dintre un geniu și un prostovan.

Controlul

Cea mai importantă problemă legată de eventualitatea apariției unei superinteligențe IA e cea a controlului. Cum avem grijă ca noi să fim cei care o stăpânim și nu invers. Cum o facem să lucreze în avantajul nostru și să nu ne transforme în sclavii ei. Cum o împiedecăm să instituie un unicatum, acea situație în care superinteligența devine stăpână absolută. Cartea se încheie chiar cu recomandarea ca umanitatea să nu se grăbească. Tocmai pentru a învăța, pentru a fi mai pregătiți și mai siguri pe noi că vom putea institui controlul asupra superinteligenței artificiale. Chiar și în ceea ce privește avansul hardware, foarte consistent în ultimii ani, Nick Bostrom invită la temperare. Vrea umanitatea mai inteligentă și mai atentă.

Duhurile sunt sistemele care primesc o comandă, o execută și apoi așteaptă următoarea comandă. Fix ca lampa lui Aladin. Oracolele sunt sistemele orientate pe găsirea răspunsurilor la întrebări. Oracolele sunt cele mai sigure, dar și duhurile sunt destul de domestice și pot fi controlate relativ ușor. Cele mai simple sunt sistemele de tip unealtă, pe care le avem deja împrejur, cum ar fi filtrele de spam de la e-mailuri. Dar cele mai complexe sisteme inteligente sunt suveranii, care au un grad înalt de autonomie și sunt foarte puțin domestice, neputând fi încarcerate.

Capitolul care mi s-a părut cel mai realist este cel care descrie scenariile multipolare, acelea în care vom avea mai multe inteligențe artificiale, nu una singură care să instituie un unicatum. E vorba de inteligențe artificiale care să lucreze, care să fie închise, repornite și replicate ori de câte ori este nevoie. Lucrători care devin din ce în ce mai buni și care vor face ca umanitatea să trăiască, într-un fel, pe seama lor.

Valori și scopuri

Alături de problematica controlului, chiar legată de ea, e problematica dobândirii de către inteligențele artificiale a valorilor umane. Spre exemplu, problema controlului ar fi rezolvată dacă inteligența artificială va avea valori umane. Sau dacă va avea scopurile pe care știm să le controlăm. Aici mi s-a părut o zonă foarte fertilă de speculații.

Am putea reprezenta explicit valorile pe care ni le dorim într-un sistem de inteligență artificială. Să le codăm, efectiv, înăuntru. Dar nici noi nu știm, ca oameni, foarte bine ce sunt și nici modalitatea prin care sunt scrise programele pe calculator nu lasă locuri de zone gri, interpretabile. Așa că această metodă pare foarte limitată. Mai degrabă ar trebui să lăsăm sistemul să învețe singur un set de valori și să-i dăm doar instrumentele prin care să-și asimileze valorile. O recompensă, spre exemplu. Dar nici doar cu o simplă recompensă nu merge, sistemul ar putea găsi ușor căi de-a ne ocoli și de a-și procura singur plăcerea. O altă modalitate ar fi acumularea de valori prin experiență, dar e posibil ca sistemul să ajungă la cu totul și cu totul alte concluzii și scopuri finale. Sau i-am putea da câteva valori intermediare pentru a-l ajuta să le dobândească pe cele definitive, dar sistemul inteligent s-ar putea folosi de primele pentru a crea alte valori. Încă nu știm cum să transferăm valorile, nici noi nu ni le reprezentăm prea bine. La fel cum nici scopurile nu ni le reprezentăm prea bine și avem aceleași dificultăți să transmitem scopurile pe care ni le-am dori pentru inteligența artificială. Pare-se că soluția, și aici, este să transmitem ceva cât mai vag, ce am dori noi în circumstanțe ideale, lăsând superinteligența singură să descopere ce am dori noi, umanitatea, de fapt.

Unde suntem azi

Nivelul de inteligență artificială la care am ajuns astăzi le-ar părea prea mic unora, dar suficient de înalt altora. Suntem, încă, departe de ceea ce Nick Bostrom vorbește, adică de inteligența artificială de nivel uman sau de o superinteligență. Însă am descoperit puterea rețelelor neuronale, care sunt foarte abile în a recunoaște formele și performează în acest domeniu suficient de bine încât să le putem compara cu omul. Echipamentele hardware devin din ce în ce mai puternice și mai accesibile, iar banii investiți sunt din ce în ce mai mulți. Deja avem aplicații de inteligență artificială utilizate zilnic pe telefoanele mobile. Celebrul Siri de pe iPhone, spre exemplu. Sau chiar Google, motorul de căutare. Ori programele care vă recomandă cumpărături pe diverse site-uri.

Avem un domeniu în care se vor investi teribil de mulți bani în perioada următoare și care este cea mai mare provocare pentru inteligența artificială: mașinile care se conduc singure. Tesla, compania fondată de Elon Musk, a lansat deja pe piață primele mașini care se conduc singure. Desigur, încă trebuie ținute mâinile aproape de volan și preluat imediat controlul. Dar, până prin 2025, mai toți producătorii mari auto își propun să aibă o soluție pentru autonomous driving. Iar cheia succesului aici sunt soluții hardware extrem de complexe, cu algoritmi de inteligență artificială care sunt deja pe procesor, ceea ce înseamnă că vor putea procesa cantități uriașe de date. Antrenate de firme specializate, mașinile vor putea recunoaște cu ajutorul acestor rețele situațiile din trafic și vor lua decizii singure.

Dar tot suntem departe de nivelul uman. Una peste alta, astfel de speculații ne ajută și pe noi să ne înțelegem mai bine, ca oameni. Cartea lui Nick Bostrom e consistentă și provocatoare. Ar fi putut fi și literatură, dar autorul a ales eseul. Lectură plăcută!

Despre Nick Bostrom puteți citi în acest articol al lui Doru Căstăian, dar și în acest articol al aceluiași autor, traducătorul cărții de față.