Versiunea .pdf

 Versiunea interactiva

Noi și/sau mașinile…

Am ales un titlu general, dar discuția care urmează este mai precis direcționată, spre preocupările care decurg din faptul că am intrat în cea de a patra revoluție tehnologică (e prea limitativ să i se spună „a patra revoluție industrială”, dar, pentru uniformitate, i se mai spune și astfel). Preocupări, adică temeri, semnale de alarmă. Motivate? Nemotivate?...
Schimbările induc totdeauna o stare de disconfort, toate revoluțiile industriale au fost însoțite de avertismente, unele realiste, altele exagerate, multe dintre ele neconfirmate. Fără a lipsi, însă, consecințele neplăcute.
Să ne reamintim pe scurt – remarcând că totul s-a întâmplat în ultimele două sute (și ceva) de ani, deci de curând și într-un ritm tot mai accelerat.
Acum două secole nu existau locomotive – dar se inventase motorul cu abur (care transforma energia calorică în lucru mecanic). Automobilul a apărut acum mai puțin de 150 de ani, cam pe atunci se făceau progrese „de utilitate publică” și în electricitate, dar a doua revoluție industrială este legată mai ales de proverbiala bandă de montaj a lui Ford. Nu numai tehnologie, ci și organizare, detaliu important. Revoluția a treia are de a face cu calculatoarele, automatizarea, deci cu informația – acum vreo jumătate de secol, poate un pic mai mult. Iar a patra revoluție este iarăși bazată pe organizare, cuvintele-cheie sunt conectivitatea, internetul, cloud-ul, plus sintagma de mult folosită, dar numai de curând cu adevărat materializată, inteligența artificială, IA pe scurt. Mai sunt și alte componente importante, cititorul este rugat să recitească articolele acad. Dorel Banabic din revistele pe februarie și martie.
Mașini inteligente?! În ce sens, cât de inteligente, eventual mai inteligente decât oamenii? Nu cumva atât de inteligente încât ne vor considera inutili? Întrebări care s-au tot pus, cu orientări ale răspunsurilor înspre toate direcțiile, de la optimism relaxat la previziuni sumbre. Vor fi fiind aceste avertismente la fel de hazardate precum cele privind, la începuturi, călătoria cu trenul? Voi urma în cele ce urmează alegerea pesimistă…
În primul rând, nu mai cred de multă vreme în „proverbul” materialisto-optimist cum că „omenirea își pune numai probleme pe care poate să le rezolve”. Ba chiar dimpotrivă...
Apoi, această a patra revoluție tehnologică este de un tip cu totul nou în comparație cu cele dinainte. Acelea aveau la origine progrese tehnologice, bine conturate, cu originea localizată, trecând apoi treptat de la o țară la alta. Acum, suportul acoperă întreg globul – internetul, avem de a face cu un sistem complex, de la care ne putem aștepta la salturi gen „efect de sistem” (de tipul trecerii de la miliardele de neuroni din creier la creierul-minte, cu o comportare care nu rezultă din însumarea liniară a comportării neuronilor). Iar un asemenea efect de sistem este potențat de faptul că discutăm nu numai despre inteligență, fie ea și artificială (evaluată pe sarcini precise, comparând performanțele cu cele umane, comportamental adică, nu plecând de la definiții), ci și despre învățare.
Fără panică, aici cred că apare un real pericol, deloc literar (SF): prin învățare (e o altă problemă și ce înseamnă aceasta), calculatoarele pot cu adevărat deveni mai inteligente decât oamenii: pro-gramul AlphaGoZero a învățat singur să joace GO, cunoscând numai regulamentul jocului, învingându-i pe cei mai puternici jucători ai planetei, ba chiar a făcut-o într-un mod care a motivat un titlu de genul „oamenii învață acum GO de la calculator” în celebra revistă Nature. (Un detaliu: programul face mutări de mijloc de partidă total „stranii”, dar, pentru că învinge de fiecare dată, înseamnă că acelea sunt mutările potrivite, chiar dacă de neînțeles pentru oameni.)
Prin învățare, calculatoarele pot produce algoritmi despre care nu știm cum funcționează și care, eventual, ne pot face rău. Un exemplu, ipotetic deocamdată, perfect plauzibil însă. Să presupunem că jumătate dintre automobilele dintr-un oraș sunt cu conducere automată, jumătate cu șofer uman. Mai presupunem că mașinile autopilotate sunt conectate fiecare cu fiecare și au ca obiectiv să minimizeze consumul total de carburant. Îmi pot atunci imagina o situație de genul următor: mașina automată A îi cere mașinii automate B să „șicaneze” intrarea într-o intersecție a unei mașini cu șofer, pentru că, altfel, ea, mașina A, va consuma cu 0,0005 litri de benzină mai mult. Înlocuiți orașul cu sistemul de autostrăzi din SUA, unde camioane cu pilot automat circulă deja (comunică între ele, dar nu învață, la nivelul rețelei).
Am rămas aici strict la competiția în zona inteligenței, cu accent pe învățare. Evident, mult mai apropiate sunt alte probleme, la nivel sociologic – șomaj, meserii care dispar, meserii care apar, inegalitate (a accesului la tehnologie) etc. sau, și mai grav – folosirea tehnologiilor informaționale în scopuri politice și militare – dezinformare, manipulare, arme de tipuri noi etc.
Toate aceste pericole sunt favorizate și de faptul că nu s-a cristalizat încă un set de norme, legi, obiceiuri privind „circulația prin cyberspațiu”, așa cum este cazul cu circulația locomotivelor și automobilelor – dar aceasta este o altă problemă, despre care se discută tot mai mult, deci se îndreaptă spre rezolvare.
Închei cu o butadă, aparent optimistă, a lui Moisil, răspuns la întrebarea „dacă vreodată calculatorul va fi mai inteligent decât noi”: sigur că da, dar nu va reuși niciodată să zâmbească…