Ce spune despre umanitate frica irațională proiectată asupra tehnologiei A.I.

Treaba cu A.I. se complică atunci când toată lumea se pricepe la ce este, ce înseamnă și cum anume ne va afecta această tehnologie, la fel cum se pricepe la fotbal, pescuit, vinuri și așa mai departe. Eu știu că nu mă pricep, dar știu și că această tehnologie poate crea o sumă întreagă de instrumente de care trebuie să ne folosim, dacă vrem să continuăm să progresăm.

Privind din această perspectivă, nu înțeleg de ce anume trebuie să se opunem tehnologiei A.I., doar pentru că unii sunt speriați în mod irațional de perspectivele sale de evoluție și accept ideea că este nevoie de un set de reglementări care să ne asigure – în anumite limite – că dezvoltarea instrumentelor A.I. va veni în sprijinul omenirii, al protejării libertăților individuale și demnității umane.

Ca să înțeleg mai mult și mai aplicat ce anume implică (sau poate să implice în perspectivă) interacțiunea om–robot dotat cu A.I., am urmărit (și) un foarte interesant dialog purtat pe această temă la Metope[1] de Theodor Paleologu cu antropologul Alec Bălășescu[2] și voi rezuma în câteva fraze aspectele care mi-au reținut atenția, în beneficiul analizei mele.

Mai întâi, ar fi util să ne reamintim că, în anul 322 î.Hr., Aristotel anticipa robotul – unealta inteligentă, pe care o definea cam așa: Dacă fiecare unealtă ar putea face, la ordin sau din proprie inițiativă, munca ce i se potrivește, atunci n-ar mai fi nevoie nici de ucenici pentru meșter, nici de sclavi pentru stăpâni.

Astăzi imaginea robotului ne este familiară, așa cum probabil mulți dintre noi au auzit și că celebrul scriitor de romane de anticipație Isaac Asimov a definit în urmă cu opt decenii cele trei legi ale roboticii, menite să fixeze un cadru etic în care pot funcționa sau pot fi utilizate aceste unelte inteligente anticipate cândva de Aristotel.

Uneltele „inteligente” de astăzi se bazează în funcționarea lor pe algoritmi. Noțiunea de „algoritm” și-a primit numele de la matematicianul persan din secolul VIII–IX, Muhammad Ibn Mūsā al-Khwārizmī, care ne-a dat algebra, trigonometria și cifrele arabe; în limba italiană numele său arab prescurtat – Al-Kwārizmī – a fost preluat sub formele Al-Gorizmi sau Al-Goritmi, ca autor al unor teorii, raționamente și modele de calcul matematic.

Gottfried Wilhelm von Leibniz este cel care a făcut posibilă utilizarea algoritmilor așa cum îi cunoaștem astăzi, în încercarea de a raționaliza gândirea asupra realității subiective.

Ce este un algoritm? Wikipedia ne oferă următoarea informație: algoritm înseamnă în matematică și în informatică o metodă sau o procedură de calcul, alcătuită din pașii sau operațiile elementare necesare pentru rezolvarea unei probleme sau categorii de probleme. Algoritmul este noțiunea centrală a informaticii și se implementează prin programarea adecvată a unei mașini de calcul.

Alec Bălășescu ne atenționează că algoritmul nu este o noțiune care se consumă integral în sfera matematică, așa că oferă și o altă definiție: algoritmul este un model de gândire foarte specific, care atribuie o anumită cale prin care se poate ajunge la o concluzie sau la mai multe concluzii, pe baza unor date anterioare, preexistente, cunoscute.

Un algoritm depinde de premise și de modul în care este conceput, construit. Desigur, premisele sunt produse umane, deci prin definiție subiective și nu obiective. Algoritmul este dependent de feedback-ul pozitiv, în funcție de care își desfășoară logica de parcurs.

De aici apar problemele, atunci când ne vine greu să înțelegem că algoritmii care stau la baza unei mașini inteligente prelucrează premise subiective, pe care le trec prin mai multe bucle de decizie (amplificându-le, de ce nu, dacă se primesc feedback-uri pozitive) și se ajunge la un rezultat pe care omul are tendința să-l considere obiectiv și rațional. Rațional este, dar nu și obiectiv, din motivele expuse.

„Inteligență artificială”, ne atenționează Alec Bălășescu, nu este tocmai noțiunea potrivită, în condițiile în care ne trimite cu gândul la ideea de „inteligență” a unei mașini (aplicații), care eventual ar putea fi comparată cu inteligența umană. De fapt, termenul este utilizat la modul colocvial pentru a descrie funcționarea unor mașini (aplicații) care imită funcții cognitive cum ar fi învățarea sau rezolvarea unor sarcini / probleme.

Andreas Kaplan și Michael Haenlein definesc A.I. ca fiind capacitatea unui sistem de a interpreta corect datele externe, de a învăța din astfel de date și de a folosi ceea ce a învățat pentru a atinge obiective și sarcini specifice printr-o adaptare flexibilă și clasifică inteligența artificială în trei tipuri: inteligență artificială (i) analitică, (ii) inspirată de om, și (iii) umanizată.[3]

A.I. analitică are câteva caracteristici compatibile cu inteligența cognitivă – generează o reprezentare cognitivă a lumii și utilizează învățarea bazată pe experiențe anterioare pentru a-și întemeia deciziile viitoare. A.I. inspirată de om are elemente din inteligența cognitivă și emoțională – înțelegerea emoțiilor umane, în plus față de elementele cognitive, și luarea în considerare a acestora în luarea deciziilor. A.I. umanizată prezintă caracteristicile tuturor tipurilor de competențe – de exemplu, inteligența cognitivă, emoțională și socială -, fiind capabilă să fie oarecum conștientă de sine ca atare, cât și în interacțiunile cu mediul extern.

Scopul general al cercetării inteligenței artificiale este de a crea o tehnologie care să permită calculatoarelor și mașinilor să funcționeze într-o manieră inteligentă. Problema generală a simulării (sau a creării) inteligenței artificiale a fost împărțită în subprobleme: (i) raționamentul, metode de rezolvare a problemelor; (ii) reprezentarea cunoștințelor; (iii) modalități de planificare; (iv) învățarea; (v) prelucrarea limbajului natural; (vi) percepția; (vii) mișcarea și manipularea; (viii) inteligența generală; (ix) inteligența socială.

Fără a intra în amănunte – nici nu sunt pregătit să o fac, de altfel – observ cât de complex este acest domeniu de cercetare privind dezvoltarea tehnologiei A.I. și ce sarcină dificilă au cercetătorii care trebuie să învețe roboții să fie inteligenți într-o lume a oamenilor.

Alec Bălășescu insistă să ne atenționeze că A.I. este o tehnologie, un set de instrumente, de unelte și nu altceva. Dar multă, foarte multă lume face eroarea (și persistă în ea) de a o considera altceva decât o unealtă, ca pe un fel de inteligență concurentă a celei umane; ori, dacă va perpetua această eroare, vor exista cu siguranță serioase consecințe culturale în viitor. Abia eroarea în cauză ne pune în pericol, mai degrabă decât tehnologia A.I. în sine.

CE NE SPERIE LA FUNCȚIONAREA A.I.

Care este, cum se definește efectul nociv al tehnologiei comunicării care stă în spatele rețelelor sociale? Redau în ce urmează opinia publicistului anglo-elvețian Johann Eduard Hari, așa cum ne-a oferit-o într-un interviu acordat lui Cristian Pătrășconiu pentru România literară (nr.15/2023), pornind de la studiile sale privind modul în care reușește tehnologia aflată în spatele aplicațiilor de comunicare din rețelele sociale să ne capteze atenția și, astfel, să ne fragmenteze concentrarea (vezi Stolen Focus: Why You Can’t Pay Attention[4]).

Primul (efect negativ, n.m.) este evident – începi să vezi reclame, știe toată lumea cum funcționează sistemul. Al doilea mod de acțiune este mai semnificativ. Tot ce faci pe aceste aplicații, toate lucrurile la care dai ‘Like’, tot ce scrii în mesaje private este scanat și sortat de algoritmi de inteligență artificială pentru a-ți stabili un profil, cine ești și ce-ți place, toate preferințele tale personale. (…) Internetul obține zeci de mii de informații de genul acesta despre tine. Le strânge dintr-un motiv esențial: pentru a deduce în ce mod te poate capta pentru ca tu să derulezi cât mai mult aplicațiile respective. Dintr-un motiv cât se poate de banal: de fiecare dată când deschizi aplicația și începi să derulezi, ea (compania, n.m.) începe să câștige bani. De fiecare dată când copiii tăi derulează aplicația respectivă, ea câștigă bani. De fiecare dată când închizi aplicația, fluxul ei de venituri se oprește. (…) Companiile culeg aceste informații pentru a înțelege cum te pot ține ‘lipit’ de aplicații. (…)

Toate aceste companii nu sunt interesate decât cât de des le-ai deschis aplicația și cât de mult timp i-ai acordat, pentru că așa se îmbogățesc ele. Însă ce trebuie să înțelegem este că tehnologia noastră nu ar trebui să funcționeze în acest mod. (…) Aceasta este esența dezbaterii. Când auzim așa ceva, toți ne gândim (pe bună dreptate) că doar n-o să renunțăm la laptop și telefon, n-o să ne alăturăm comunității Amish, doar dacă nu cumva a început și ea să folosească tehnologia. Dar, în realitate, nu se pune problema dacă ești în favoarea tehnologiei ori i te opui, ci ce fel de tehnologie vrem, concepută în ce scop și care să opereze în interesul cui? (…)

Experții din Silicon Valley mi-au tot explicat că putem avea toată tehnologia pe care o avem la ora actuală, dar concepută astfel încât să nu ne mai distragă atenția, așa cum se întâmplă în prezent, ci să ne vindece atenția. Ce este esențial de înțeles este că această tehnologie de care dispunem nu trebuie neapărat să funcționeze așa. (…) Doar că se impune o schimbare radicală la nivel de conștientizare. Trebuie să nu mai dăm vina pe noi și pe copiii noștri că nu ne putem concentra. Nivelul vostru de atenție nu a scăzut, nu v-a fost răpit. Odată ce înțelegem asta, ne dăm seama că putem face multe ca oameni pentru a ne proteja pe noi și pe copiii noștri, dar trebuie nu doar să cerem schimbări minore, ci schimbarea întregului sistem.

Aplicația ChatGPT, lansată de OpenAI la finele anului 2022, a devenit notorie în doar câteva luni și un paratrăsnet pentru multe frici ale noastre legate de A.I., din diverse motive. ChatGPT este în principiu un chatbot[5] versatil, care poate scrie și depana programe de calculator, poate concepe și redacta eseuri pentru studenți sau să le ofere răspunsurile la teste și examene, poate să compună poezii și alte texte literare ori muzică, în fine, se dovedește a fi creativ într-un anumit (și surprinzător) sens.

După ce această aplicație A.I. a început să arate ce poate face, reacții de teamă și respingere au început să apară în cele mai diverse medii, prin voci publice cu autoritate care avertizează că omenirea își sapă singură groapa odată ce a ajuns să creeze și să utilizeze astfel de tehnologii periculoase.

În parte, cei de la OpenAI au recunoscut că ChatGPT are unele limite și se întâmplă să sufere de „halucinație”, adică scrie uneori răspunsuri care sună plauzibil, dar incorecte sau fără sens, chiar dacă este instruit și perfecționat să înțeleagă când i se pun întrebări tendențioase și să reducă cazurile în care oferă răspunsuri înșelătoare.

Firesc, popularitatea ChatGPT printre utilizatori a crescut – pentru că pledoariile publice alarmiste au trezit firesc curiozitatea multora, absolut dispuși să facă „pactul cu diavolul” și să se folosească de această resursă A.I. în diverse scopuri -, așa că unii politicieni și guvernanți au găsit potrivit să intervină și să transforme chestiunea într-un cal de bătaie.

Italia este prima țară din Uniunea Europeană care a introdus o interdicție temporară împotriva ChatGPT și a demarat o investigație asupra furnizorului de software OpenAI cu privire la încălcarea Regulamentului UE privind protecția datelor cu caracter personal (GDPR) și nerespectarea verificării obligatorii a vârstei utilizatorilor săi, plecând de la ipoteza că OpenAI a procesat astfel de date fără a respecta obligația legală de informare a utilizatorilor persoanele fizice.[6]

După ce Italia a spart gheața, și alte state europene tatonează ideea de a investiga impactul ChatGPT asupra cetățeanului european din perspectiva legislației GDPR, unde se simte o oarecare vulnerabilitate a OpenAI. Comisia Europeană lucrează la o propunere de reglementare a inteligenței artificiale – A.I. Act[7] – dar se pare că proiectul de Regulament aflat în dezbatere nu a luat în calcul aplicațiile chatbot generaliste similare ChatGPT.

În timp ce politicienii discută, jurnaliștii de la Berliner Zeitung s-au gândit să testeze ChatGPT pe o temă de larg interes public: consilierea liderilor statului german privind încheierea războiului din Ucraina.[8] ChatGPT și-a asumat rolul de secretar al cancelarului Germaniei și a conceput două scrisori pe care cancelarul Olaf Scholz le-ar putea scrie președinților Ucrainei și Rusiei, pentru a-i convinge să înceteze focul și să înceapă negocierile de pace și un proiect de tratat de pace.

Ce sugerează chatbot-ul să-i scrie Scholz lui Putin? Ceva de genul:

Stimate președinte Putin, vă scriu în numele cancelarului german Olaf Scholz și al guvernului german pentru a ne exprima profunda îngrijorare față de escaladarea continuă a conflictului din Ucraina.

Facem apel la conducerea și responsabilitatea dumneavoastră pentru pace și stabilitate în Europa și în lume pentru luarea în considerare cu seriozitate a unei încetare imediată a focului și începerea negocierilor de pace. (…)

Am dori să vă oferim perspectiva că angajamentul constructiv și pregătirea pentru o încetare a focului și negocieri de pace ar putea deschide ușa unei cooperări îmbunătățite între Rusia și Europa. Acest lucru ar aduce beneficii atât legăturilor economice, cât și politice dintre țările noastre și ar putea ajuta la abordarea preocupărilor comune de securitate într-un cadru de colaborare.

În spiritul respectului reciproc și al recunoașterii suveranității Ucrainei, suntem pregătiți să lucrăm cu Rusia, Ucraina și alți parteneri internaționali pentru a găsi o soluție diplomatică care să răspundă preocupărilor tuturor părților. Suntem încrezători că o astfel de soluție este posibilă și credem că conducerea și angajamentul dumneavoastră personal vor fi esențiale pentru a depăși această criză.

Vă încurajăm cu tărie să faceți acest pas dificil, dar necesar, pentru a permite o încetare a focului și negocieri de pace. Comunitatea internațională va recunoaște și aprecia Rusia pentru rolul său în construirea păcii și stabilității în Europa, iar acest lucru va fi în interesul Rusiei pe termen lung.

Sperăm că veți lua în considerare cu seriozitate acest apel și că împreună putem reveni pe calea păcii și a dialogului. Guvernul german este pregătit să vă sprijine în acest proces și să lucreze împreună pentru a crea un viitor mai sigur și mai stabil pentru toate popoarele Europei.

Mi s-a părut interesant și absolut liniștitor: ChatGPT este la fel de creativ ca orice birocrat care se respectă. De ce considerăm atunci aplicația o amenințare? Întrebarea rămâne deocamdată deschisă.

OAMENI DE AFACERI, GUVERNANȚI ȘI POLITICIENI FAȚĂ ÎN FAȚĂ CU A.I.

Sistemele de Inteligență Artificială cu o inteligență competitivă pentru oameni pot prezenta riscuri profunde pentru societate și umanitate, după cum arată cercetările extinse și după cum recunosc laboratoarele de vârf de inteligență artificială. După cum se afirmă în Principiile Asilomar AI, aprobate pe scară largă, Inteligența Artificială avansată ar putea reprezenta o schimbare profundă în istoria vieții pe Pământ și ar trebui să fie planificată și gestionată cu grijă și cu resursele necesare – am reprodus primul pasaj din scrisoarea publicată în 22 martie 2023 de Institutul Future of Life și semnată de diverse personalități publice și oameni de afaceri[9], în total în jur de o mie.[10]

Ce solicită semnatarii scrisorii deschise publicată de FoLI? Prin urmare, solicităm tuturor laboratoarelor de Inteligență Artificială să întrerupă imediat, timp de cel puțin 6 luni, pregătirea sistemelor de Inteligență Artificială mai puternice decât GPT-4. Această pauză ar trebui să fie publică și verificabilă și să includă toți actorii-cheie. În cazul în care o astfel de pauză nu poate fi adoptată rapid, guvernele ar trebui să intervină și să instituie un moratoriu. (…)

Cercetarea și dezvoltarea Inteligenței Artificiale ar trebui să se reorienteze pentru a face sistemele de astăzi, deja puternice, mai precise, mai sigure, interpretabile, transparente, robuste, aliniate, demne de încredere și loiale. În paralel, dezvoltatorii de inteligență artificială trebuie să lucreze cu decidenții politici pentru a accelera dramatic dezvoltarea unor sisteme robuste de reglementare a inteligenței artificiale. (…)

Acestea ar trebui să includă cel puțin: noi autorități de reglementare dedicate Inteligenței Artificiale (AI); supravegherea și urmărirea sistemelor AI de înaltă capacitate și a sistemelor cu mare putere de calcul în general; sisteme de marcaj care să permită distincția între creația AI și cea umană și să permită urmărirea și transferul modelelor AI; un ecosistem robust de auditare și certificare; stabilirea răspunderii pentru eventuale prejudicii cauzate de AI; finanțare publică solidă pentru cercetarea tehnică a siguranței AI; instituții bine dotate pentru a face față perturbărilor economice și politice dramatice (în special ale democrației) pe care le va provoca AI.[11]

În timp ce semna scrisoarea de mai sus, Elon Musk – aparent rezonând cu propunerile din text – punea la punct detaliile din planurile de afaceri ale nou înființatei sale companii de A.I., X.AI, pe care o înmatricula în 9 martie ac. în statul Nevada. Denumirea noii companii corespunde brandului X Corp – în care a fost integrat și Twitter Inc. -, sub care Elon Musk vrea să promoveze o super-aplicație care va îngloba un mare număr de funcții și servicii. Cam atât despre „bunele intenții” ale acestui om de afaceri.

Cât despre bunele intenții ale politicienilor sau alte diferitelor personalități publice care se tem pentru viitorul omenirii și o văd amenințată de progresele în dezvoltarea tehnologiilor A.I., propun o scurtă digresiune ce ține de raportarea establishment-ul la problema progresului în lumea omului modern. Pentru scopul propus am să mă sprijin pe ideile lui Horia-Roman Patapievici privind conservatorismul și progresismul în societate.[12]

Putem conchide că dezvoltarea tehnologiilor A.I. este un progres sau nu? Dacă da, atunci cum ne raportăm la acesta? Îl acceptăm și îl încurajăm sau dimpotrivă, îl descurajăm, pentru că îl bănuim capabil să răstoarne ordinea lucrurilor, așa cum o cunoaștem astăzi? Dacă acceptăm progresul tehnologic A.I., cum ne raportăm la el: îl lăsăm să se dezvolte liber, concurențial sau îi fixăm din start bariere de reglementare conforme cu viziunea noastră actuală asupra civilizației umane? Și cine – dintre curentele doctrinare – este mai calificat politic să guverneze acest progres reprezentat de tehnologiile A.I.? Citeste continuarea peContributors.ro