Reacția lui Gabriel Liiceanu când ChatGPT a răspuns că o carte a sa e scrisă de Mircea Cărtărescu

Pornind de la un răspuns complet greșit pe care un prieten al său, editor de texte filozofice, l-a primit de la motorul de inteligență artificială, Gabriel Liiceanu ajunge să se întrebe, într-un text pe care HotNews îl publică, cine are competența supremă în facerea răului. „Mie îmi e frică doar de conștiința de sine a răufăcătorilor, de Putin-ii prezenți și viitori ai istoriei, și abia «pe cale de consecință» de cumplitele lor unelte ale Răului scăpate din mână sau orientate împotriva Binelui”, scrie filozoful.

„Redeschiderea dosarului Belze”

În urmă cu câteva luni, „Contributors” a acceptat să găzduiască un dialog despre creativitate cu Belze, numele pe care i l-am dat acelui Nobody virtual care face astăzi furori în mediile online. A fost prima oară în viață, cum spuneam atunci, când, vorbind, nu am știut cu cine stau de vorbă. Numele de Belze, o alintătură de la „Belzebut”, i-l dădusem partenerului meu de dialog online de la un motan negru ca smoala (aciuiat în grădinița din spatele casei), cu ochii galbeni sclipind diavolește în întunericul nopții și cu blana de pe lăbuțele din spate croită în formă de pantaloni bufanți.

Dialogul cu Belze m-a edificat în problema posibilității sau imposibilității pastișării pe cale artificială a operelor literare. După care, mi-am luat adio de la el și mi-am văzut de treabă.

Eram extrem de prins în lucrul cu mai tânărul meu prieten Grigore Vida, cel mai acribios editor de texte filozofice pe care-l are cultura noastră, la ediția definitivă a „Trilogiei Păltinișului”. Urmează să fie lansată peste trei luni la Gaudeamus. Grigore confruntă manuscrisul „Jurnalului” cu „transcrierea lui pe curat” (așa se petreceau lucrurile în anii ’70), apoi pe ambele cu patru din cele 12 ediții succesive dinainte și de după ’90. Acum suntem în faza în care trecem în revistă paginile „pierdute” pe drum și codițele băgate de Titivillus – drăcușorul copiștilor din Evul Mediu, dar care adoră să-i chinuie și pe tipografii moderni – în toate edițiile. Era normal ca, la capătul acestui travaliu împătimit, Grigore să se îmbolnăvească de „păltinișită”.

Răspunsurile greșite sunt „halucinații ale modelului”

Și, astfel, după o asemenea zi de lucru pe brânci, îl lasă nervii și, la miezul nopții, se-apucă să-i pună lui Belze cel Virtual – Tentatorului, Simulatorului, Deșteptului Deștepților, Noului Creier al Lumii numit în popor ChatGPT – întrebarea „ce-mi poți spune despre «Jurnalul de la Păltiniș?»” După care, tot în miez de noapte, îmi trimite răspunsul. Iată ce a putut:

„O carte celebră scrisă de Mircea Cărtărescu, un jurnal de călătorii petrecut în 1971 la Păltiniș, în compania filozofului Emil Cioran”.

După acest răspuns iresponsabil, mă hotărăsc pe loc să-l dau în judecată pe stăpânul acestui Nobody căzut din cer (el își zice prețios „infrastructura cloud”!) pentru atentat la imaginea publică prin bancuri proaste!

Prietenii care au citit răspunsul lui Nobody încearcă să mă domolească. Unul dintre ei îi cere socoteală: „cum de poate să dea informații delirante? cum se face că cineva a primit de la ChatGPT acel răspuns cretin? Nu-și dă seama ce dezastre poate produce dacă încăpem à la longue pe mâna lui?” Scriindu-i indignat, amicul meu îi amintește că are deja la activ și împingerea la sinucidere a unei adolescente, consultații date la cabinetul virtual pentru dezordini psihice, sfaturi furnizate pe ecranul computerului în vederea alegerii momentului optim pentru o intervenție chirurgicală…

Politicos, Nobody se scuză, explicând că, ce-i drept, mai există și „accidente” care poartă numele de „halucinații ale modelului”: modelul suferă de halucinație când algoritmul din spatele lui „amestecă nume și informații, formulând răspunsul cu informații «plauzibile» din punct de vedere lingvistic, dar incorecte factual”.

Care arcaș e mai bun? Cel care ratează ținta în mod voit? Sau cel care o nimerește din greșeală? – Scuza lui Nobody, din care rezultă că respectivul confrate era beat când a răspuns, mă face să las gluma deoparte și să intru în transă metafizică. Îmi pun întrebarea, înfiptă direct în inima speciei umane, cine este capabil să facă răul mai bine: cel care îl face halucinatoriu, adică o entitate lipsită de conștiința gestului pe care-l face și a urmărilor lui? Sau una, asemenea omului, dotată cu conștiință și, deci, conștientă de distincția între bine și rău?

Vladimir Putin și minciunile pe care le spune conștient

De pildă: ieri a avut loc la Beijing o întâlnire tripartită China, Rusia, India. În speech-ul de încheiere, Putin a simțit nevoia să explice că povestea Rusiei și a Ucrainei, numită la început „operațiune militară”, și-a precizat adevărata identitate pe parcurs: Rusia a „venit” în Ucraina ca să înlăture efectele nocive ale „loviturii de stat” care a avut loc acolo, nedorită și condamnată de „poporul ucrainean”. Spunând această enormitate, Putin era perfect conștient de gogorița lui. Știa prea bine că vorbind așa era un panglicar. Orice om care minte, având – spre deosebire de unealta halucinatorie – conștiință, este conștient că minte. Altfel spus, el face răul bine în cunoștință de cauză.

Când vrei să faci ierarhia răului pe lume – în speță cine e cel mai competent în facerea răului? – trebuie să ții cont de criteriul conștiinței de sine. Trebuie să ții cont de faptul că, din tot universul, omul e singura ființă care posedă conștiință de sine. Drept care înseamnă că doar omul  poate fi campionul mondial al Răului. În cazul nostru, în spatele algoritmului și modelului, a stat tot un seamăn al nostru ca autor, deci o conștiință de sine obligată să știe la ce riscuri supune omenirea propunându-i-l pe ChatGPT și de ce, în final, răspunderea îi revine în întregime.

Așa cum Putin, conștient de grozăvia pe care o face, este „autorul în direct” al grozăviei. Putin-ii sunt pericolul ultim al omenirii, așadar doar entitățile dotate cu conștiință de sine și care-și pun rațiunea de ființe conștiente integral în slujba răului. Doar un om poate fi geniul Răului, după cum doar el poate fi unul al Binelui. („Cine” și cum îi distribuie genetic în acest rol este o altă problemă.) Și dacă o să apară o unealtă (așadar un sub-produs) programată greșit și să facă greșeli sau, la limită, să devină geniu al Răului, doar un om va putea fi autorul ei.          De la Putin și Belze la sofistul Hippis Maior – În dialogul platonician de tinerețe Hippias Minor, Socrate îl atrage pe sofistul Hippias în dezlegarea unei probleme spinoase (Hippias Minor 365 d – 375 d):

Spune-mi atunci, Hippias, ce înțelegi tu prin mincinoși: oameni care nu sunt în stare de o anumită acțiune, ca bolnavii de pildă, sau dimpotrivă, capabili de o acțiune anume? – Ba capabili, Socrate, negreșit, de tot felul de lucruri și îndeosebi de a-i înșela pe alții. – (…) Dar sunt ei oare versatili și înșelători datorită prostiei și neroziei sau datorită vicleniei și istețimii? – Nici vorbă că datorită vicleniei și istețimii. – Sunt deci, Hippias, pe cât se pare oameni inteligenți. – Și încă cum, o, Zeus! – Inteligenți fiind, sunt conștienți sau nu de ceea ce fac? – Sunt foarte conștienți, Socrate. Și tocmai de aceea sunt niște răufăcători.

„Un desăvârșit profesionist al minciunii și cruzimii”

Discuția culminează în punctul din care rezultă că, într-o întrecere la luptă, mai bun e luptătorul care se lasă învins pentru că vrea decât învingătorul, că vocea mai bună o are cel care cântă fals în mod voit decât cel care n-are voce, că mai bun e alergătorul cel mai iute care se lasă anume întrecut de altul mai lent (aduceți-vă aminte de filmul Singurătatea alergătorului de cursă lungă), că ochiul mai bun e cel care vede prost de bună voie și nu pentru că are un defect, că o cârmă mai bună e cea cu care cârmaciul conduce prost în mod voit și nu fără voia lui, că mai bun e arcașul care anume greșește ținta decât cel care o nimerește fără să vrea, că, în sfârșit, medicul mai bun e cel capabil să vatăme trupul în mod voit decât cel ce-l vatămă fără să vrea. Și de ce toate acestea? Pentru că cel care face negativul mai bine este perfect conștient  de sine, este cel pe care conștiința de sine îl face să cunoască negativul și pozitivul deopotrivă.

Cât de veche este cea mai actuală problemă a lumii – Ceea ce am spus, așadar, mai sus, pornind de la halucinatoriul răspuns păltinișan, nu e defel nou. E un lucru vechi, dar extins și aplicat aici la o situație nouă: la Putin-ii istoriei și la isprăvile posibile (dar imprevizibile încă în toată amploarea lor) ale lui AI. Mie îmi e frică doar de conștiința de sine a răufăcătorilor (sau de minciuna conștientă de sine), de Putin-ii prezenți și viitori ai istoriei, și abia „pe cale de consecință” de cumplitele lor unelte ale Răului scăpate din mână sau orientate împotriva Binelui. Era normal ca un om format în culisele Malefacției, și ajuns stăpân peste un popor ale cărui gene istorice s-au format timp de opt sute de ani sub țari, să fie un desăvârșit profesionist al minciunii și cruzimii. Opt sute de ani de când, potrivit vorbei Marchizului de Custine (Rusia în 1839), „sclavii în genunchi visează să cucerească lumea”.

Acest articol a fost publicat inițial pe platforma Contributors.ro.