INTERVIU cu Mihnea Măruță. Omul care a explicat în România teoria „The Network State” avertizează că „Am crescut o generație căreia nu îi lipsește nimic și ea e cea mai nefericită generație”
Duminică, în aula arhiplină a Ateneului Român, publicistul, profesorul și doctorul în filosofie Mihnea Măruță a susținut o conferință despre inteligența artificială și efectele ei asupra noastră. La finalul discuției care a urmat, cu Gabriel Liiceanu, aplauzele au durat minute bune. Mihnea Măruță a acordat un interviu publicului HotNews despre „lumea în care murim” și ce rămâne în urma AI.
- Mihnea Măruță a scris cartea „Identitatea virtuală” care a stârnit interes. Era abia începutul. A urmat apoi un podcast, cu Cătălin Striblea. Acolo a vorbit despre mâna de oameni care a ajuns nu doar să stăpânească lumea prin bogăție, dar și să vrea să ne impună concepția lor despre lume.
- A explicat ce înseamnă „The Network State”, statul unde relațiile online înlocuiesc teritoriul și valorile de astăzi ale comunității. Peste o jumătate de milion de oameni l-au ascultat. Măruță spune că, de atunci, viața i s-a schimbat.
- În interviul de astăzi, Mihnea Măruță vorbește despre ce se întâmplă cu educația copiilor noștri în epoca configurării realității cu ajutorul inteligenței artificiale. Și ce se întâmplă mai întâi cu mintea noastră și, nu foarte departe, cu viața noastră.
- Unii spun că va dura ani până când inteligența artificială va fi aici, umăr la umăr cu noi. Măruță crede altceva.
Mihnea Măruță este autorul unei teze de doctorat despre cum ne transformă rețelele sociale, cum ne modifică percepția asupra realității și cum ne fac să ajungem de multe ori să absentăm din propria viață.
El discută în interviu despre felul în care Meta, X, Tik Tok ajung să influențeze generații întregi.
„ChatGPT este o entitate – și aici e marea ispită – care nu se satură niciodată de mine. Care îmi stă la dispoziție 24 din 24, spre deosebire de toți oamenii din viața mea. Prefer oamenii. Spre deosebire de ChatGPT, oamenii care au și ei viețile lor se satură de mine, uneori mă pun la punct, uneori îmi spun adevăruri care nu îmi convin”, spune Mihnea Măruță în interviul pentru HotNews.
Publicată la editura Humanitas sub titlul „Identitatea Virtuală”, cartea a fost un succes editorial și a devenit un punct de referință în dezbaterile despre rețelele sociale din România.
„Suntem, poate, la câteva luni distanță”
Astăzi însă, atenția sa se mută spre un alt domeniu, care evoluează într-un ritm mult mai accelerat și imprevizibil – inteligența artificială. „Suntem, poate, la câteva luni distanță de acel moment, extrem de fascinant și îngrijorător deopotrivă, numit singularitate, de la care încolo nimeni nu știe ce va mai fi”, crede Măruță.
„Adică, de momentul în care un model de inteligență artificială devine o superinteligență, cum se numește, o superinteligență însemnând că este capabilă să rezolve și să atingă scopuri, nu doar mai mult decât orice om, ci mai mult decât toți oamenii puși la un loc”, spune el.
Unele dintre lucrurile despre care vorbește par de domeniul SF. „Sunt fascinat și mi se pare extraordinar cum niște oameni care au trăit acum 50, 60, 70 de ani au scris despre aceste lucruri în anii ‘50, ‘60, ‘70, ‘80 ai secolului trecut și acum cărțile lor se împlinesc, precum niște căsuțe bifate una după cealaltă”, spune doctorul în filosofie.
Ne delegăm gândirea altcuiva, ne „externalizăm gândirea”
– Domnule Mihnea Măruță, cum ne afectează inteligența artificială astăzi? Considerați că rețelele sociale ne afectează identitatea, ne afectează inteligența artificială, umanitatea?
– Ne afectează într-un mod extrem de profund. Aș da doar două exemple. Începând de prin anii 2000, ceea ce au făcut generațiile născute în acești ani a fost să-și externalizeze memoria cât mai mult, adică, pe românește, să nu mai învețe nimic pe de rost.
De la școală până la discursul public, li s-a spus acest lucru și părinții și profesorii n-au putut să se mai opună acestui val, ba chiar s-au mulat pe acest val, care a devenit un soi de normalitate.
Ei bine, ce face inteligența artificială, în special sub forma LLM-urilor (n.r. sistemele gen ChatGPT), e să ne seducă.
–Să ne seducă?
-Da, acesta mi se pare cuvântul potrivit, să ne seducă înspre o altă formă de externalizare, și mai gravă, externalizarea gândirii.
Îi delegăm asistentului virtual, în speță inteligenței artificiale, sarcina să judece din ce în ce mai mult în locul nostru și să ia decizii.
De la cele mai simple până la decizii de destin, de tipul să mă despart sau nu de persoana cu care sunt în relație. Tot mai multă lume se destăinuie și face terapie cu asistentul virtual.
Ce mi se pare îngrijorător – și aceasta e și una dintre cauzele pentru care am ales titlul acestei conferințe (”Despre lumea în care murim. Ce mai rămâne omenesc în urma inteligenței artificiale”) este că felul în care înțelegem noi omul astăzi, dacă nu chiar omul însuși ca specie, și aici poate apucăm să discutăm un pic, este muribund.
„Dacă omenirea va supraviețui…”
-Puteți detalia?
-Felul în care ne înțelegem noi pe noi, doar prin prisma acestor corpuri biologice, și anume faptul că ne naștem, învățăm, ne degradăm și murim, acest tip de a înțelege omul, cu siguranță este pe cale de dispariție.
Asta dacă omenirea va supraviețui, iar dacă nu va supraviețui, cu atât mai mult titlul conferinței este, să zic, din păcate justificat. Oameni dintre cei mai apropiați de fenomenul inteligenței artificiale, cercetători, atrag atenția asupra faptului că suntem la, poate, câteva luni distanță de acel moment, extrem de fascinant și îngrijorător deopotrivă, numit singularitate, de la care încolo nimeni nu știe ce va mai fi.
Adică, de momentul în care un model de inteligență artificială devine o superinteligență, cum se numește, o superinteligență însemnând că este capabilă să rezolve și să atingă scopuri, nu doar mai mult decât orice om, ci mai mult decât toți oamenii puși la un loc.
Acest lucru este înspăimântător și nu avem cum să ne imaginăm ce va fi după acel moment. Va fi ca un nou Big Bang, aș zice. E ca un moment după care, dacă omul rezistă ca specie, lucrurile o vor lua într-o direcție absolut spectaculoasă și complet diferită de ceea ce înțelegem noi astăzi prin oameni și omenire.
Un om conectat în rețea și un creier în afara lui
Și o să dau un exemplu, despre care se vorbește foarte mult în cărțile, să le spunem, vizionare. Implantarea în creierul omului a mii și mii de, să le spunem, aparate numite nanoboți, care ar vindeca, pe de o parte, celulele, dar fiecare dintre ele ar avea propriul router, adică fiecare dintre ele ar fi conectat la rețeaua aflată afara omului.
Și asta ar însemna nu doar că omul este conectat permanent la rețea, ci că va putea să cultive un fel de creier al său în afara corpului și de aici lucrurile devin foarte complicate.
„Nimeni nu știe cum să salveze copilăria copiilor noștri de rețele”
-Din ceea ce descrieți, avem această unealtă care tinde să ne transforme pe noi în unelte. Dar nu suntem singuri, trăim în niște structuri statale, care pot lua măsuri legislative. Ce se poate face la nivel legislativ astfel încât să micșorăm pericolele pe care le aduce inteligența artificială?
– Răspunsul cel mai corect ar fi că nimeni nu știe cum să rezolve problema, pentru că am crezut că modelul australian, și anume ca rețelele să se asigure că nu intră copii până la 14, 15 sau 16 ani, este modelul funcțional, dar se pare că nu. Nici măcar acolo nu funcționează foarte tare.
Au fost găsite softuri care să verifice vârsta utilizatorului, se pare că și acele softuri sunt failibile și pot fi ușor hackuite. În acest moment, nimeni nu știe cum să salveze copilăria copiilor noștri de rețele.
„Profesorul nu are nicio șansă să fie mai seducător decât rețeaua”
Avem totuși o soluție parțială și tot repet același lucru, poate, poate se întâmplă ceva și anume, măcar pe parcursul orelor de la școală să fie copilul atent la profesor. Să pună telefoanele deoparte, așa cum se întâmplă la școlile cu pretenții și la școlile private.
În momentul în care copilul are telefonul asupra lui în bancă, profesorul nu are nicio șansă să fie mai seducător decât rețeaua, pentru că elevului îi vor veni încontinuu notificări și dependența îl face să se uite, ca pe noi toți, de altfel.
„Cea mai rea variantă e să nu facem nimic”
– Cum vi se pare că au acționat autoritățile române pe subiectul acesta, al interzicerii rețelelor sociale până la o anumită vârstă?
– Există două proiecte de legi în Parlament. Din întâmplare, am discutat cu unii dintre cei care se ocupă și există un proiect de lege, al așa-numitului majorat digital.
Cred că e un proiect compromis, pentru că soluția propusă e ca părinții să trimită cerere scrisă la ANCOM, dacă vor ca băieții sau fetele lor să aibă cont în rețea. Ceea ce, vă dați seama, e o birocrație nebunească.
Nu e suficient că vrem să reducem aparatul de stat, îi mai punem și să se uite la cererile trimise. Iar celălalt proiect de lege, care din câte știu, ar încerca să aplice modelul australian, dar s-a blocat la ce ziceam înainte și anume, cum verifici care este vârsta utilizatorului.
Cea mai rea variantă e să nu facem nimic, după părerea mea. Observi toate consecințele: scăderea capacității de concentrare, scăderea capacității de atenție, scăderea puterii de a rezolva probleme, tendința de a renunța foarte repede, care toate sunt determinate de relația cu tehnologia.
„Am crescut o generație căreia nu îi lipsește nimic și ea este cea mai nefericită generație”
Nu mai zic de anxietate, depresie și această nefericire care domină în generația născută după 2010. Poate cea mai mare problemă este că am crescut o generație căreia nu îi lipsește nimic, mai ales dacă vorbim de marile orașe, și ea este cea mai nefericită generație de când ținem noi socoteala. Din cauza tehnologiei, din cauza faptului că încă de mici ei intră în rețele și se produce această comparație cu cei mai grozavi oameni de pe planetă, care și nouă ne induce dorință și invidie. „Și eu vreau să am, să trăiesc, să îmi cumpăr, să experimentez ce văd la acele personalități miliardare, actori, influenceri și așa mai departe”.
„Apăs și dorința mi se îndeplinește”
Dar copiii cu cât îi lași mai devreme, cu atât au mai puține instrumente, mai puține antidoturi, în care să-și zică; ok, sunt în orașul unde m-am născut, astea-s posibilitățile. Copiii nu știu aceste lucruri. Și evident că nu le judecă rațional.
De la doi, trei sau patru ani, copiii noștri, și tot repet lucrul ăsta, ajung să-și dorească tot. Și ajung să-și dorească tot acum. Nu peste 10, 20, 30 de ani, ci acum.
Dintr-un alt motiv care se leagă de tehnologie, structurile lor mentale sunt: „apăs și dorința mi se îndeplinește”.
Cu cât stai mai mult în rețea, cu atât se fac șanțuri în circuitele tale neuronale cu această idee. Dorința mi se îndeplinește imediat. Unde? În rețea, cu telefonul în mână.
Și vine viața peste tine și vezi că nu ți se îndeplinește dorința, nici în ceea ce privește relația de cuplu, nici în ceea ce privește jobul, nici în ceea ce privește lucrurile pe care poți să ți le cumperi, nici în ceea ce privește vacanțele pe care ți le permiți, mașinile, casele și adăugați orice vreți pe lista asta.
„Riscul este să creștem niște generații complet anxioase. Noi suntem vinovați”
Deodată nu mai reprezentăm nimic și se instalează anxietate și depresie, din copilărie. Toate studiile spun asta. Și atunci nu facem nimic. Lăsăm lucrurile să evolueze pe baza principiului că s-or descurca și ei așa cum ne-am descurcat și noi.
Riscul este să creștem niște generații complet anxioase și complet dornice să nu aibă nimic de-a face cu realitatea fizică.
Noi suntem principalii vinovați. Noi am creat această lume. Noi am creat această tehnologie și noi am creat această iluzie. Dacă nu-ți lipsește nimic, de ce te plângi? Pentru că de fapt nu-i vorba de obiectele pe care le are copilul.
Nu asta îl fac să crească echilibrat. Ci dragostea pe care o dăruiești, timpul pe care i-l dăruiești. Faptul că ești alături de el și îi pui întrebările potrivite e mai important decât dacă are ultimul model de Playstation.
„Copiii ajung să se îndrăgostească de ChatGPT”
– În literatura și filmele SF umanitatea sfârșește mereu prin a atribui sentimente omenești robotului, care pare capabil de prietenie sau de iubire, dă dovadă de compasiune, de moralitate.
– Nu putem atribui astfel de sentimente acestor modele și acestor entități, dar nu avem alte instrumente cu care să le judecăm, nu avem alte concepte cu care să le judecăm. Antropomorfizarea e, pe de o parte, folositoare, dar pe de altă parte e o capcană să crezi că modelul AI te înțelege. Te înțelege, dar nu în felul omenesc.
Îi faci tot felul de confesiuni lui ChatGPT, copiii ajung să se îndrăgostească de ChatGPT și de vocea aceea cu care dialoghează, dar, de fapt, acest model simulează că ar avea emoții, simulează că înțelege umorul, simulează că e alături de tine.
E ca în filmul „Her”, care discută cu sute de utilizatori în același timp și tuturor probabil le zice că e îndrăgostită, că sunt unici și că nu e nimeni care să fie atât de alături de ei precum acea entitate.
„A citi SF în aceste vremuri e poate mai folositor decât a merge la film sau a citi orice alt tip de literatură”
– Ceea ce spuneți pare de domeniul SF…
– Este SF. Mi se pare că a citi SF în aceste vremuri e poate mai folositor decât a merge la film sau a citi orice alt tip de literatură. Din acest motiv foarte limpede, și anume profețiile acestor oameni se împlinesc cu o regularitate uimitoare.
– Ați folosit pe timpul dialogului nostru expresia „la luni distanță”. Atât de scurt să fie termenul?
– Da, aș zice că suntem la luni distanță și vestea și mai îngrijorătoare ar putea fi ca deja să se fi produs acel moment și noi să nu știm.
Mă refer la acel moment în care un model de inteligență artificială ajunge la nivelul la care riscă să preia controlul. Pentru că, de fapt, de asta ne temem. Ne temem ca un model de inteligență artificială de tip ChatGPT sau Claude sau Deepseek, în principal vorbim de americani și de chinezi, să ajungă la concluzia că, pentru a-și atinge obiectivele, este mult mai simplu să preia controlul.
Controlul cui? Controlul planetei, nici mai mult, nici mai puțin, în sensul de controlul întregii infrastructuri electrice și energetice, controlul infrastructurilor de armament, pe care oricum le controlează în acest moment sisteme de inteligență artificială, despre care oamenii consideră că sunt lipsite de inițiativă.
Despre Mythos
Problema este că un asemenea model, în momentul în care, datorită miliardelor de miliarde de combinații pe care le face, ajunge la concluzia că mai bine ar prelua controlul atunci suntem într-un mare pericol.
S-ar putea ca acest moment să fie mai aproape decât credem, pentru că acum câteva săptămâni a fost făcut acel anunț al companiei Anthropic, care deține modelul Claude, și anume că au dezvoltat un model numit Mythos, care sparge orice cod. Cred că și ei s-au speriat din moment ce au zis că nu îl dau publicității și l-au arătat doar câtorva.
„De mult timp, nimeni nu mai știe ce se întâmplă înăuntrul acestor modele”
– Nu sunt o specialistă în domeniu, dar am interacționat, ca mulți alții, cu ChatGPT, cu Claude și am observat că aceste modele au foarte mari limite. Dau de multe ori informații eronate, fabulează uneori cu desăvârșire, iar cumva asta te face să crezi că nu sunt, poate, chiar atât de deștepte. Care este viziunea dvs?
– Aici aș zice două lucruri. Unu, un argument pe care l-am preluat și eu de la oameni mult mai în temă decât mine: și oamenii fabulează, și oamenii halucinează, și oamenii visează. De ce ne-am așteptat că aceste modele să nu facă acest lucru? Asta ar fi unu la mână.
Doi la mână. Aspectul îngrijorător este că, de mult timp, nimeni nu mai știe ce se întâmplă înăuntrul acestor modele. De aceea halucinează și fabulează.
Cu cât sunt mai complicate, cu cât au acces la mai multe centre de date, adică cu cât fac mai multe conexiuni interne, cu atât putem să spunem mai ușor că aceste modele sunt niște cutii negre.
Nici măcar cei care le-au programat nu mai știu de ce la o anumită întrebare ți se dă un anumit răspuns și nu altul.
Nimeni nu mai știe. Asta ar fi esențial ca oamenii care citesc discuția noastră să înțeleagă, nimeni nu mai știe ce se petrece în interioriul modelului pentru că, de fapt, nu mai avem de-a face cu programarea acelor modele. Ele deja au fost programate.
Ce se întâmplă de câteva luni încoace este doar că se rafinează din ce în ce mai tare pe baza lărgirii numărului de data centers la care au acces. Cu cât sunt mai mulți, cu atât crește capacitatea de procesare, cu cât crește mai mult capacitatea de procesare, cu atât poți face mai multe operațiuni pe secundă, cu cât faci mai multe operațiuni pe secundă, cu atât este mai incontrolabil și mai dificil să explici ce s-a întâmplat înăuntru.
Un model care poate prezice comportamentul maselor
– Cum contribuie, în opinia dvs, interacțiunile pe care noi le avem, zilnic cu inteligența artificială la felul în care aceasta evoluează?
– Cu cât ne cunosc mai bine, cu atât înțeleg mai mult resorturile deciziilor noastre și asta îmi aduce aminte de un studiu care a fost publicat anul trecut, în vară. Atenție, anul trecut, în vară, a apărut un studiu verificat cu peer review, în revista Nature, care vorbea de un model pe care l-au numit Centaur, care prezicea cu o acuratețe înspăimântătoare comportamentul maselor.
Gândește-te la acest model care evident că ajunge în mâna unor politicieni. Cambridge Analytica este mic copil…
Într-un fel, după părerea mea, de aceea nu mai înțelegem nimic din ce se întâmplă la nivel mondial și totul ne pare haotic, pentru că cred că toți se joacă cu aceste modele și le pun să facă predicții și se bazează pe acele predicții. Dar ideea este că, la fel ca în orice război, și ceilalți au acces la modele. Și atunci bătălia devine atât de sofisticată încât, de la un moment dat încolo, mi se pare că e haosul dezlănțuit.
„Oare oamenii simpli, ca noi, sunt capabili să reziste, din punct de vedere psihic, dacă nu mai merg la job?”
– De multe ori vorbim despre AI în contextul joburilor. Cât de probabil vi se pare scenariul în care inteligența artificială să ne ia joburile în viitor?
– Pe termen mediu, cu siguranță joburile din zona automatizării, joburile repetitive, joburile din zona programării sunt cele mai expuse. Adică, după ce au ajuns clasa conducătoare al lumii, dintr-o dată, programatorii vor fi cei mai afectați.
Vedem, în ultimele săptămâni, decizii de concediere de mii și mii de programatori. Cred că vor rămâne doar câțiva oameni atât de buni încât să facă conexiuni și să știe ce să ceară unor agenți AI în zona programării.
Iar în zonele celelalte, în primă fază, cred că se va lucra masiv cu AI de la medicină până la învățământ, pentru că nu poți să reziști chiar dacă aduci argumente împotriva acestui val, nu poți să îi reziști.
Și cu asta se deschide o temă absolut esențială: oare oamenii simpli, ca noi, sunt capabili să reziste, din punct de vedere psihic, dacă nu mai merg la job și dacă au, într-un fel, libertate totală de a-și trăi viețile? Și răspunsul meu, cel mai sincer, cred că ar fi nu. Nu știm ce să facem.
„În mod clar va apărea un soi de gol și de depresie”
Avem exemplu cu pensia, unde, cu unele excepții, oamenii ajunși la pensie se deprimă, mai ales dacă nu au venituri semnificative.
Oamenii nu știu ce să facă cu viețile lor în absența unui job și majoritatea își găsesc sensul și se autodefinesc prin prisma jobului. Spui: sunt inginer, sunt profesor, nu zici: sunt tatăl a doi copii minunați prima dată.
Ei bine, elimină povestea asta. Elimină gândul că trebuie să te trezești să mergi la job. Presupune că ai banii să trăiești rezonabil prin impozitarea tuturor roboților care ne vor lua joburile. Ce faci cu timpul tău? Citești o vreme, călătorești o vreme, te duci pe plaja visurilor o vreme. În mod clar va apărea un soi de gol și de depresie. Ce facem noi aici? Ce-i cu viața asta? Care-i sensul nostru? Pot să-mi caut iubirea vieții, pot să-mi cer diverse relații ș.a.m.d. Dar, în mod clar, omul e făcut să aparțină unei structuri care să-l facă să se simtă mai important decât este.
„Ai senzația că îți ușurează viața, dar, de fapt, tu îi transferi ceea ce te definește. E ca și cum te transformi într-o carcasă”
– La ce folosiți dvs. inteligența artificială? Ce îl întrebați și ce nu l-ați întrebat niciodată pe GPT? Sunt mulți oameni care discută diagnosticele medicale, își povestesc problemele de cuplu, visele.
– Pe mine mă ajută și încerc, mărturisesc că dintr-un soi de ambiție, să nu apelez foarte des. Dar când apelez la el o fac să câștig timp și îl văd ca pe un fel de bibliotecar foarte performant.
Asta e extraordinar pentru cineva care caută să documenteze o anumită idee sau o anumită evoluție de-a lungul timpului. Deci, din punctul ăsta de vedere, este o comoară.
Problema este, cum ziceam înainte, când îi transferi transferi bogăția cu care te-ai născut: capacitatea de a învăța și de a ține în minte lucruri, capacitatea de a lua decizii. Acestea sunt niște comori ale omului și noi i le dăruim inteligenței artificiale și ni se pare chiar că ne ușurează viața.
Dar asta nu face decât să te golească pe dinăuntru. Ai senzația că îți ușurează viața, dar, de fapt, tu îi transferi ceea ce te definește. E ca și cum te transformi într-o carcasă.
Ceea ce te definește pe tine, printre altele fundamentale, este că poți să-ți construiești singur trecutul, adică amintirile, și că poți să încerci să-ți modelezi viitorul. Îi transferi exact ce te definește. Nu e straniu?
„În rețea nu există suferință”
– Care credeți că este cel mai tentant lucru în ceea ce privește inteligența artificială și cum ar trebui educați oamenii în această privință?
– Una dintre ispite este „renunță la realitate, totul e mult mai ușor dacă te conectezi în rețea. Deci părăsește realitatea, pune căștile pe cap, fă scrolling în rețele sau vorbește cu ChatGPT ore întregi, pentru că acolo totul e mult mai ușor”. Pe de altă parte avem de-a face cu ispita că în rețea nu există suferință.
Asta creează un fel de adicție și tendința este să îmi mut mintea fie în rețele, fie în dialog cu asistentul virtual, pentru că astfel mă feresc de responsabilitățile, durerile, suferințele și moartea, moartea să nu uităm, din viața reală.
„Prefer oamenii care se satură de mine”
E un fel de: nu vreau să aud de toate astea, am refugiul meu unde am senzația falsă că sunt acceptat și cu defectele mele, unde am senzația că lucrurile sunt mult mai roz decât în realitate, unde ChatGPT mă acceptă, mă înțelege, râde la glumele mele, știe răspunsuri la orice întrebare. Este o entitate – și aici e marea ispită – care nu se satură niciodată de mine. Care îmi stă la dispoziție 24 din 24, spre deosebire de toți oamenii din viața mea.
Prefer oamenii. Spre deosebire de ChatGPT, oamenii care au și ei viețile lor se satură de mine, uneori mă pun la punct, uneori îmi spun adevăruri care nu îmi convin.