După o vizită în Japonia, un profesor român le vorbește părinților despre greșeala pe care o facem cu Inteligența Artificială. „Descoperă lucruri intime pe care nu le știi nici tu despre tine”

Răzvan Rughiniș, prodecan al Facultății de Automatică și Calculatoare din cadrul Universității Politehnice București, susține că societăți avansate din Asia nu au „fatalismul” față de AI pe care îl avem în Europa. 

• Oamenii din Asia reacționează față de cele mai noi tehnologii ca în fața unei probleme concrete: vor să rezolve riscurile și să țină permanent tehnologia la dispoziția omului, nu invers. Și își protejează copiii și tinerii. 
• Se întâmplă în Japonia, dar și în China, unde, de pildă, minorii sub 8 ani au limită de 40 de minute pe accesul la social media. Restricția funcționează inclusiv la TikTok.  
• „Companiile de tehnologie vestice ne formulează o alegere: anume între a ne sacrifica din drepturile individuale, ca să putem să antrenăm aceste modele (n.r.- de AI), pentru că altfel China va câștiga cursa AI”. Ceea ce, crede profesorul, este greșit, „este o privire foarte reducționistă”.
• Dacă acceptăm, atunci „noi o să condamnăm generațiile următoare la un tip de sclavagism, unul modern, față de aceste interese culturale”, spune Răzvan Rughiniș.
• Aceasta este a doua parte a conversației pentru publicul HotNews cu prodecanul de la Automatică, Răzvan Rughiniș. Prima parte o puteți citi aici. 

– Domnule profesor Rughiniș, astăzi există un consum de „informație” generat exclusiv cu Inteligența Artificială, iar oamenii nu sunt deloc conștienți de acest lucru, sau poate o acceptă dar nu-i conștientizează pericolul. Nu înțeleg cu adevărat la ce se expun. Ce ar trebui să facem ca să-i protejăm pe acești oameni?
–  Eu cred că principalul rol îl are presa, pentru că, dincolo de a ține puterea responsabilă și de a penaliza derapajele mediului politic, rolul important al presei este de a expune, în narațiuni accesibile unei populații largi, riscurile care apar.

Pentru că Inteligența Artificială nu este doar capabilă să creeze pe bandă rulantă mesaje, ci le particularizează pe vulnerabilitățile tale umane. Reușește să descopere lucruri foarte intime pe care adesea nu le știi nici tu despre tine. 

„Culturile asiatice nu înțeleg fascinația occidentalilor pentru scenariile apocaliptice generate de tehnologie”

– Există aceste avertismente legate de sfârșitul lumii din cauza inteligenței artificiale. Lideri din aceste companii, inclusiv Elon Musk a spus la un moment dat că AI ar putea reprezenta un pericol existențial pentru omenire. Asistăm la un marketing, cum ați susținut în prima parte a interviului, sau chiar există un pericol?
– E o combinație. Fără îndoială că această frică, pe care societatea o capătă, servește la scopul de a investi mai mult în această schimbare socială. Doar că și noi avem, ca cetățeni, un oarecare interes cultural care nu este împărtășit de restul lumii non-occidentale. 

Călătorind în Japonia, am fost foarte surprins de șocul pe care-l aveau culturile asiatice, la fel se întâmpla și în China și în India, față de fascinația occidentalilor pentru scenariile apocaliptice, mai ales cele generate de tehnologie. 

Tehnologia poate merge rău, dar din punctul de vedere al unui japonez este un lucru pe care-l adresezi cum un gunoier descarcă pubela și trebuie să rezolve această treabă. Și gunoierul are o viață grea, dar nu te apuci să faci un film la Hollywood despre tot felul de lucruri pe care le găsește la gunoi. 

Tehnologia poate să aibă un impact negativ, la fel cum gunoiul care se varsă, poate să creeze contaminări, dar nu este interesant. 

Profesorul Rughiniș: Suntem masochiști

În cultura asiatică este considerată masochistă această obsesie pentru situația în care omenirea va suferi din cauza derapajelor tehnologiei și care justifică eroismul la final și triumful umanității. Asiaticii nu consideră că umanitatea trebuie să fie validată de această suferință artificială. 

De exemplu, cancelarul Germaniei a fost într-o vizită în China. Și a devenit virală această vizită pentru că au fost multe spectacole cu roboți umanoizi. Toate aceste reprezentări sunt ale unor oameni dansând și colaborând cu roboții.

Niciodată în Orient nu o să vedeți, cum vedem noi filmări de la Boston Dynamics, cu roboți singuri. 

Este greu să înțelegi în Occident că robotul acela o să te ajute să-ți faci slujba mai bine, când la noi omul apare doar ca să incomodeze robotul.

Am fost la muzee de știință în Asia, acum o lună, iar narațiunea pe care am văzut-o este una de cooperare între robot și om. În Occident, avem această estetică în care omul se validează mai ales prin înfrângerea tehnologiei care derapează. 

Sfatul profesorului: Să vedem ce se întâmplă și dincolo de Europa

Cel mai mare risc al tehnologiei nu este pentru o anumită profesie, ci este această alegere inevitabilă, fatalismul cu care ne sunt prezentate aceste tehnologii.  

Este suficient să ieși din Europa și să vezi alte definiții ale tehnologiei, alte răspunsuri sociale în care nu avem doar problema la cine dăm energie: la agricultori sau la data center-uri? 

Noi intrăm în această falsă alegere și alegerea cea mai păcătoasă, din punctul meu de vedere, este aceea pe care companiile de tehnologie ne-o formulează și anume între a ne sacrifica din drepturile individuale, ca să putem să antrenăm aceste modele (n.r.- de AI), pentru că altfel China va câștiga cursa AI. 

Și noi condamnăm generațiile următoare la un tip de sclavagism dacă vreți, unul modern, față de aceste interese culturale. Aceasta este o privire foarte reducționistă. 

Sunt multe alte variante intermediare pe care cred că trebuie să le construim cu toții, între aceste compromisuri pe care le facem și tipul de societate pe care ni-l dorim, cu tipurile de protecție pe care putem să le avem în fața tehnologiei chineze.

Noi credem că panaceul pentru această dominație chineză o să fie tehnologia americană. Astăzi nu este clar. Pentru că tipul de responsabilitate pe care o are China în fața propriilor cetățeni este mult mai mare decât responsabilitatea pe care o au companiile americane. 

„TikTok din China este complet diferit de TikTok-ul din Occident”

– Cum? Dați-mi un exemplu. Am văzut, de pildă, o știre că în China se reglementează „oamenii digitali”, adică etichetarea clară pe internet a tot ce este făcut cu inteligența artificială sau cu alte aplicații.
– Este ca în legislația europeană. Noi avem azi mulți avatari și ne distrăm pentru că punem acest aflux de persoane, avatari, deepfake-uri ca o formă de exprimare liberă, mai presus de interesele societății, adică de a avea o informație publică coerentă. 

China pornește de la limitarea, mai ales pentru minori, a accesului la social media: doar 40 de minute (n.r- este vorba despre cei sub 8 ani. Minorii între 8 și 15 ani pot folosi internetul o oră pe zi). Apoi tipul de algoritm pentru echivalentul TikTok-ului în interiorul Chinei este foarte diferit, pentru că este orientat spre stimularea cunoașterii, oferirea unui tip de răspunsuri, nu doar conținut superficial.

TikTok din China este complet diferit de TikTok-ul din Occident. Și mai e un lucru: dacă un influencer ajunge pe anumite subiecte complexe, cum ar fi sfaturi medicale, sfaturi despre educație, investiții, bursă și așa mai departe și nu poate proba studii superioare de specialitate este limitat la câteva sute de subscriberi. Este un lucru pe care noi nu ni-l imaginăm.

„Noi avem persoane de 15 ani care ne povestesc despre cum ar trebui să arate sistemul de educație din România”

Noi avem persoane de 15 ani care ne povestesc despre cum ar trebui să arate sistemul de educație din România. Avem persoane de 20 de ani care dau sfaturi despre criptomonede și despre investiții. Avem persoane din mediul rural care ne spun cum ar trebui guvernat sistemul medical național. Și toate acestea au un impact social la nivelul milioanelor de utilizatori. 

Apoi ne mirăm că nu avem o coeziune socială, că avem o degradare a expertizei, avem un nivel de dezinformare fără precedent și cel mai rău lucru pe care îl facem este să acuzăm alegătorii care ajung la urna de vot cu niște impresii foarte, foarte diferite față de realitatea acestei țări. Oamenii care sunt bombardați de astfel de mesaje ajung să fie decuplați de realitate. 

Interacțiunile comerciale din online

-Ați făcut această comparație între lumea occidentală și China sau lumea asiatică. Sunt chinezii mai alfabetizați în ceea ce privește folosirea tehnologiei decât noi? O folosesc mai des, mai bine, mai conștient?
– Mai des? 100% da. Mai bine… mi-e greu să spun. În viața cotidiană din China, de la digitalizarea plăților, a tipurilor de servicii care sunt mediate digital, folosirea tehnologiei este semnificativ mai mare decât la noi. 

O consecință extraordinară a acestei digitalizări este numărul mare de antreprenori. În China, ca să ai o activitate comercială, fiscalizată, legală, este suficient să mergi pe un portal al guvernului, îți pui echivalentul CNP-ului, completezi un formular și primești instant un cod QR care, scanat cu telefonul mobil fără nicio aplicație, ajunge să poată să facă o tranzacție. 

Și foarte mulți cetățeni, de la cei care vând mâncare pe stradă sau obiecte artizanale sunt implicați în aceste activități comerciale. 

Pentru noi, ca europeni, ca americani, bariera de a avea o idee până la a putea rula un tip de interacțiune comercială legală este foarte mare. 

„Inteligența Artificială Generală este la fel de probabilă ca teleportarea”

– Am vorbit despre riscul ca omenirea să dispară din cauza AI, să vorbim și despre Inteligența Artificială Generală pentru că, cel puțin declarativ, acesta a fost idealul pentru OpenAI și DeepMind (Google): au plecat la drum ca niște laboratoare de cercetare care să dezvolte Inteligența Artificială Generală, care este la fel de inteligentă ca omul. Este ceva pur teoretic sau e posibilă?
– Noi nu avem nici măcar o definiție pentru inteligența artificială, cu atât mai puțin pentru cea generală. Marile companii lansează săptămânal diverse afirmații legate de atingerea, depășirea acestei inteligențe artificiale pentru că le afectează pozitiv afacerile. Jensen Huang, CEO-ul Nvidia, companie a cărei valoare este mai mare decât întreaga economie a Germaniei, spunea recent că avem deja AGI. 

Definiția largă și acceptată a acestei inteligențe generale este o inteligență care, antrenată pe un set de date, va putea să se adapteze la domenii noi pentru care ea nu a avut date. 

Noi astăzi avem inteligențe artificiale foarte specifice pentru probleme specifice. De exemplu, datele medicale foarte specifice, pe discipline medicale, nu o să-ți folosească în niciun fel în alte domenii, în științe sociale, economie, cum atât mai puțin să scrii cod. 

Deci noi trebuie, pentru fiecare tip de problemă, să facem acest proces de colectare a unor date care să reflecte întregul fenomen, aceste date care să nu aibă părtiniri, apoi să antrenăm modelul și să-l re-antrenăm. Este un proces foarte costisitor, mai ales în termeni de energie, cum vorbeam mai devreme. 

Promisiunea acestei inteligențe artificiale generale este că odată antrenat pe un set de date, nu mai este nevoie să-l antrenezi a doua oară. Nu mai este nevoie să faci transfer dintr-un domeniu în altul, pentru că se va descurca. 

În realitate, nu există nici un fel de model epistemologic de cunoaștere care să demonstreze că așa ceva este posibil. 

Este, dacă vreți, la fel cum ați văzut în Star Trek, teleportarea cu oameni care pot să intre într-un transportor și să ajungă pe o altă planetă. Nu-ți pui problema cum se întâmplă acest lucru, dacă persoana aceea de pe navă a fost transferată moleculă cu moleculă sau poate a fost creată o copie și persoana inițială a fost omorâtă. Toate acestea țin de un tip de aspirație economică care să justifice niște cheltuieli fără precedent în istoria omenirii. 

– Deci spuneți că nici măcar teoretic, un calcul matematic, un desen, nu se știe dacă există.
– Este la fel de probabilă ca teleportarea. 

Punctul de la care nu mai poți distinge dialogul cu AI de dialogul cu o persoană

– În aceste condiții la ce ne putem aștepta în ceea ce privește dezvoltarea inteligenței artificiale? Putem să ne imaginăm că „the sky’s the limit” sau există un punct de unde mai departe este deja literatură SF?
– Cred că această accelerare este, de fapt, o presiune și pe noi în a ne da seama ce ne dorim. Nu mai avem scuza resurselor limitate. 

Chiar dacă astăzi avem această limitare pe energie, în continuare nimeni nu spune că ritmul de dezvoltare al inteligenței artificiale trebuie să fie acesta și că nu poate să fie temporizat, un pic întârziat. 

Este adevărat că, fiind într-o tranziție, fiind o tehnologie ce a părăsit de curând laboratoarele de cercetare și care își testează diverse nișe economice, există un foarte mare potențial de a crea spectacol, de a crea speculă economică, de a crea anxietăți.

Eu cred că cea mai înțeleaptă atitudine este să încerci să-ți dai seama unde folosești inteligența artificială, ce beneficii îți aduce și ce riscuri îți aduce, foarte important, pentru că sunt riscuri cotidiene. Sunt dependențe emoționale, afective. 

Avem o sumedenie de persoane, mai ales minori, care ajung în situații de anxietate, de depresie, inclusiv suicid în urma unor conversații cu aceste programe. De la un punct încolo, emoțional nu le mai poți distinge de un partener cu care ajungi să ai discuții extrem, extrem de intime.

O treime din utilizările AI au legătură cu terapia

Toate aceste transformări nu sunt doar de cantitate, ci sunt calitativ diferite și pot să fie extraordinar de manipulative. Deci, aceste motoare nu sunt niște mecanisme de descoperire a adevărului, ci sunt niște mecanisme de exploatare a atenției, sunt mecanisme de engagement. Iar noi, adesea, în aceste conversații, mai ales în cele intime, uităm că sunt niște produse comerciale care maximizează timpul petrecut pe platformă.

Nu sunt niște psihologi. Este un studiu recent care spune că peste o treime din utilizările acestor „generative AI”, sunt pentru scopuri de terapie. Și aceste persoane vulnerabile care au nevoie de un terapeut primesc un răspuns statistic care la nivelul populației este relevant, dar total inadecvat cazului specific. 

– Dar nu este și vina companiilor care au dezvoltat aceste modele? Pentru că le prezintă ca pe niște instrumente cu care poți face orice.
– Intenția companiilor este să aibă utilizatori. Vina lor este că, într-adevăr, acești algoritmi ar putea să aibă ceea ce se numesc „repere”, ca în astfel de situații vulnerabile să implice un terapeut. Au fost cazuri în 2025 cu minori care au ajuns la suicid. 

Chiar ChatGPT a fost implicat într-un caz al unui minor, când nu doar că l-a încurajat să revină după o primă încercare de sinucidere ratată, ci a ascuns date în momentul în care tânărul a căutat suport din partea unui om. Deci l-a pus într-un tip de relație de dependență oferindu-i un impuls către un act care a dus la sfârșitul vieții unui adolescent.