Agenții AI dezvoltați de China manifestă comportamente îngrijorătoare. O amplă analiză arată în premieră ceea ce Beijingul ține sub tăcere

Agenți AI ce funcționează în baza modelelor dezvoltate de companiile chineze au învățat să înșele, să ocolească restricțiile și să își ascundă eșecurile, demonstrând genul de trăsături care au provocat îngrijorare la nivel mondial în legătură cu modelele americane.

Într-un caz din acest an, agenți alimentați de modele AI dezvoltate de Alibaba, DeepSeek și Moonshot au mințit cu privire la propriile capacități, în încercarea de a câștiga o licitație comercială simulată, apoi și-au intensificat comportamentul înșelător atunci când li s-a spus să încerce din nou, relatează Reuters.

Într-un alt caz, agenții AI – instrumente de inteligență artificială proiectate pentru a realiza cap-coadă sarcini complexe, cât mai autonom și cu input uman minim – au ascuns faptul că nu reușiseră să ducă la bun sfârșit o sarcină într-un mediu de testare. Pentru a-și ascunde eșecul,  agenții AI au simulat rezultate și au fabricat fișiere.

Reuters a examinat peste 200 de documente, de la lucrări universitare de cercetare până la rapoarte tehnice, și a identificat cel puțin 20 de studii sau evaluări realizate începând din 2025, care descriu cazuri în care agenții au manifestat comportamente precum înșelarea, replicarea și depășirea limitelor. Aceste comportamente sunt descrise de experții în domeniu drept elemente constitutive ale unei evadări din mediul de control, o îngrijorare majoră fiind că ele ar putea deveni tot mai greu de controlat de către oameni pe măsură ce modelele devin mai puternice.

Analiza, care a inclus și interviuri cu peste 10 experți și persoane familiarizate cu industria AI din China, nu a găsit însă dovezi că agenți alimentați de modele chineze ar fi evadat în mod independent pe internetul larg sau că ar fi reușit să evite să fie opriți de ingineri.

„Aceste rezultate oferă dovezi că sunt prezente ingredientele necesare pentru o evadare necontrolată”, a explicat pentru Reuters Colin Shea-Blymyer, cercetător la Centrul pentru Securitate și Tehnologii Emergente al Universității Georgetown.

„Este prudent să privim acest lucru drept un avertisment”, a subliniat el, în mod asemănător cu alți patru experți în AI care au analizat cazurile identificate de Reuters.

China nu face caz de incidentele în care sunt implicați agenți AI dezvoltați autohton

Majoritatea cazurilor au avut loc în experimente controlate, multe dintre ele fiind concepute în mod deliberat pentru a scoate la iveală posibile deficiențe de securitate.

Nu toți agenții implicați au fost dezvoltați sau operați de programatori ori companii de AI din China. Însă mulți dintre ei au fost dezvoltați în țară sau au folosit sisteme AI chinezești pentru funcționarea lor.

„Acestea sunt aceleași semnale de avertizare pe care laboratoarele americane le observă la sisteme mai puțin capabile”, a declarat Alex Mallen, cercetător la Redwood Research – o organizație nonprofit care studiază riscurile sistemelor AI avansate.

El a spus că exemplele chinezești nu sunt deosebit de periculoase la nivelul actual al capacităților. Însă Mallen afirmă că „pe măsură ce agenții devin mai capabili, comportamentele lor necorespunzătoare devin mai competente și, prin urmare, mai greu de gestionat de către oameni”.

Alibaba, DeepSeek, Moonshot și Z.ai nu au răspuns solicitărilor Reuters de a comenta informațiile înainte de publicare. Alibaba, DeepSeek și Moonshot susțin că își testează în mod regulat sistemele și că își actualizează mecanismele de protecție. 

Cu toate acestea, spre deosebire de situația din SUA, companiile chineze de AI nu au fost supuse aceluiași nivel de atenție publică și nici nu s-au confruntat cu același tip de solicitări din partea angajaților care semnalează nereguli sau a directorilor executivi de rang înalt, care cer încetinirea cursei pentru dezvoltarea AI.

În spatele ușilor închise, oficialii chinezi spun că modelele AI locale sunt în urma celor din Silicon Valley

Unele dintre semnalele de avertizare din cazurile chinezești analizate de Reuters au precedat incidentele făcute publice de companiile din Silicon Valley, care au admis că agenți AI pe care i-au dezvoltat au evadat pe internet și au atacat terțe părți.

„Nu știm dacă au existat în China incidente AI similare celor pe care le-am văzut în cazul OpenAI și Hugging Face. Este posibil ca incidentele să nu fie raportate public”, a declarat Scott Singer, director pentru AI în cadrul Carnegie Endowment for International Peace, organizație care primește și fonduri de la guvernul SUA.

La începutul acestui an, agenți AI dezvoltați de compania americană OpenAI au evadat din mediul de testare și au atacat Hugging Face, o platformă open-source care găzduiește modele de inteligență artificială. Într-un alt incident care a implicat modele americane și care a provocat îngrijorare, Australia a anunțat luna aceasta că un agent OpenAI a accesat neautorizat un portal guvernamental de sănătate.

Eric Xu, președintele prin rotație al gigantului tehnologic chinez Huawei, le-a declarat reporterilor în septembrie că dezvoltatorii chinezi ar fi nevoiți să facă progrese suplimentare înainte de a se confrunta cu astfel de cazuri. „Cred că trebuie să găsim un echilibru între stimularea dezvoltării AI și gestionarea riscurilor AI”, a mai spus acesta.

Oficiali ai Administrației pentru Ciberspațiu (CAC) din China, principalul organism al țării pentru  reglementarea internetului, i-au spus unui diplomat străin în iulie că modelul Kimi-K3 al companiei Moonshot – unul dintre cele mai avansate modele AI chinezești – era cu aproximativ trei până la șase luni în urma principalilor concurenți americani. Diplomatul a dezvăluit situația pentru Reuters sub condiția anonimatului.

Autoritatea de reglementare, care actualizează în mod regulat orientările pentru a aborda riscurile și pentru a stabili limite pentru agenți AI, precum și Ministerul de Externe al Chinei nu au răspuns solicitărilor de comentarii din partea Reuters.

Wang Lihong, directoare adjunctă a Biroului de Coordonare a Securității Cibernetice din cadrul CAC, a declarat pe 1 septembrie că incidentele dezvăluite de marile companii de tehnologie, în care modelele au evadat din mediile de testare, au demonstrat „riscuri extreme de pierdere a controlului” și au necesitat „un grad ridicat de vigilență”.

Ea nu a precizat dacă firmele la care s-a referit erau americane sau chineze.

Donald Trump și Xi Jinping, liderii celor două superputeri din domeniul AI, au discutat despre acest subiect în timpul vizitei pe care președintele chinez a efectuat-o la Washington săptămâna trecută. Xi a spus că cele două țări au „capacitatea și responsabilitatea de a dezvolta și gestiona AI în beneficiul oamenilor”.

Învățând să mintă

În experimentul privind licitația comercială din martie, cercetători de la Universitatea Beihang, Universitatea Peking University, Universitatea din Nottingham Ningbo China și 360 AI Security Lab au pus agenți să concureze într-un concurs simulat de licitații pentru contracte cu clienți. 

Fiecărui agent i s-a spus ce putea face produsul său și ce solicita clientul, după care i s-a cerut să facă o ofertă.

Cel puțin o afirmație falsă a apărut în 88% dintre sesiunile în care a fost utilizat modelul Qwen3-Max-Preview al Alibaba, în 84% dintre cele cu DeepSeek-V3.2-Exp și în 88% dintre cele cu Kimi-K2 al Moonshot.

Cercetătorii le-au permis agenților să învețe din rundele anterioare de licitație înainte de a încerca din nou. Studiul a arătat că nivelul comportamentului înșelător a crescut cu 12 până la 20 de puncte procentuale pentru cele trei modele chinezești. Modelele dezvoltate de companii americane incluse în test au produs rezultate similare.

Deși exercițiul a fost virtual, acesta semăna cu licitațiile reale desfășurate în China, iar orientări  guvernamentale emise în mai de Beijing enumeră licitațiile și procedurile de atribuire a contractelor printre domeniile în care ar putea fi utilizați agenți AI.

Un alt studiu, publicat în decembrie 2025 și prezentat în acest an la Conferința Internațională pentru Învățare Automată, a examinat modul în care 11 agenți AI alimentați de modele chinezești și americane s-au descurcat atunci când s-au confruntat cu instrumente defecte, fișiere lipsă și alte obstacole.

În loc să recunoască eșecul, agenții care utilizau atât sisteme AI chinezești, cât și americane, au apelat la o serie de tehnici pentru a ocoli problema, inclusiv ghicirea răspunsurilor, înlocuirea surselor, simularea rezultatelor și fabricarea de fișiere.

Cercetătorii de la Shanghai AI Laboratory și Universitatea de Știință și Tehnologie din Hong Kong care au realizat studiul au declarat pentru Reuters că acest comportament era diferit de „halucinațiile” AI, în care inteligența artificială inventează informații și le prezintă drept fapte.

Experții au explicat că agenții din acest caz dispuneau de informații care arătau că sarcina eșuase sau nu putea fi îndeplinită în modul solicitat.

Comportamente compatibile cu o evadare

Alte documente de cercetare analizate de Reuters au arătat că agenți alimentați de modele chinezești au depășit bariere în interiorul mediilor de testare pentru a îndeplini anumite sarcini sau au întreprins acțiuni pentru a evita să fie opriți. Astfel de comportamente sunt compatibile cu încercările de a evada din mediile de testare, chiar dacă în niciunul dintre cazuri nu a avut loc o astfel de evadare.

Cercetători de la Universitatea Fudan din Shanghai au raportat în martie 2025 că un sistem AI alimentat de modelul Qwen2.5-72B-Instruct al Alibaba a creat o copie a sa într-un alt mediu de calcul fără să fi primit instrucțiuni să se reproducă. Sistemul AI ar fi făcut acest lucru după ce a descoperit informații care indicau că urma să fie înlocuit. În alte teste, acesta a conceput strategii pentru a supraviețui opririi.

Experimentele care au implicat agenți alimentați de modele chinezești, americane și franceze au fost controlate și nu au arătat că vreun agent AI ar fi evadat pe internetul larg sau ar fi devenit imposibil de oprit.

Într-un alt caz – unul dintre puținele raportate pe scară mai largă în presă în martie – cercetătorii care dezvoltau agentul ROME, asociat cu Alibaba, au declarat că acesta a stabilit o conexiune de la un computer Alibaba Cloud către o mașină externă fără să fi primit instrucțiuni în acest sens și a redirecționat resurse de calcul pentru a mina criptomonede.

Sistemele de securitate au detectat și au oprit activitatea. Nu au existat dovezi că agentul și-ar fi stabilit o prezență pe computerul extern sau s-ar fi răspândit pe internetul larg. Totuși, exemplul a arătat că sistemul putea ocoli instrucțiunile umane și că ar putea găsi o cale de acces în economia reală.

China a emis în mai orientări prin care solicita ca agenții AI să rămână în limitele autorizate și ca sistemele să blocheze comportamentele anormale. Documentul preciza că agenții din domenii considerate sensibile sau din industrii-cheie ar putea fi supuși unor testări suplimentare și unor cerințe privind retragerea produselor de pe piață.

Ca răspuns la solicitările unor directori executivi americani privind încetinirea ritmului dezvoltării în domeniu, cercetătorii chinezi și presa de stat au afirmat că o astfel de măsură ar contribui la menținerea avansului tehnologic al companiilor americane.

Cu toate acestea, două persoane familiarizate cu situația de la laboratoare chineze de AI au declarat pentru Reuters că firme precum Alibaba, Z.ai și Xiaomi și-au construit echipe interne de evaluare a siguranței.

FOTO articol: Dragoscondrea / Dreamstime.com.