Anthropic și OpenAI, două dintre cele mai importante companii de AI din lume, au anunțat recent că vor introduce watermark-uri invizibile în textele create cu ajutorul modelelor lor de inteligență artificială pentru mai multă transparență, dar mai ales pentru a respecta noul regulament UE privind inteligența artificială. Există însă unele limitări ale acestei măsuri, dar și câteva efecte asupra creatorilor de conținut despre care ar trebui să vorbim mai mult.
Cum funcționează, mai exact, un astfel de watermark? Atunci când generează un text, un model AI calculează probabilitatea cu care ar putea urma fiecare cuvânt sau fragment de cuvânt. Sistemul de marcare intervine în acest proces și schimbă distribuția acestor probabilități ca să inducă anumite alegeri, după un tipar prestabilit. La nivelul unei singure propoziții, diferențele sunt practic imposibil de identificat cu ochiul liber.
Pe parcursul unui text mai lung, însă, aceste mici ajustări formează un tipar statistic care poate fi recunoscut de un detector specializat. În cazul OpenAI, acest mecanism se numește textGrain. Marcajul constă practic în felul în care sunt selectate cuvintele.
Watermark-ul nu este vizibil pentru cititori
Pentru cititorul de rând, acest watermark nu este vizibil și nu poate fi identificat pur și simplu privind textul. Este nevoie de un instrument care să analizeze tiparul statistic și să stabilească dacă există indicii că un anumit model a generat sau a procesat conținutul. De menționat, totuși, că rescrierile, traducerile și parafrazările pot slăbi sau elimina semnalul, iar textele scurte sunt mai greu de verificat.
Cea mai importantă limitare apare, însă, deocamdată din modul în care va funcționa această tentativă de transparență a companiilor de AI. Pentru a verifica proveniența, ar fi nevoie de un detector compatibil cu sistemul folosit de modelul care a generat textul, capabil să analizeze conținutul și să caute semnalul statistic. Watermark-ul rămâne așadar doar un indiciu care trebuie căutat cu un instrument specializat.
Dacă o asemenea funcție nu este pusă la dispoziția publicului sau integrată direct în platformele pe care citim, utilizatorii obișnuiți nu vor putea verifica dacă o postare conține un astfel de marcaj. OpenAI spune că va acorda inițial acces la detector doar cercetătorilor și organizațiilor specializate aprobate. Compania spune că intenționează să reevalueze accesul pe măsură ce tehnologia se îmbunătățește, dar nu promite că va lansa un detector public. Anthropic e într-o situație similară.
Așadar aceste măsuri implementate de companiile AI reprezintă, în cel mai bun caz, doar un prim pas privind transparența textelor. Iar în aceste condiții, oamenii de rând rămân cu îndoiala permanentă: ce citesc este un text scris de un om sau o alăturare de cuvinte generată de un chatbot?
Peste jumătate din conținutul de pe internet este generat de AI
Statisticile ne arată amploarea problemei. AI-ul începe ușor, ușor, să devină principalul producător de text de pe internet, cel puțin în ceea ce privește textele în limba engleză, conform datelor.
Un raport realizat de firma SEO Graphite arată că articolele generate cu AI au depășit 50% din totalul conținutului nou din online. În ianuarie 2020, textele generate de AI reprezentau aproximativ 2% din conținutul nou online. Până în mai 2025, procentul ajunsese la 51,7%. E evident în ce direcție ne îndreptăm.
Neavând un tool cu adevărat eficient prin care să putem identifica textele generate cu AI și acest gen de texte fiind tot mai răspândite, consecința nu poate fi decât una: o nouă cultură de suspiciune permanentă. Ajungem să privim toate textele prin aceeași lentilă a suspiciunii. Cred că suntem martorii unei erodări a încrederii în actul de a scrie și de a citi.
Cine are de pierdut
Dacă ajungem să confundăm autenticitatea cu imperfecțiunea și să privim orice text fluent ca pe o posibilă producție artificială, riscăm să penalizăm inclusiv oamenii care scriu bine. Realist vorbind, e posibil să nu mai fie suficient să publici un text și să-ți asumi ideile din el. Ajungi să fii nevoit să demonstrezi și că ești cu adevărat autorul lui.
Avem nevoie și de transparență din partea autorilor și a publicațiilor, de reguli editoriale clare și de o distincție mai atentă între folosirea AI-ului ca instrument și delegarea completă a scrisului către un model.
E important să înțelegem și ce pierdem noi înșine atunci când externalizăm procesul de a scrie. E firesc să folosim instrumente care ne ușurează munca. Putem apela la un chatbot pentru a ne documenta mai repede, pentru a găsi surse pe care altfel le-am fi ratat sau pentru a corecta o formulare stângace, de exemplu. Dar există o diferență importantă între a folosi AI-ul ca pe un instrument care te ajută să scrii și a-i cere să scrie în locul tău.
De multe ori, abia când începem să scriem descoperim ce credem cu adevărat despre un subiect. Ne împotmolim într-o propoziție, încercăm mai multe variante, poate ne dăm seama că argumentul nostru nu stă în picioare sau că o idee care părea convingătoare inițial, de fapt, nu este așa. Revenim asupra unui paragraf și descoperim o contradicție pe care nu o observaserăm. Toate aceste dificultăți fac parte din procesul de gândire, nu sunt doar obstacole pe care trebuie să le eliminăm cât mai repede.
