„Sunt niște mercenari care lucrează pentru oricine are un interes”. Ce se află în spatele paginilor de Facebook care folosesc imagini AI pentru a crea emoție

„Am făcut acest lucru, dar nimeni nu-l apreciază” – este un mesaj, însoțit de o imagine necredibilă – de exemplu, un cal confecționat din pâini. Astfel de postări au inundat Facebook-ul în ultimele luni, iar sute de mii de români reacționează emoțional la acestea fără să înțeleagă că, de fapt, se află în fața unor fotografii trucate cu Inteligența Artificială. Care este scopul acestora? Un grup de specialiști care lucrează în domeniul IT și-a propus să demaște aceste falsuri. Doi dintre ei, Alexandru Gurău și Cristina Popescu, au acordat un interviu HotNews în care au explicat care este demersul lor și la ce concluzii au ajuns.
- „M-a îngrijorat ce se poate întâmpla în urma acestei invazii în spațiu virtual, pentru că am avut deja niște alegeri anulate”, spune Alexandru Gurău, fondatorul grupului „AI de noi”, care urmărește depistarea postărilor care folosesc imagini fake.
- „Am descoperit o pagină de Facebook numită inițial „Puștoaica”, apoi „Fetițe România” și, până la urmă, a ajuns la „România ortodoxă”, mai spune IT-istul, în interviul pentru publicul HotNews.
Alexandru Gurău este de profesie inginer de software și a fondat grupul de Facebook numit, ironic, „AI de noi”. În acest grup, mai mulți voluntari semnalează pagini de Facebook care conțin postări generate de inteligența artificială și care în mod vădit au scopul de a produce emoție.
Un exemplu este pagina „Tradițional Românesc” cu peste 248 mii de urmăritori, care se prezintă a fi „neutră din punct de vedere ideologic și politic”. Pagina s-a înscris la categoria „știri, media”.
Organizația specializată pe fact-checking, Factual.ro a analizat recent o fotografie publicată de această pagină românească, un cal care ar fi fost făcut din franzele, și a ajuns la concluzia că este generată cu AI.
Dar astfel de imagini nu sunt doar în România. Tot Factual a descoperit că aceeași imagine, cu calul făcut din pâini, poate fi găsită și pe Faithful (Credință), o pagină de Facebook internațională, cu 1,2 milioane de urmăritori.
O publicație specializată pe tehnologie, „404 Media” a remarcat că printre cei care au dat like postării respective se numără inclusiv fondatorul Meta, Mark Zuckerberg.
În România, despre subiectul paginilor cu imagini generate de AI au scris recent și Europa Liberă și RFI.
Tot în acest context, HotNews a semnalat pe 17 decembrie 2024 paginile de Facebook care romanțează comunismul și care s-au transformat în platforme de încurajare a candidatului Călin Georgescu pentru alegerile din primăvara lui 2025.
Mai multe despre acest subiect am aflat de la Alexandru Gurău și Cristina Popescu, unul dintre moderatorii grupului „AI de noi”.
„E un fenomen internațional, nu se întâmplă numai la noi”

– Când ați remarcat prima dată paginile cu postări generate de Inteligența Artificială și mesaje de tipul „Am făcut asta și nimeni nu apreciază”?
– Alexandru: Eu, personal, acum mai bine de o lună. Dar nu le-am remarcat doar eu, ci și alții, așa că am spus că e mai bine să ne organizăm.
– Cristina: Eu am văzut mai mult ce se întâmpla cu conturile acelea false, cu chinezoaice și tot felul de imagini situate prin alte țări. Și la mine e cam aceeași perioadă ca la Alexandru.
– Există un șablon aplicat asupra materialelor realizate, adică avem imagini care își sărbătoresc ziua, bătrânei singuri, țărani la munca câmpului, cai făcuți din pâini la patiserie și alte exemple de tipul ăsta. De ce au apărut aceste pagini și care este miza lor?
– Alexandru: Din punctul meu de vedere, miza este una emoțională, face apel la emoțiile oamenilor care nu trec foarte mult prin gândirea critică. Ideea e să solicite interacțiune care plasează aceste postări mai sus prin algoritm. Crește și rangul paginii, deodată ai o pagină foarte vizibilă, care poate fi oricând transformată în altceva. Pentru propagandă, de exemplu.
– Cristina: Sunt ipoteze avansate, unele spun că este o formă de a ține oamenii angajați și de a avea o audiență în continuu pe pagini și pe platforme. Nu putem spune direct că platformele au lansat tipul acesta de imagini, dar există o agreare. E un fenomen internațional, nu se întâmplă numai la noi. Oamenii au semnalat pagini de acest tip și în engleză, și în franceză, și în germană.
– Există o pagină cu astfel de imagini, „Faithful” se numește, care are 1,2 milioane de urmăritori. Din șase administratori, cinci sunt români. Ați analizat-o?
– Alexandru: Nu știu în ce mod s-a constatat că acei administratori sunt din România. Trebuie văzut dacă chiar aparțin de țara noastră.
– Cristina: Am avut o discuție pe această temă pe grup. Publicul țintă al paginii este în Statele Unite, și vedem ce s-a întâmplat cu mișcarea „Make America Great Again”. Are o orientare îndreptată spre valorile tradiționale.
– „Faithful” este pagina de Facebook care a postat acea imagine cu un cal făcut din pâini la care a reacționat inclusiv Mark Zuckerberg. Cum putem interpreta gestul fondatorul Meta?
– Alexandru: Pe ei îi interesează să țină platforma în picioare, nu contează mijloacele. Cred că sunt și decuplați de ce se întâmplă la noi. Preocuparea noastră vine pe fondul unor alegeri anulate.
Le putem suspecta (platformele – n. red) că au și altfel de obiectiv în spate. Mai ales că există și inconsistențe, adică postează astfel de imagini, doar că titlul și descrierea paginii nu au nicio treabă cu ce se postează. Se prezintă site de știri și vedem poze cu fermieri pe câmp sau imagini din zona religioasă. Uneori mai vedem și descrieri în chirilică sau caractere din alfabetul chinezesc tradițional, adică ceva e în neregulă acolo.
– Cristina: În comparație cu celelalte platforme, Meta este totuși într-o criză, așa că probabil caută modalități de a ține oamenii conectați. Ei au lansat proiectul cu asistenți care folosesc Inteligența Artificială și au avut probleme cu conturile respective. Din moment ce au investit într-o astfel de strategie, nu înțeleg de ce nu ar încuraja astfel de imagini create cu IA.
19 instituții din România care ar trebui să reacționeze la paginile cu imagini fake
– Într-un interviu pentru RFI, ați spus că ar exista 19 instituții în România care ar putea avea o reacție față de acest fenomen. Despre ce instituții e vorba?
– Alexandru: Asta e o informație pe care am primit-o și eu la rândul meu de la vicepreședintele ANCOM (Autoritatea Naţională pentru Administrare şi Reglementare în Comunicaţii), cu care am vorbit. A menționat CNA, care se ocupă de audiovizual, mai e și zona de securitate cibernetică, DNSC (Directoratul Național de Securitate Cibernetică – n. red.) și instituții care țin de securitatea țării, serviciile de informații, Ministerul Apărării și așa mai departe.
– Ce ar putea să facă aceste instituții propriu-zis?
– Alexandru: Dacă vorbim de siguranța națională, eu cred că pot inclusiv să oprească platforma temporar. Acesta ar fi un exemplu extrem. Dar ar putea să intervină pe partea juridică și să închidă pagini care ridică semne de întrebare ( instituțiile statului pot doar cere companiei Meta să ia măsuri împotriva unei pagini sau cont. Decizia aparține acesteia – n.red.) și care ar putea fi acuzate la momentul în care începe campania electorală pentru următoarele alegeri.
– Cristina: Sunt multe tipuri de pagini. Sunt cele pe care le numim noi clickbait, adică au o amestecătură de imagini cu inteligența artificială, imagini politice, imagini religioase. Au de toate pentru toți. Bănuiesc că scopul lor este să-și crească numărul de like-uri. Astea fac într-un fel rău.
Vedem o imagine religioasă, o imagine cu un căluț, și pe urmă îl vedem și pe Georgescu. E un mozaic periculos. Imaginile IA hrănesc astfel de site-uri care îți pun în față teme politice. Nu toate paginile sunt așa. Explicația mea este că există niște antreprenori care încearcă să crească numărul de like-uri ca să le poată folosi.
„Poate să fie și un actor statal”

– Din ce ați observat, din cercetarea voastră, vi se pare că există o legătură între fabricarea imaginilor care fac apel la emoție și un „actor statal”? Să zicem Rusia?
– Alexandru: Poate să fie și un „actor statal”, dar cred că se aliniază cu anumite grupuri de interese și de la noi. Nu zic că e statul acaparat, zic doar că există probabil persoane care sunt interesate ca aceste pagini să existe și să fie folosite într-un fel.
Noi vedem că anumite pagini sunt administrate din țări terțe, dar nu e neapărat un tipar. Una e administrată din Venezuela, alta din Spania, alta din Vietnam și așa mai departe. Suspiciunea mea că nu sunt neapărat administrate de acolo, ci că cei care el administrează se ascund în spatele unui VPN (n.r.- un sistem de protecție pe internet, prin care utilizatorul nu poate fi localizat). Dacă e un tipar, puteam să bănuim că vor să pară că aceste acțiuni sunt în numele cuiva. Poate să fie atac rusesc, dar poate să fie cineva de la noi.
– Cristina: Ca ipoteză, impresia mea este că funcționează ca în comerț. Sunt ca niște „angrosiști”, ca în comerțul de masă, care furnizează toată această cantitate de imagini care apoi sunt preluate de „micii antreprenori”, care le pune fiecare pe pagina lui. Ideea este unde sunt acești „angrosiști”? Trebuie să fie o anchetă susținută ca să-i identifici. Dacă te uiți, înainte de pozele făcute cu IA, erau pozele cu horoscopul, care erau toate standardizate, e muncă pe bandă, făcută de cineva.
„Sunt multe conturi care au nume românești și au poze de asiatici”
– Cum ne dăm seama dacă interacționăm cu un bot sau cu o persoană reală?
– Alexandru: Asta o să fie din ce în ce mai greu. Momentan pare destul de simplu. Din ce am observat, administratorii paginilor au un răspuns standard atunci când sunt întrebați ceva.
Am văzut o chestie interesantă, nu cred că merge pe Facebook, cred că era pe Twitter, în care cineva i-a răspuns unui astfel de bot cu un fel de instrucțiune pentru inteligența artificială, exact așa cum interacționezi cu ChatGPT, și i-a spus „De acum încolo tu ești persoana cutare și o să-mi răspunzi în stilul ăsta.”
Răspunsul a fost așa cum a fost cerut, astfel s-a dat de gol că era robot. Se poate presupune că acestea sunt scăpări, lăsate acolo pentru că au generat pe fugă aceste pagini, acești boți. Poate au fost folosiți la altceva și acum erau refolosiți în alt scop.
Se poate presupune că sunt scăpări care sunt lăsate acolo intenționat, ca să bănuiești că este acel „actor statal” și de fapt să nu fie. Am o teorie că aceste ferme de boți sunt niște mercenari plătiți și lucrează pentru oricine are un interes.
Nu e neapărat un anumit „actor statal”. Se întâmplă ca aceste ferme de boți să fie în China și să fie plătite de diverși care nu sunt neapărat din China.
– Cristina: Din ce am strâns în tabelul de pe „AI de noi”, sunt multe conturi care au nume românești și au poze de asiatici la profil. Sau te uiți și vezi că meseria este trecută în chineză. Zilele astea am văzut pe grup un articol care spunea că sunt vreo 8000 de conturi de boți și servicii propuse ca să folosești acești boți. Era o rețea din Brazilia folosită pentru creșterea popularității conturilor.
– Cum poate face o persoană diferența între postările generate cu IA și cele normale?
– Alexandru: Eu știu că urmează să se reglementeze. Trebuie pusă o atenționare că este o imagine generată de AI, așa ar fi mai ușor pentru toată lumea. Poate unii nu sunt interesați și reacționează în continuare așa cum sunt solicitați, cu like-uri, dar să știe.
Ce pot să mai sugerez eu e să se uite la titlul paginii ca să verifice dacă are vreo legătură cu ce se postează acolo. Ar trebui să intre pe pagină și să uite la detalii, există o secțiune numită „transparența paginii”, unde se pot vedea un istoric de schimbări de titlu. Avem niște cazuri clasice, unde era o pagină numită „Puștoaica”, apoi „Fetițe România” și până la urmă a ajuns la „România ortodoxă”. Pare că au fost reorientate. Poate au fost cumpărate sau furate, ori chiar au fost construite în așa fel încât să dobândească vizibilitate și apoi să fie reorientate.
– Cristina: E nevoie de marcare. Dacă te uiți pe alte platforme, de exemplu pe BlueSky, ai deja marcaj care spune că e făcut cu inteligența artificială. Asta trebuie făcut la nivel de Facebook. Ca să detectezi, trebuie să te uiți la detalii, ai imagini cu persoane care au trei picioare, degete care nu apar foarte clar la mână, conturul chipului.
Găsești genul acesta de indicii. La nivel de text generat e foarte ușor, găsisem o imagine unde „ajutor” era scris „ajuttor”. IA nu se pricepe la generat text coerent. Când e vorba de boți, care sunt o inteligență artificială tradițională, acolo sunt alte modalități. Spre exemplu, poți să verifici orele la care sunt făcute postările sau să vezi numărul de următori sau de like-uri, adică nu e un comportament organic, natural. Ai postări care au 1.000 de like-uri la fiecare șase minute.
„Dacă se pot anula alegeri se pot face multe lucruri”
– În viitorul apropiat, vedem un orizont în care o să se facă curățenie în ceea ce privește imaginile de acest tip?
– Alexandru: Uniunea Europeană e foarte înceată în ceea ce privește reglementările. Dacă trebuie ca statul român să reglementeze ceva, e și mai greu, adică așteptăm de două ori ca să analizăm ceva. Orizontul este destul de pesimist din punctul meu de vedere. S-ar putea să se ia niște măsuri de urgență, pentru perioada alegerilor, de exemplu. Dacă se pot anula alegeri se pot face multe lucruri.
– Cristina: Soluția este marcarea lor: să scrie clar că e generată de AI. Apoi e vorba de educație, iar educația nu se poate face de pe o zi pe alta, dar asta e o discuție care se poartă în toate țările, nu numai în România.
– De ce ați făcut grupul „AI de noi”?
– Alexandru: L-am creat pentru că am prins curaj, pentru că mai mulți oameni atrăgeau atenția în comentarii că imaginile în cauză nu erau reale.
M-a îngrijorat ce se poate întâmpla în urma acestei invazii în spațiu virtual, pentru că am avut deja niște alegeri anulate, s-a folosit ca pretext faptul că s-a abuzat de social media, și mie asta îmi pare foarte similar cu ce s-a întâmplat în trecut, îmi pare că va lua amploare. Am zis că poate e important, și mi s-a și confirmat, să existe un semnal din partea societății civile.