Noi dezvăluiri arată că Meta și TikTok amplifică intenționat conținutul toxic. Ce poate să facă Europa

O investigație BBC bazată pe mărturiile unor avertizori de integritate din interiorul marilor platforme arată că Meta și TikTok au luat decizii conștiente care au permis amplificarea conținutului toxic de pe rețele. Companiile au relaxat standardele de siguranță, au prioritizat interesele unor politicieni influenți și au lăsat algoritmi optimizați pentru retenție să împingă utilizatorii, inclusiv adolescenți, spre conținut tot mai periculos. 

Investigația BBC se bazează pe mărturiile a peste 12 angajați și foști angajați din interiorul platformelor, care descriu un tipar destul de clar: atunci când datele interne au arătat că postările care provoacă furie și indignare țin utilizatorii mai mult timp în aplicație, companiile nu au încercat să limiteze fenomenul, ci l-au tolerat sau chiar încurajat indirect. 

Un inginer de la Meta, de exemplu, spune că li s-a cerut explicit să permită mai mult conținut „la limită”, adică legal, dar problematic, de la misoginie la teorii ale conspirației, pentru a ține pasul cu creșterea TikTok.

În paralel, cercetările interne citate în investigație arată că noile produse construite tocmai pentru a concura cu TikTok, precum Reels, au venit la pachet cu mai mult bullying, discurs instigator la ură și conținut violent decât alte zone ale platformei. Cu toate astea, resursele au mers în creșterea produsului, nu în siguranță: sute de oameni au fost alocați pentru dezvoltare, în timp ce echipele care se ocupă de protejarea utilizatorilor (inclusiv a minorilor) au rămas subdimensionate.

La TikTok, un angajat spune că situația e și mai complicată: volumul de conținut problematic e atât de mare încât nu poate fi gestionat eficient, iar prioritățile nu sunt întotdeauna cele la care te-ai aștepta. În unele cazuri, postări care vizau politicieni erau tratate cu mai multă urgență decât sesizări venite de la adolescenți care raportau abuz sau hărțuire. 

Feed-ul infinit a schimbat peisajul digital

Toate aceste decizii trebuie înțelese și în contextul unei competiții extrem de agresive pentru atenția utilizatorilor. Ascensiunea TikTok a schimbat complet peisajul digital: feed-ul infinit, bazat pe recomandări algoritmice, s-a dovedit mult mai eficient în a ține oamenii în aplicație decât modelul clasic bazat pe prieteni și followers. În încercarea de a recupera teren, Meta a accelerat lansarea unor produse similare, chiar dacă asta a însemnat să accepte mai multe riscuri pe partea de siguranță.

În același timp, chiar angajații citați de BBC spun că problema nu ține doar de decizii punctuale, ci de modul în care sunt construite aceste platforme. Algoritmii nu sunt gândiți să promoveze conținut de calitate, ci conținut care ține utilizatorul cât mai mult timp captiv. Iar în practică, asta înseamnă adesea postări care provoacă reacții emoționale puternice: furie, indignare, frustrare. În acest sistem, conținutul toxic e unul dintre cele mai eficiente moduri de a crea engagement.

E evident că avem de-a face cu un sistem care funcționează exact așa cum a fost proiectat. Algoritmii optimizează perfect pentru obiectivul pe care îl primesc: să te țină cât mai mult timp în aplicație. 

Ne putem întreba ce poate face concret Europa într-un astfel de context. Pentru că, dincolo de scandaluri și investigații, dependența de câteva platforme globale înseamnă și o lipsă reală de control. Uniunea Europeană a încercat deja să reglementeze acest spațiu prin instrumente precum Digital Services Act, care obligă platformele să fie mai transparente și să reducă riscurile sistemice. Problema este că aceste reguli intervin asupra unor produse deja construite în jurul engagement-ului, nu asupra logicii care le definește.

Însă este oare suficient să reglementezi platforme concepute pentru a maximiza atenția sau ai nevoie de alternative reale? De ani de zile se vorbește despre ideea unei infrastructuri digitale europene: fie că vorbim despre rețele sociale publice, fie despre platforme private construite pe alte principii. Nu neapărat fără algoritmi, dar cu obiective diferite: nu să maximizeze timpul petrecut, ci calitatea interacțiunii sau diversitatea conținutului. 

Recent, s-a creat un mini val de entuziasm despre o posibilă nouă rețea socială europeană: eYou.

Totuși, provocările sunt enorme. O rețea socială europeană trebuie să concureze cu giganți care investesc miliarde anual în algoritmi perfecți pentru captivarea atenției. În plus, trebuie să găsească un model de monetizare sustenabil fără a reveni la același mecanism în care oamenii sunt produsul. Dar, chiar și parțial, o alternativă credibilă ar putea să forțeze platformele globale să regândească ceea ce promovează și să arate că există o cerere reală pentru social media responsabilă. 

Ce-i rămâne Europei de făcut

Europa ar putea să-și construiască independența digitală și prin achiziția unor platforme deja existente, care au o structură și un model de business mai „cuminte”. Peter Erdelyi, director fondator al Center for Sustainable Media și profesor de strategie media digitală la Universitatea ELTE din Budapesta argumentează că Substack e un exemplu perfect: o companie evaluată la 1,1 miliarde de dolari la mijlocul lui 2025, ar fi echivalentul a aproximativ o săptămână din subvențiile agricole ale UE. Din perspectiva infrastructurii strategice, e o investiție minoră cu potențial uriaș.

Substack nu mai e de mult doar o platformă de newslettere: evoluează spre un tip de rețea socială construită pe încredere și abonamente, nu pe algoritmi concentrați pe furie și engagement. Creatorii își monetizează direct conținutul, iar platforma ia un comision de 10%. Asta duce mai aproape economic interesele platformei cu interesul public sau cel puțin mult mai aproape de ce pretinde UE că urmărește: calitate, responsabilitate, sustenabilitate. Spre deosebire de TikTok sau Meta, unde interacțiunea este un instrument de manipulare a atenției, Substack încurajează conținutul de valoare și relația directă între cititor și autor.

Sau ne putem uita spre varianta mai utopică a Fediverse-ului, un ecosistem de rețele sociale descentralizate, open-source, în care fiecare platformă mică poate interacționa cu celelalte, fără să fie dominată de un algoritm global care să transforme utilizatorii în produse de publicitate. 

Aici, scopul nu e să te țină captiv cât mai mult timp, ci să ofere instrumente reale pentru comunicare și comunitate, în care calitatea interacțiunii primează. Conceptul e ambițios: nu există un gigant care să investească miliarde pentru a crea engagement instant, ci o rețea de mici inițiative europene și globale care împart infrastructura și standardele.

Practic, UE ar putea combina două direcții: pe de o parte, achiziții strategice precum Substack, care aduc o platformă existentă, cu utilizatori și model de monetizare mai sănătos, și pe de altă parte, sprijin pentru proiecte descentralizate tip Fediverse, care cresc reziliența digitală și diversitatea opțiunilor pentru cetățeni. În combinație, aceste strategii ar putea pune presiune asupra platformelor globale și să regândească modul în care stimulează engagementul și să ofere mai multă transparență și siguranță pentru utilizatori.