TikTok promite o serie de schimbări pentru ca provocările postate pe rețea să nu mai ducă la răniri sau la moarte. Rețeaua are și moderatori pentru postările în limba română

TikTok are peste un miliard de useri în lume și are un public mult mai tânăr decât Facebook. Rețeaua a crescut enorm și a devenit celebră (și) pentru mulțimea de farse și provocări, unele simpatice, altele atât de periculoase încât au dus la moartea unor tineri. Mai jos puteți citi despre cele mai periculoase provocări de pe TikTok și despre ce va face rețeaua pentru a mai reduce posibilitatea ca adolescenții să fie victime ale unor provocări foarte riscante. În articol puteți citi și ce a spus pentru HotNews.ro despre subiectul provocărilor periculoase Alexandra Evans, Head of Safety Public Policy la TikTok Europe.

TikTok, o rețea celebră pentru provocările nebunești

Oamenilor le plac mult provocările online, fie că este vorba de unele inofensive, precum postarea unei poze din copilărie sau cele precum una dintre cele mai ”virale”, ”Ice Bucket Challenge” (Provocarea găleții de gheață) care a făcut furori în 2014.

Pe atunci TikTok nu exista, dar TikTok, o rețea preferată mai ales de cei sub 25 de ani, a devenit un loc celebru pentru provocări (challenges) și farse (hoaxes).

Au fost sute de tipuri și multe au generat interes uriaș, cele mai recente fiind unele în care tinerii sunt invitați să se filmeze când pălmuiesc un profesor (slap a teacher) sau când fură sau distrug diverse lucruri în școală (devious lick challenge). Acum câteva luni userii erau invitați să mănânce miere înghețată (eat frozen honey), iar una dintre cele mai sinistre ”provocări” era ”blackout challenge”. Au fost mai multe cazuri în 2021 când tinerii au încercat singuri să se sufoce până la leșin, iar în România s-a crezut că un copil a murit luna trecută încercând acest lucru. Poliția a revenit apoi și a spus că nu se confirmă pista cu provocarea TikTok.

De menționat că NU TikTok a inițiat diversele provocări și multe dintre ele au fost încercate de oameni încă dinaintea apariției rețelelor sociale. TikTok este însă un mediu prin care mulți au aflat despre diversele farse și provocări, mai ales că rețeaua a crescut enorm și are algoritmi sofisticați ce amplifică diverse tipuri de conținut. Compania promite că va lua și mai multe măsuri pentru ca riscul de rănire să fie redus la minim și pentru ca un număr cât mai mic de useri să ajungă să fie afectați de farse și provocări.

Încercarea de a detecta pericolul imediat ce apare

TikTok are peste un miliard de useri în lume, dintre care 100 de milioane în Europa. Rețeaua a crescut enorm în ultimii trei ani, de la doar 20 de milioane de useri pe continent în 2018.

Alexandra Evans spune că TikTok se folosește de tehnologii de AI pentru a detecta postările periculoase, dar are și 10.000 de moderatori în lume, inclusiv o echipă de vorbitori de română, care analizează în context postările care se dovedesc a fi problematice și care pot duce la acțiuni periculoase. Dacă este cazul postările sunt eliminate.

”La moderare provocările periculoase prezintă particularități interesante pentru că la alte tipuri de conținut semnalele pe baza cărora ne-am construit modelul de detectare sunt chiar previzibile, dar la provocări sunt mult mai impredictibile. Comportamentul este diferit și chestiunea care le unește este că toate sunt periculoase și noi vrem să ne asigurăm că soft-urile de AI folosite pentru moderare vor detecta încă dintr-o etapă inițială lucrurile periculoase și potențialele tendințe. După ce am detectat un trend, tehnologia noastră automatizată poate foarte bine să elimine automat totul”, explică pentru HotNews.ro Alexandra Evans, Head of Safety Public Policy la TikTok Europe..

”Dar da, ne preocupă ideea de a modera cât mai bine și de a găsi cât mai repede orice poate fi periculos. O altă problemă ține de distribuția conținutului, pentru că userii vor din instinct să distribuie diverse tipuri de conținut și acest sharing are potențial de a deveni periculos pentru că mulți tineri află de farse și se simte un impact asupra sănătății lor mentale după ce sunt expuși la aceste lucruri”.

TikTok și ”vânătoarea” de hashtag-uri care împing oameni să facă lucruri periculoase

Ca parte a măsurilor de detectare și de aplicare, TikTok a anunțat și că se va concentra tot mai mult pe găsirea hashtag-urilor care împing oamenii să facă lucruri periculoase. Spre exemplu, dacă acum dai o căutare după “blackout challenge,” pe TikTok nu găsești postări despre asta, ci va urma o redirecționare către site-uri de unde tinerii pot afla informații utile.

”Am creat o tehnologie care alertează echipele noastre de siguranță cu privire la creșterea bruscă a conținutului care încalcă hashtag-uri și am extins-o acum pentru a captura și comportamentul potențial periculos. De exemplu, un hashtag precum #FoodChallenge este folosit în mod obișnuit pentru a împărtăși rețete de mâncare și inspirație pentru gătit, așa că dacă am observa o creștere a conținutului legat de acel hashtag care a încălcat politicile noastre, echipa noastră ar fi alertată să caute cauzele acestui lucru și să fie mai bine echipată pentru a lua măsuri pentru a vă proteja împotriva trendurilor sau a comportamentului potențial dăunător”, spune reprezentantul companiei.

Am întrebat-o pe Alexandra Evans dacă are TikTok o reputație proastă din cauză că au murit și tineri care încercau diverse provocări periculoase? Recent un copil din România a murit încercând să facă provocarea de auto – asfixiere. ”Moartea oricărui copil este o tragedie și pot înțelege pentru că și eu sunt părinte. Fac însă un pas înapoi când este vorba despre “blackout challenge,” în special fiindcă este un fenomen studiat chiar și de CDC în anii 90 și este prezent cu mult înainte să existe TikTok. Noi moderăm și înlăturăm orice este legat de “blackout challenge,” pe TikTok.

Este o contradicție, un conflict între dorința TikTok de a elimina tot ce ține de provocările ce pot duce la răniri sau moarte li nevoia de a avea cât mai mult conținut viral care să se răspândească și să-i facă pe oameni să posteze și să vizioneze?

”Nu este niciun conflict și vreau să fie totul clar: TikTok este o aplicație de succes fiindcă le permite oamenilor să se distreze și să fie creativi, iar aceste lucruri trebuie să se petreacă în deplină siguranță. Algoritmii noștri sunt gândiți să ofere o fereastră către viețile altor oameni și momente de evadare distractive. Regulile noastre spun clar că este interzis să promovezi orice tip de conținut care ar putea să le facă rău tinerilor. Așadar, nu este niciun conflict”.

Câți adolescenți spun că au luat parte la provocări extrem de periculoase

TikTok a lansat acum câteva luni un proiect global pentru a înțelege mai bine implicarea tinerilor în provocări și farse cu potențial dăunător. Compania a chestionat – prin intermediul unei firme de cercetare – peste 10.000 de adolescenți, părinți și profesori din Argentina, Australia, Brazilia, Germania, Italia, Indonezia, Mexic, Marea Britanie, SUA și Vietnam.

Cercetarea a arătat cum avertismentele despre farsele de autovătămare – chiar dacă sunt împărtășite cu cele mai bune intenții – pot afecta bunăstarea adolescenților. ”Deși deja eliminăm și luăm măsuri pentru a limita răspândirea farselor de această natură, pentru a ne proteja în continuare comunitatea, vom începe să eliminăm avertismentele alarmiste despre ele, deoarece ar putea cauza prejudicii tratând farsa de autovătămare ca fiind reală. Vom continua să permitem conversații care urmăresc să disipeze panica și să promoveze informații corecte”, spun cei de la TikTok.

În cadrul studiului, adolescenții au fost rugați să descrie nivelul de risc al unei provocări online pe care au văzut-o recent. Aproape jumătate (48%) au crezut că sunt în siguranță, catalogând-le drept distractive sau care nu prezintă motive de îngrijorare. 32% au spus că acestea includeau anumite riscuri, dar erau în continuare în siguranță, 14% dintre aceste provocări au fost descrise ca fiind riscante și periculoase, în timp ce 3% dintre provocările online au fost descrise ca fiind foarte periculoase. Doar 0,3% dintre adolescenți au spus că au luat parte la o provocare pe care au catalogat-o drept foarte periculoasă.

TikTok a prezentat în octombrie Raportul de Aplicare a Regulilor Comunității (Community Guidelines Enforcement Report) pentru trimestrul 2 (aprilie – iunie) din 2021, menționând că a eliminat 81 de milioane de postări ce încălcau regulile, 94% dintre ele înainte de a fi raportate de useri.