Jenna Ortega, vedeta serialului „Wednesday” de pe Netflix, victima unei campanii „deepfake” cu imagini nud pe Facebook și Instagram

Actrița americană Jenna Ortega, protagonista serialului „Wednesday” de pe Netflix, a fost ținta unei campanii de publicitate cu imagini nud false, reclamele fiind distribuite pe rețelele de socializare Facebook și Instagram deținute de Meta, arată NBC News.

Campania publicitară a fost desfășurată de RichAds, o companie înregistrată în Cipru, care și-a promovat o aplicație despre care susține că poate crea cu ajutorul inteligenței artificiale (A.I) imagini explicite sexual pornind de la fotografii obișnuite.

Cei de la NBC News au descoperit în arhiva de reclame a Meta 12 spoturi publicitare pentru aplicația numită „Perky AI” care folosesc o fotografie a lui Ortega de când aceasta era în vârstă de 16 ani, imaginea fiind editată și apoi estompată pentru a sugera că actrița este dezbrăcată.

Reclamele le transmiteau utilizatorilor Facebook și Instagram că aplicația „Perky AI” poate să îi schimbe îmbrăcămintea lui Ortega în diferite costumații până când aceasta rămâne „fără haine”.

Actrița americană în vârstă de 21 de ani a devenit o vedetă internațională datorită succesului uriaș de care s-a bucurat Wednesday, serialul Netflix filmat în România sub regia lui Tim Burton, unele secvențe cu Ortega din serie viralizându-se pe rețelele de socializare ca Instagram și TikTok.

Compania RichAds care a realizat imaginile false se descrie pe website-ul său ca fiind o „rețea globală de servicii” care oferă diferite moduri de a crea reclame de tip „push” și alte tipuri de mesaje publicitare pop-up sau o serie variată de notificări.

Meta se apără după apariția deepfake-urilor cu Jenna Ortega

NBC News notează că Meta a suspendat pagina aplicației „Perky AI” după ce a contactat compania lui Mark Zuckerberg pentru comentarii, dar că înainte de aceasta firma înregistrată în Cipru publicase peste 260 de reclame pe platformele Meta începând cu luna septembrie a anului trecut.

„Meta interzice strict nuditatea cu copii, conținutul care sexualizează copiii și serviciile care oferă imagini nude generate de AI fără consimțământ”, a declarat Ryan Daniels, un purtător de cuvânt al Meta, într-un comunicat remis presei.

Însă cazul ridică noi semne de întrebare privind disponibilitatea sau capacitatea platformelor Meta de a combate fenomenul imaginilor „deepfake”, mai ales în situațiile în care este vorba de clienți plătitori.

Compania condusă de Mark Zuckerberg dăduse noi asigurări în acest sens chiar la începutul lunii trecute, afirmând că își extinde eforturile de a identifica imaginile generate sau modificate cu ajutorul inteligenței artificiale pentru a elimina dezinformările și conținutul „deepfake” înaintea alegerilor care vor avea loc în Statele Unite și alte țări din jurul lumii în 2024.

Apple, prinsă și ea în controversă din cauza „Perky AI”

Aplicația „Perky AI” a putut fi descărcată din App Store în condițiile în care regulamentul magazinului online al Apple nu interzice aplicațiile de generare a conținutului de tip „deepfake”. Cu toate acestea, termenii și condițiile App Store interzic aplicațiile care includ pornografie, precum și pe cele care creează „conținut defăimător, discriminatoriu și rău-intenționat” sau care este de natură să „umilească, intimideze sau rănească o persoană sau un grup”.

Apple a declarat însă că aplicația „Perky AI” fusese deja respinsă din App Store pe 16 februarie din cauza încălcării politicilor privind „materialele explicit sexuale sau pornografice” și că ea era sub o revizuire de 14 zile în momentul în care compania condusă de Tim Cook a fost contactată pentru comentarii.

Însă în intervalul respectiv de timp aplicația putea fi încă descărcată și folosită. Apple spune însă că între timp a înlăturat aplicația din magazinul său online și a suspendat compania cipriotă din spatele ei din programul său pentru dezvoltatori.

Această nouă controversă legată de răspândirea unor „deepfake”-uri de natură sexuală a izbucnit la doar câteva săptămâni după ce un scandal de proporții a izbucnit în jurul „X”, platforma social media deținută de Elon Musk, care a permis răspândirea pe scară largă de imagini pornografice cu cântăreața Taylor Swift.

„X” a blocat la un moment dat afișarea rezultatelor tuturor căutărilor după numele lui Taylor Swift pe platforma sa până a reușit să înlăture conținutul respectiv.