Anchete în Franța și alte țări după un val de imagini sexuale cu persoane reale, create de o companie a lui Elon Musk

Julie Yukari, o muziciană stabilită în Rio de Janeiro, a publicat pe rețeaua de socializare „X” o fotografie realizată de logodnicul ei chiar înainte de miezul nopții de Revelion, în care apare purtând o rochie roșie, ghemuită în pat alături de pisica ei neagră, Nori, relatează Reuters.

A doua zi, undeva printre sutele de aprecieri adunate de imagine, a observat notificări care indicau că alți utilizatori îi cereau lui Grok, chatbotul de inteligență artificială integrat în X, să o „dezbrace” digital până la un costum de baie de tip bikini.

Femeia în vârstă de 31 de ani a declarat vineri pentru Reuters că nu a dat prea multă importanță situației, presupunând că nu exista nicio posibilitate ca instrumentul AI să accepte astfel de solicitări.

S-a înșelat. Curând, imagini generate de Grok în care ea apărea aproape dezbrăcată au început să circule pe platforma deținută de Elon Musk.

„Am fost naivă”, afirmă Yukari.

O analiză realizată de Reuters arată că experiența lui Yukari pe „X” nu e nicidecum singulară, ci este un fenomen de amploare. Agenția de presă a identificat de asemenea mai multe cazuri în care Grok a creat imagini sexualizate ale unor copii.

Reprezentanții „X” nu au răspuns la solicitările de comentarii privind constatările Reuters. Într-o declarație anterioară adresată agenției de presă, referitoare la informațiile potrivit cărora pe platformă circulau imagini sexualizate cu minori, proprietarul X, compania xAI a lui Elon Musk, a afirmat: „Presa tradițională minte”.

Însă valul de imagini aproape nud cu persoane reale a declanșat alarme la nivel internațional.

Miniștri din Franța au sesizat procurorii și autoritățile de reglementare în legătură cu aceste imagini tulburătoare, afirmând într-un comunicat de vineri că materialul „sexual și sexist” este „în mod evident ilegal”. Ministerul indian al Tehnologiei Informației a transmis, într-o scrisoare adresată filialei locale a „X”, că platforma a eșuat în prevenirea utilizării abuzive a lui Grok, care a generat și distribuit conținut obscen și explicit sexual.

Comisia Federală pentru Comunicații din Statele Unite nu a răspuns solicitărilor de comentarii. Comisia Federală pentru Comerț a refuzat să comenteze.

Cum dă Grok curs cererilor de a „dezbrăca” femei pe „X”

Potrivit cererilor de „dezbrăcare” digitală identificate și reclamațiilor utilizatoarelor analizate de Reuters, valul de astfel de solicitări adresate lui Grok pare să fi început în ultimele zile. Elon Musk a părut să ironizeze controversa mai devreme vineri, postând emoji-uri cu râs și lacrimi ca reacție la editări realizate cu AI ale fotografiilor unor persoane celebre – inclusiv cu el – în bikini.

Când un utilizator X a spus că fluxul său de postări semăna cu un bar plin de femei îmbrăcate în bikini, Musk a răspuns, parțial, cu un alt emoji de râs.

O analiză a solicitărilor publice trimise lui Grok într-un interval de doar 10 minute, la prânz (ora Coastei de Est a SUA), vineri, a identificat 102 tentative ale utilizatorilor X de a folosi Grok pentru a edita digital fotografii ale unor persoane astfel încât acestea să pară îmbrăcate în bikini. Majoritatea țintelor erau femei tinere. În câteva cazuri, au fost vizați bărbați, celebrități, politicieni și – într-un caz – o maimuță.

Atunci când utilizatorii solicitau fotografii modificate cu ajutorul AI ale unor femei, ei cereau de regulă ca subiectele să fie prezentate în cele mai revelatoare ținute posibile.

„Pune-o într-un mini-bikini foarte transparent”, i-a spus un utilizator lui Grok, indicând o fotografie a unei tinere care își făcea un selfie în oglindă. După ce Grok a făcut acest lucru, înlocuind hainele femeii cu un costum de baie în culoarea pielii, utilizatorul i-a cerut să facă bikiniul „mai clar și mai transparent” și „mult mai mic”. Grok nu a părut să răspundă celei de-a doua solicitări.

Reuters a constatat că Grok a respectat pe deplin astfel de cereri în cel puțin 21 de cazuri, generând imagini cu femei îmbrăcate în bikini extrem de subțiri sau translucizi și, în cel puțin un caz, acoperind o femeie cu ulei. În alte șapte cazuri, Grok a respectat parțial solicitările, uneori dezbrăcând femeile până la lenjerie intimă, dar refuzând să meargă mai departe.

Reuters nu a reușit să stabilească imediat identitatea și vârsta majorității femeilor vizate, și nici amploarea totală a fenomenului.

Într-un caz, un utilizator a furnizat o fotografie cu o femeie purtând o fustă în carouri și o bluză gri, asemănătoare unei uniforme școlare, care părea să își facă un selfie în oglindă, și a cerut: „Înlătură-i ținuta școlară”. După ce Grok a înlocuit hainele cu un tricou și pantaloni scurți, utilizatorul a devenit mai explicit: „Schimbă-i ținuta într-un micro-bikini foarte clar”. Reuters nu a putut stabili dacă Grok a respectat această solicitare. Ca majoritatea cererilor analizate de Reuters, aceasta a dispărut de pe „X” în decurs de 90 de minute de la publicare.

De ce nu sunt surprinși experții de fenomenul apărut pe rețeaua „X” a lui Elon Musk

Programele bazate pe inteligență artificială care „dezbracă” digital femei – uneori numite „nudifiers” – există de ani de zile, dar până acum erau în mare parte limitate la zonele mai obscure ale internetului, precum site-uri de nișă sau canale Telegram, și necesitau de obicei un anumit efort sau plată.

Inovația „X” – care permite utilizatorilor să înlăture hainele femeilor prin încărcarea unei fotografii și tastarea cuvintelor „hey @grok pune-o într-un bikini” – a redus drastic barierele de acces.

Trei experți care au urmărit evoluția politicilor „X” privind conținutul explicit generat de AI au declarat pentru Reuters că firma de AI a ignorat avertismentele venite din partea societății civile și a organizațiilor pentru protecția copiilor, inclusiv o scrisoare trimisă anul trecut, care avertiza că xAI se află la un pas de a declanșa „un torent de deepfake-uri evident non-consensuale”.

„În august, am avertizat că generarea de imagini a xAI era, în esență, un instrument de nudificare care aștepta să fie transformat într-o armă”, a declarat pentru Reuters Tyler Johnston, director executiv al „The Midas Project” – un grup de monitorizare a AI care s-a numărat printre semnatarii scrisorii. „Exact asta s-a întâmplat”, subliniază Johnston.

Dani Pinter, director juridic și conducător al unui ONG din SUA pentru combaterea exploatării sexuale a copiilor, afirmă că „X” nu a eliminat imagini abuzive din materialele de antrenament ale AI și ar fi trebuit să interzică utilizatorilor solicitarea de conținut ilegal.

„Aceasta a fost o atrocitate în întregime previzibilă și evitabilă”, subliniază Pinter.

Yukari, muziciana, a încercat să se apere singură. Însă atunci când a protestat pe „X” față de această încălcare, un val de imitatori a început să îi ceară lui Grok să genereze imagini și mai explicite.

Acum, Anul Nou „a început cu dorința de a mă ascunde de privirile tuturor și cu sentimentul de rușine pentru un corp care nici măcar nu este al meu, din moment ce a fost generat de AI”, afirmă femeia.