Grupul Toxic Telegram a produs imaginile fake cu Taylor Swift cu ajutorul unei aplicații Microsoft

Imaginile fake cuTaylor Swift în posturi explicite pentru adulți au fost urcate pe X de către un grup Telegram dedicat distribuirii de „imagini abuzive cu femei”, a informat 404 Media.

Exemplele vizualizate de 404 Media au avut zeci de mii de marcaje și aprecieri și mii de repostări. The Verge a raportat că unul dintre cele mai virale exemple a făcut 45 de milioane de vizualizări și 24.000 de repostări și a fost valabil timp de 17 ore înainte de eliminarea sa, când Twitter a șters contul original, precum și alte conturi care au postat imagini similare.

Aceste imagini au început să circule online săptămâna aceasta, stârnind rapid indignare în masă, forțând autoritățile să ia măsuri.

Cel puțin un membru al grupului Telegram a susținut că este sursa unora dintre imaginile Swift, postând pe canal că nu știau dacă „ar trebui să se simtă flatați sau supărați” pentru gestul său.

Deși încă nu se știe câte instrumente AI au fost folosite pentru a genera imaginile dăunătoare, 404 Media a confirmat că unii membri ai grupului Telegram au folosit generatorul AI gratuit de text-to-image al Microsoft, Designer.

Potrivit 404 Media, imaginile au fost create nu prin antrenarea unui model AI pe imaginile lui Taylor Swift, ci prin instrumente de piratare care să anuleze măsurile de protecție concepute pentru a împiedica generarea de imagini ale celebrităților. Membrii grupului au dezvăluit strategiile pprin care au subminat aceste măsuri de protecție, evitând cuvinte cheie ca „Taylor Swift” și folosind „Taylor „singer” Swift”. Apoi au reușit să genereze imagini sexualizate folosind cuvinte cheie care descriu „obiecte, culori și compoziții care arată clar ca acte sexuale”

Este posibil ca Microsoft să fi actualizat deja instrumentul pentru a împiedica utilizatorii să abuzeze de Designer. 404 Media și Ars Tehnica nu au putut reproduce rezultatele pe baza recomandărilor din grupul Telegram.

Până acum, Microsoft nu a verificat încă că imaginile au fost create folosind vreunul dintre instrumentele sale de inteligență artificială, dar compania ia măsuri pentru a întări filtrele pentru solicitări pentru a preveni viitoarele abuzuri între timp.

Un purtător de cuvânt Microsoft a declarat pentru Ars că gigantul tehnologic „investighează aceste rapoarte” și „a luat măsurile adecvate pentru a preveni utilizarea greșită a instrumentelor noastre.” Purtătorul de cuvânt a menționat, de asemenea, că Codul de conduită al Microsoft interzice utilizarea instrumentelor Microsoft „pentru crearea de conținut intim pentru adulți sau fără consens și orice încercare repetă de a produce conținut care contravine politicilor noastre poate duce la pierderea accesului la serviciu.”