UNICEF, semnal de alarmă: AI, tot mai folosită pentru generarea de imagini sexualizate cu copii / Ce măsuri cere

UNICEF este „tot mai alarmată” de rapoartele privind creşterea „rapidă” a volumului de imagini cu caracter sexual generate de inteligenţa artificială, inclusiv cazuri care prezintă minori. Organizația a cerut statelor să incrimineze astfel de materiale și companiilor care dezvoltă astfel de tehnologii să includă măsuri de siguranță încă din faza de proiectare, relatează Reuters.

„Prejudiciile cauzate de abuzurile prin deepfake sunt reale și urgente. Copiii nu pot aștepta ca legea să țină pasul”, a transmis miercuri UNICEF într-un comunicat.

Potrivit unui studiu UNICEF realizat în 11 ţări, cel puţin 1,2 milioane de copii au spus că, în ultimul an, imaginile lor au fost manipulate în deepfake-uri cu caracter sexual explicit.

UNICEF și-a exprimat, de asemenea, îngrijorarea cu privire la ceea ce a numit „nudificarea” copiilor, utilizarea inteligenței artificiale pentru a dezbrăca sau modifica hainele din fotografii pentru a crea imagini false nud sau sexualizate.

„Copiii înşişi sunt profund conştienţi de acest risc. În unele dintre ţările incluse în studiu, până la două treimi dintre copii au declarat că le este teamă că IA ar putea fi utilizată pentru a crea imagini sau videoclipuri sexuale false. Nivelul de îngrijorare variază foarte mult de la o ţară la alta, subliniind necesitatea urgentă de măsuri mai puternice de sensibilizare, prevenire şi protecţie. Trebuie să fim clari. Imaginile cu caracter sexual ale copiilor generate sau manipulate folosind instrumente AI sunt materiale de abuz sexual asupra copiilor. Abuzurile comise prin intermediul deepfake rămân abuzuri, iar prejudiciul pe care îl cauzează nu este deloc fictiv”, a transmis UNICEF.

Potrivit organizației, atunci când imaginea sau identitatea unui copil sunt utilizate, acel copil este „victimizat în mod direct”. 

„Chiar şi în absenţa unei victime identificabile, materialele cu abuzuri sexuale asupra copiilor generate de IA normalizează exploatarea sexuală a copiilor, alimentează cererea de conţinut abuziv şi prezintă provocări semnificative pentru autorităţile de aplicare a legii în identificarea şi protejarea copiilor care au nevoie de ajutor”, a adăugat UNICEF.