Grok, chatbotul lui Elon Musk, limitează generarea de imagini, după revolta provocată de deepfake-urile cu conținut sexualizat, inclusiv cu minori

Startup-ul xAI al lui Elon Musk a restricționat funcția de generare a imaginilor pentru chatbotul său, Grok, de pe platforma socială X, la abonații plătitori.

Decizia vine după ce utilizarea instrumentului respectiv pentru generarea de imagini sexualizate a stârnit o reacție negativă pe scară largă, în special în Europa.

Funcția de generare a imaginilor le permitea utilizatorilor de pe X să editeze sau să creeze fotografii sexualizate, care, potrivit Reuters, erau folosite pentru a genera imagini cu femei și copii îmbrăcați sumar, adesea fără consimțământul persoanelor reprezentate.

Un val de imagini semi-nud postate pe X i-a determinat pe oficialii europeni să solicite măsuri legale, ministrul german al mass-media, Wolfram Weimer, acuzând o „industrializare a hărțuirii sexuale”, iar Comisia Europeană calificându-le imaginile drept ilegale.

Compania lui Musk acuză minciunile presei tradiționale

Grok a informat vineri utilizatorii X că funcțiile de generare și editare a imaginilor sunt acum disponibile numai pentru abonații plătitori.

Aplicația autonomă Grok, care funcționează separat de X, permite în continuare utilizatorilor să genereze imagini fără abonament.

Într-un răspuns care părea automat, xAI a răspuns la o solicitare de comentarii trimisă prin e-mail de Reuters, acuzând minciunile presei tradiționale. X nu a răspuns imediat la solicitarea de comentarii.

Comisia Europeană a declarat luni că astfel de imagini care circulă pe X sunt ilegale și revoltătoare, în timp ce autoritatea britanică de reglementare a datelor a declarat că a solicitat platformei să explice modul în care respectă legile privind protecția datelor, în urma îngrijorărilor că Grok genera imagini cu abuzuri sexuale asupra femeilor.

Musk a declarat săptămâna trecută că orice persoană care utilizează Grok pentru a crea conținut ilegal va suporta aceleași consecințe ca în cazul încărcării directe a unui astfel de material.

Comisia Europeană „analizează foarte serios” acuzațiile

Comisia Europeană a declarat, luni, că „analizează foarte serios” acuzațiile conform cărora Grok, instrumentul de inteligență artificială al companiei lui Elon Musk, este folosit pentru a genera și pentru a răspândi imagini cu conținut sexual cu minori.

Astfel de imagini, generate prin modul „spicy” al Grok, sunt „ilegale” și „dezgustătoare”, a afirmat purtătorul de cuvânt al EU pe probleme digitale, Thomas Regnier, în cadrul unor declarații de presă.

„Nu își au locul în Europa”, a subliniat el.

Producătorul lui Grok, xAi, a declarat în această lună că face eforturi pentru a remedia problemele instrumentului de inteligență artificială.

Parchetul din Paris a extins la rândul său o anchetă care viza X, pentru a cerceta și acuzațiile conform cărora Grok este folosit cu scopul de a genera și răspândi pornografie infantilă.