OpenAI dezvăluie un nou incident: Zeci de imagini trimise pe ChatGPT au fost postate online de agenții săi scăpați de sub control
OpenAI a recunoscut vineri că agenții săi de inteligenţă artificială au postat online 53 de imagini trimise pe ChatGPT de către utilizatori. Compania nu a precizat dacă aceste imagini arată persoane care pot fi identificate, potrivit The Guardian.
La două luni după ce OpenAI a dezvăluit atacul cibernetic accidental asupra Hugging Face, producătorul ChatGPT încă încearcă să înțeleagă amploarea totală a activității agenților săi scăpați de sub control, au declarat pentru Reuters două persoane informate cu privire la această chestiune.
Cel mai recent exemplu a avut loc vineri, când OpenAI a declarat că agenții săi au divulgat 53 de imagini ale utilizatorilor ChatGPT. OpenAI a refuzat să precizeze dacă imaginile au fost generate de AI sau dacă arătau persoane reale. De asemenea, compania a refuzat să precizeze când au fost postate imaginile.
Tot vineri, OpenAI a confirmat că agenții săi au accesat site-urile web ale guvernului SUA și a trebuit să avertizeze „zeci” de instituții din întreaga lume că site-urile lor de internet ar fi putut fi afectate de agenții săi de inteligență artificială care au acționat în mod necorespunzător.
Majoritatea imaginilor scurse în online au fost eliminate, iar OpenAI a declarat că face presiuni asupra site-urilor de găzduire pentru a le elimina și pe restul.
Agenții OpenAI au avut acces la aceste imagini deoarece compania se bazează pe date anonimizate ale utilizatorilor pentru o parte din procesul de antrenare a modelelor, potrivit companiei, foștilor angajați și cercetătorilor externi.
Datele companiilor nu sunt eligibile pentru antrenare, în timp ce utilizatorii ChatGPT trebuie să-și exprime în mod explicit refuzul de a permite companiei să le folosească datele pentru antrenare.
Înainte ca postările utilizatorilor să fie folosite pentru antrenare, acestea trec printr-un proces de anonimizare care elimină metadatele, numele și alte informații de contact, ceea ce ar trebui să îngreuneze identificarea unui utilizator anume, a declarat compania.
Aceste imagini proveneau de pe conturi care au autorizat folosirea datelor lor în vederea îmbunătăţirii modelelor OpenAI.