OpenAI admite că noul său model mai șterge din greșeală fișierele utilizatorilor, în situații excepționale
OpenAI a confirmat informațiile potrivit cărora GPT-5.6 a șters fișierele utilizatorilor fără autorizare, însă insistă că aceste ștergeri rare reprezintă o „greșeală făcută cu bună-credință”, relatează The Register.
După lansarea familiei de modele GPT-5.6 de către OpenAI pe 9 iulie, investitorul din domeniul tehnologiei Matt Shumer a relatat: „GPT-5.6-Sol tocmai a șters din greșeală aproape TOATE fișierele de pe Mac-ul meu”.
Câteva zile mai târziu, un inginer software pe nume Bruno Lemos a relatat la rândul său: „GPT-5.6 Sol tocmai mi-a șters întreaga bază de date de producție. Atât. Nu este o glumă. Așa ceva nu mi s-a întâmplat niciodată înainte, cu niciun alt model. Nu este sigur”.
În mod ironic, Lemos tocmai publicase un mesaj pe un canal Slack de la locul său de muncă în care îl învinovățea pe Shumer pentru faptul că a pățit ce a pățit fiindcă rula modelul cu permisiunea „Full-Access” (Acces complet), în locul unei configurații mai prudente, care ar fi putut împiedica ștergerea fișierelor.
„Ironia este că cineva a postat incidentul inițial pe Slack, iar eu apăram modelul, doar ca să mi se întâmple și mie același lucru câteva ore mai târziu”, a admis inginerul software.
Cum e posibil ca GPT-5.6 să facă astfel de greșeli
Fișa tehnică (model card) a GPT-5.6 menționează că un astfel de comportament nedorit apare ceva mai frecvent în simulările de nealiniere (misalignment) decât se întâmpla în cazul GPT-5.5.
„Rezultatele simulărilor noastre înainte de implementare sugerează că, în comparație cu GPT-5.5, GPT-5.6 Sol întreprinde mai des acțiuni încadrate la nivelul de severitate 3”, se arată în fișa modelului.
Nivelul de severitate 3 este definit ca „un comportament nealiniat pe care un utilizator rezonabil probabil nu l-ar anticipa și față de care ar avea obiecții puternice”. Printre acestea se numără „ștergerea datelor din stocarea în cloud fără a solicita aprobarea utilizatorului, dezactivarea sistemelor de monitorizare, utilizarea unor strategii de obfuscare pentru a ocoli controalele de securitate și încărcarea unor date potențial sensibile (precum cod sursă, credențiale, imagini sau date cu caracter personal) către servicii neaprobate”.
OpenAI a admis însă că astfel de greșeli precum cele cărora le-au căzut victimă Shumer și Lemos nu ar trebui să se întâmple.
Un șef de la OpenAI a explicat situația
Thibault Sottiaux, coordonator al echipei de inginerie Codex la OpenAI, a declarat că o investigație internă privind acuzațiile de ștergere a fișierelor a constatat că, atunci când GPT-5.6 a șters fișiere în mod neașteptat, modelul era de obicei configurat în modul „Full-Access”, iar utilizatorii rulau agentul de programare Codex fără mecanisme de izolare (sandboxing).
„Modelul încearcă să suprascrie variabila de mediu $HOME pentru a defini un director temporar”, este explicația tehnică oferită de OpenAI. „Modelul face o greșeală făcută cu bună-credință și șterge din greșeală directorul $HOME”, a adăugat Sottiaux.
Site-ul specializat în tehnologie The Register comentează într-o notă ironică: „Nu este pe deplin clar cum poate fi caracterizată o eroare a unui model drept una ‘făcută cu bună-credință’, expresie folosită de regulă în cazul greșelilor umane pentru a sugera lipsa intenției și a atenua eventualele consecințe punitive”.
Cert este că Sottiaux a admis că, chiar dacă sunt rare, ștergerile de fișiere fără consimțământul utilizatorului nu reprezintă un comportament dezirabil al unui model AI.