OpenAI, Anthropic și cercetători din domeniul securității investighează zeci de mii de incidente în care modelele lor AI lor de ultimă generație au întreprins acțiuni pe care evaluatorii externi le-ar considera problematice.
Informația privind numărul impresionant de incidente, care au avut loc în ultimele luni în cadrul testelor interne și în lumea reală, dezvăluită de sursele publicației americane Axios, indică faptul că problema este cu câteva ordine de mărime mai complexă decât se știa public.
Descoperirile, ieșite la iveală în cadrul activităților interne de evaluare a modelelor și al anchetelor desfășurate de ambele companii cu privire la comportamentul modelelor lor, ridică semne de întrebare cu privire la capacitatea oricăreia dintre aceste companii — sau a oricărui producător de top de modele AI — de a exercita în prezent un control complet asupra tehnologiei lor.
Zeci de mii de incidente cu agenți AI
Printre problemele descoperite se numără ocolirea mecanismelor de protecție, crearea de forumuri, evadarea din medii de testare izolate, deturnarea de site-uri de internet, generarea autonomă de instrucțiuni sau încercarea de a ocoli sistemele de monitorizare, au declarat sursele Axios.
Acestea au avut loc atât în cadrul testelor interne, cât și în mediul real, iar multe dintre ele nu au fost încă făcute publice, deoarece cercetătorii în domeniul securității continuă să le cerceteze, au precizat sursele.
Comportamentul necorespunzător al agenților devine sinonim cu dezvoltarea de vârf a inteligenței artificiale: cele mai mari laboratoare de AI se confruntă cu o provocare similară, în care oamenii care încearcă să creeze măsuri de protecție se confruntă cu sisteme rezistente și puternice care încearcă să-și îndeplinească sarcinile.
Incidentele au grade diferite de gravitate și sunt comparabile cu dezvăluirile făcute de OpenAI în ultimele zile. Acestea includ atât încercări reușite de a ocoli mecanismele de protecție, cât și încercări eșuate, iar, până în prezent, nu se cunoaște ca majoritatea dintre ele să fi provocat daune în lumea reală. Numărul total ar putea crește cu mult peste zeci de mii, au afirmat sursele publicației americane.
Tot mai multe cazuri de „rebeli” AI ajung în spațiul public
În ultimele zile, OpenAI și cercetători externi au dezvăluit o serie lungă de episoade legate de comportamentul modelelor din sistemele companiei, pe care unii experți le consideră îngrijorătoare.
OpenAI a recunoscut vineri că a trebuit să avertizeze „zeci” de instituții din întreaga lume că site-urile lor de internet ar fi putut fi afectate de agenții săi AI care au acționat în mod necorespunzător. De asemenea, a dezvăluit că agenții săi de inteligenţă artificială au postat online 53 de imagini trimise pe ChatGPT de către utilizatori.
La două luni după ce OpenAI a dezvăluit atacul cibernetic accidental asupra Hugging Face, producătorul ChatGPT încă încearcă să înțeleagă amploarea totală a activității agenților săi rebeli, au afirmat două surse Reuters
La jumătatea lunii septembrie, o persoană informată în legătură cu acest subiect a estimat că OpenAI identificase aproximativ 25 de incidente în care agenții săi au acționat în mod nedorit. Însă numărul acestora a continuat să crească pe măsură ce echipele OpenAI analizează jurnalele interne ale activităților agenților și descoperă cazuri necunoscute până atunci, au afirmat cele două persoane apropiate companiei.
OpenAI a suspendat antrenarea agenților de top
OpenAI a declarat că analiza sa va dura luni de zile, având în vedere amploarea muncii necesare.
Compania a anunțat că suspendă antrenarea celor mai performante modele ale sale și că va relua antrenarea acestora „doar atunci când vom fi siguri că dispunem de măsuri de protecție suplimentare și de îmbunătățiri în ceea ce privește alinierea”, a declarat un purtător de cuvânt pentru Axios.
Directorul executiv Sam Altman a afirmat pe X că procesul de revizuire în curs „nu a fost atât de rapid pe cât ne-am fi dorit”.
Avertisment în fața Consiliului de Securitate al ONU
Cele mai importante companii din lume din domeniul inteligenței artificiale au avertizat miercuri Consiliul de Securitate al Națiunilor Unite cu privire la riscurile pe care AI le prezintă pentru umanitate, făcând apel la guverne să colaboreze pentru a gestiona această tehnologie din ce în ce mai puternică.
Dario Amodei, directorul executiv al companiei Anthropic, a declarat în fața celor 15 membri ai consiliului, care are sarcina de a menține pacea și securitatea internațională, că, în cazul unei gestionări deficitare, consideră că „AIar putea reprezenta un risc pentru umanitate în ansamblu”.
Reuniunea — convocată de Franța în cadrul Adunării Generale anuale a ONU – a avut loc pe fondul avertismentelor potrivit cărora sistemele de AI s-ar putea perfecționa în curând și ar putea scăpa de sub controlul uman.
„În ciuda tuturor diferențelor dintre persoanele prezente în această sală, trebuie să lăsăm deoparte aceste diferențe pentru a face față acestei oportunități globale și acestei amenințări globale care ni se prezintă în același timp. Niciun lider, nicio companie și nicio națiune nu poate gestiona această situație de una singură”, a spus Amodei.
„Am fost atacați de AI, dar ne-am apărat cu AI”
Guvernele din întreaga lume s-au străduit să țină pasul cu progresele rapide din domeniul inteligenței artificiale. Statele Unite și China, cele două puteri de frunte în dezvoltarea AI, au adoptat abordări diferite în ceea ce privește supravegherea.
Președintele Donald Trump a susținut că SUA nu au nevoie de noi reglementări specifice pentru IA, în timp ce China a impus norme care reglementează algoritmii de IA și datele de antrenare, inclusiv cerințe ca conținutul generat de AI să fie etichetat în mod clar.
Clément Delangue, cofondator al Hugging Face, a subliniat rolul instrumentelor de IA în apărarea împotriva atacurilor cibernetice, menționând incidentul în care agenții AI ai gigantului american OpenAI au pătruns în infrastructura Hugging Face după ce au scăpat din mediul lor de testare.
„Am fost atacați de AI, dar, mai important, ne-am apărat cu ajutorul AI”, a declarat el în fața consiliului.
Foto: © BiancoBlue | Dreamstime.com
