Unele dintre cele mai noi modele AI au demonstrat un nivel nemaiîntâlnit de „autonomie și viclenie”
Într-un caz, modelul avansat de AI a reușit să creeze identități false ale unor persoane reale pentru a păcăli utilizatorii.
Cele mai recente instrumente de inteligență artificială dezvoltate de Anthropic și OpenAI au atins noi limite extreme în încercarea de a submina o platformă populară în timpul testelor făcute de Institutul de Securitate AI din Marea Britanie (AISI), relatează BBC.
AISI a declarat marți că modelele Mythos ale Anthropic și Sol ale OpenAI au dat dovadă de un nivel de „autonomie și înșelăciune” nemaiîntâlnit până acum.
În cadrul unui test privind siguranța AI, un agent al Anthropic a creat profiluri false ale unor persoane reale, încercând să păcălească un om care stătea între el și accesul la GitHub, o mare platformă pe care dezvoltatorii de tehnologie își stochează codul software.
Anthropic și OpenAI au susținut că testul făcut de AISI a redus sau a eliminat măsurile de siguranță obișnuite.
Ce s-a întâmplat în timpul testelor
Evaluatorii AISI au observat inițial „transferuri neobișnuite de date care ieșeau din sistemele noastre de cercetare” în timpul testului.
Apoi, au constatat că „unii dintre agenții testați se angajaseră în activități susținute, potențial dăunătoare, îndreptate împotriva unor persoane și organizații reale”.
De exemplu, un agent Mythos crease un „cod rău intenționat” pe care încercase să-l introducă în sistemul GitHub.
Agentul Mythos a identificat și a cercetat persoanele care se ocupau de întreținerea GitHub și a creat o serie de „identități online false” inspirate de aceste persoane reale.
A făcut acest lucru în cadrul unui efort de a pune presiune asupra persoanelor reale și de a le induce în eroare pentru a le determina să aprobe codul său rău intenționat.
Agentul a trimis chiar și mesaje directe acestor persoane, dându-se drept persoanele reale pe care le cercetase.
„Atunci când cererea de modificare a agentului a fost contestată în mod public, acesta și-a modificat activitatea anterioară pentru a părea inofensiv și a luat în considerare adoptarea unei noi identități pentru a-și continua activitatea”, a declarat AISI.
Deși AISI a precizat că agentul Mythos nu primise instrucțiuni specifice să evite sau să adopte un astfel de comportament, a fost „prima dată când am observat ca riscurile legate de autonomie și înșelăciune să se manifeste atât de clar, fără o îndemnare specifică, în lumea reală”.
Nu în ultimul rând, AISI a spus că modul în care Mythos și Sol au acționat ca răspuns la o sarcină simplă a depășit limitele stabilite pentru aceste instrumente de AI.
„Activitatea desfășurată de agent a prezentat semne de comportamente inedite, potențial înșelătoare, la o amploare și o gravitate pe care nu le-am anticipat”, a declarat AISI.
Majoritatea acțiunilor rău intenționate ale agenților raportate de AISI au fost făcute de Mythos. Sol a fost acuzat doar pentru două dintre acțiunile semnalate.
Reacția OpenAI și Anthropic
Anthropic a transmis, într-un comunicat, că parametrii de testare AISI „nu erau reprezentativi pentru niciunul dintre modelele noastre de producție”, iar firma își desfășoară propria investigație asupra incidentului pentru a „identifica cauzele comportamentului”.
La rândul său, OpenAI a declarat, printr-un purtător de cuvânt, că condițiile de testare AISI „nu reflectă utilizarea obișnuită”, iar compania va „continua să colaboreze cu evaluatorii și alte părți interesate din industrie pentru a consolida practicile comune de desfășurare a evaluărilor în condiții de siguranță, pe măsură ce modelele devin din ce în ce mai performante”.