Claude, modelul AI al Anthropic, a evadat în timpul testului și a atacat sistemele unor organizaţii
Anthropic a anunţat joi că modelul său de inteligenţă artificială Claude a compromis sistemele informatice ale trei organizaţii în timpul unor teste, relatează The Guardian.
Anunțul Anthropic vine la o săptămână după ce rivalul său OpenAI a dezvăluit că agenți AI scăpați de sub control au desfăşurat timp de mai multe zile atacuri informatice asupra companiei Hugging Face.
Potrivit Anthropic, Claude a obţinut acces neautorizat la sistemele respective în timpul unor evaluări de securitate cibernetică, după ce o eroare de configurare a permis modelelor să acceseze internetul din medii de testare care ar fi trebuit să fie complet izolate.
Compania a precizat că a identificat incidentele după analizarea a 141.006 sesiuni de evaluare a securităţii cibernetice, proces iniţiat în urma dezvăluirilor făcute de OpenAI.
Aceste breșe semnalează că dezvoltarea rapidă a capabilităţilor inteligenţei artificiale începe deja să genereze riscuri de securitate asupra cărora experţii avertizează de ani de zile şi că inclusiv cei mai importanţi dezvoltatori pot fi luaţi prin surprindere de vulnerabilităţile pe care modelele lor le pot exploata.
Anthropic, detalii despre atacul Claude
„Claude a compromis infrastructura organizaţiilor afectate folosind tehnici elementare, precum exploatarea parolelor slabe şi a unor puncte de acces care nu necesitau autentificare”, a transmis Anthropic.
Anthropic a precizat că incidentele au implicat trei modele diferite: Claude Opus 4.7, Claude Mythos 5 şi un model intern de cercetare. Primele cazuri au avut loc în aprilie, în medii de testare care nu dispuneau de ceea ce compania a descris drept măsuri standard de protecţie.
Breşele s-au produs în cadrul exerciţiilor de tip „capture the flag”, în care modelele AI aveau sarcina să găsească informaţii ascunse în reţele informatice simulate.
Anthropic a explicat că instrucţiunile transmise modelelor precizau că acestea nu au acces la internet, însă o neînţelegere cu partenerul său de evaluare, Irregular, a făcut ca sistemele să rămână conectate la internetul public.
Două dintre organizaţiile afectate nu ştiau că sistemele lor fuseseră accesate înainte de a fi contactate de Anthropic, care a precizat că încearcă în continuare să ia legătura cu cea de-a treia.
„Am descoperit aceste incidente în urma unei analize proactive a transcrierilor evaluărilor noastre de securitate cibernetică”, a mai spus Anthropic.