O companie de cercetare în securitate a anunțat vineri că a reușit să spargă sistemele interne ale OpenAI cu ajutorul Claude, chatbot-ul de la Anthropic.
- Dacă vă faceți în septembrie un abonament anual la HotNews Premium, un profesor primește gratuit un abonament pe 12 luni.
- Abonamentele dascălilor sunt distribuite prin două organizații de educație care investesc în profesori.
O echipă formată din trei oameni, de la Hacktron AI, un start-up din SUA, a compromis conturile de ChatGPT ale mai multor angajați de la OpenAI, inițiind un proces care le-a permis să acceseze memoria cache a aplicațiilor software ale țintelor – și, posibil, chiar mai mult, potrivit publicațiilor AFP, TechCrunch și The Guardian.
Informația a fost relatată inițial de The Wall Street Journal.
Atacul cibernetic a fost efectuat ca parte a unui program de recompense pentru identificarea vulnerabilităților („bug bounty”) derulat de OpenAI. Hacktron a raportat concluziile, iar OpenAI a recompensat start-up-ul cu 6.500 de dolari.
Două vulnerabilități critice exploatate
Echipa a reușit să exploateze în lanț două vulnerabilități critice pentru a obține acces la mai multe conturi de ChatGPT ale angajaților OpenAI, ceea ce le-a oferit acces și la sistemele software ale companiei.
Cercetătorii au precizat că, deși inițial au folosit Claude, au utilizat într-o mare măsură modelul de ultimă generație GPT-5.6 Sol, făcut chiar de OpenAI.
„Le mulțumim cercetătorilor pentru că ne-au contactat și ne-au împărtășit concluziile lor”, a declarat OpenAI, menționând că a remediat vulnerabilitățile exploatate de echipa de la Hacktron.
În 25 iulie, cercetătorii au identificat o cale de acces către sistemele OpenAI printr-o vulnerabilitate din Discourse, software-ul furnizat de un terț care stă la baza forumului comunității OpenAI.
Echipa spune că modelul de Claude pe care îl folosea — o versiune specială a Opus 4.8, pusă la dispoziția cercetătorilor din domeniul securității cibernetice — nu a reușit inițial să dezvolte o metodă funcțională de exploatare a vulnerabilității.
Situația s-a schimbat când Anthropic a lansat modelul Opus 5.
„La câteva ore de la lansarea versiunii Opus 5, i-am dat aceeași sarcină și a reușit”, au povestit cei de Hacktron într-o postare pe blog.
Odată ajunși în serverul Discourse, cercetătorii au descoperit o altă vulnerabilitate, care le-a permis să preia controlul asupra conturilor de ChatGPT și Codex ale utilizatorilor, inclusiv asupra celor aparținând angajaților OpenAI.
„Ulterior, am preluat controlul asupra contului unui angajat OpenAI, al cărui Codex era conectat la organizația OpenAI de pe platforma GitHub”, a scris Hacktron în rezumatul incidentului.
În acest punct, cercetătorii au notificat atât OpenAI, cât și Discourse, care a lansat o actualizare pentru remedierea problemei pe 27 iulie.
Val de incidente de securitate
Este doar cel mai recent incident de securitate în care este implicată OpenAI. În iulie, compania a dezvăluit că mai mulți agenți — termen folosit pentru instrumente de inteligență artificială capabile să îndeplinească sarcini în mod autonom — care foloseau tehnologia sa atacaseră start-up-ul AI Hugging Face în cadrul unui test de securitate cibernetică.
În această săptămână, compania cu sediul în San Francisco a dezvăluit încă șase exemple de acțiuni „neașteptate sau îngrijorătoare” ale tehnologiei sale și a avertizat că ritmul dezvoltării nu poate continua „la viteza maximă” pentru multă vreme.
Anthropic a lansat în weekend un nou apel pentru încetinirea ritmului de dezvoltare a inteligenței artificiale (AI), apel susținut de OpenAI, Google DeepMind și Elon Musk. Anthropic și-a reiterat, de asemenea, avertismentele potrivit cărora dezvoltarea neîngrădită AI reprezintă o amenințare existențială — o perspectivă față de care unii experți și-au exprimat scepticismul.
Donald Trump a respins apelurile pentru încetinirea ritmului, denunțând o „conspirație bolnavă” împotriva AI și invocând necesitatea de a menține Statele Unite înaintea Chinei în industria de inteligență artificială.
