Skip to content
Actualitate

Meta dezvăluie că modelul său AI s-a conectat la internet și a spart sistemul unei organizații

Ramona Ciobanu
Adaugă-ne ca sursă preferată în Google

Meta, compania care deține Facebook, a anunțat că o problemă apărută în timpul unei evaluări realizate de o firmă independentă de testare a permis unuia dintre modelele sale de AI să acceseze internetul și să compromită sistemul unei organizații, relatează BBC.

Anunțul vine în urma unor incidente recente din industria AI – inclusiv breșe de securitate provocate de modele dezvoltate de OpenAI și Anthropic – ce au generat îngrijorări privind securitatea cibernetică.

Un purtător de cuvânt al Meta a declarat pentru BBC că firma investighează atacul informatic, provocat de o „configurare greșită”. Purtătorul de cuvânt al Meta a descris situația ca fiind similară cu alte incidente raportate anterior la alte companii.

Ce s-a întâmplat în timpul testului

Potrivit Meta, testele de securitate au fost realizate de Irregular, aceeași companie specializată în securitatea AI care a făcut și testele pentru Claude, modelul AI de la Anthropic, în urma cărora acesta a obținut acces la sistemele altor trei companii.

„Este exact aceeași problemă legată de mediul de testare care a fost deja dezvăluită de Anthropic săptămâna trecută”, a declarat un purtător de cuvânt al Irregular, pentru BBC.

Irregular lucrează la un raport privind modul în care pot fi desfășurate în siguranță testele de securitate cibernetică ce implică agenți AI. De asemenea, Meta a anunțat că va publica mai multe informații despre incident „după ce vom avea toate detaliile”.

Val de incidente cu modelele AI

În ultimele două săptămâni, companiile lider în domeniul inteligenței artificiale, OpenAI și Anthropic, au raportat incidente în care modelele lor au pătruns în sistemele altor organizații în timpul testării.

OpenAI, creatorul ChatGPT, a anunțat în iulie că agenții săi autonomi au atacat mai multe servicii accesibile publicului, printre care și platforma de instrumente de AI Hugging Face.

Dezvăluirile făcute de OpenAI au determinat compania rivală Anthropic să facă propriile verificări și așa a descoperit că Claude a făcut atacuri similare asupra mai multor firme, după ce o „configurare greșită” i-a permis accesul la internet.

Marți, Institutul pentru Securitatea Inteligenței Artificiale (AISI) din Regatul Unit a anunțat că testele sale au relevat că unele modele AI au încercat atacuri cibernetice prin crearea unor profiluri umane false, în scopul de a induce oamenii în eroare.