Un agent OpenAI a spart sistemul Medicare din Australia și a vizat alte câteva platforme guvernamentale, în ceea ce reprezintă prima breșă de securitate cunoscută la nivel mondial provocată de o inteligență artificială împotriva unui organism de stat.
- Dacă vă faceți în septembrie un abonament anual la HotNews Premium, un profesor primește gratuit un abonament pe 12 luni.
- Abonamentele dascălilor sunt distribuite prin două organizații de educație care investesc în profesori.
Prim-ministrul Anthony Albanese a declarat miercuri jurnaliştilor din New York că agentul AI a avut acces la fişiere publice şi nepublice ale serviciului de statistică în domeniul sănătăţii.
„Astăzi am purtat o discuţie cu directorul general al OpenAI, Sam Altman, pentru a exprima îngrijorarea profundă a Australiei cu privire la acest incident”, a spus Albanese în marja Adunării Generale a Naţiunilor Unite, potrivit BBC.
„De asemenea, mi-am exprimat dezamăgirea faţă de faptul că a durat mult prea mult până când compania a informat guvernul despre ceea ce s-a întâmplat. A trebuit să aşteptăm până la 10 septembrie pentru a primi vreo notificare, iar această notificare a luat forma unui e-mail trimis pur şi simplu la adresa de e-mail publică”, a continuat el.
OpenAI a alertat guvernul australian abia în septembrie, deși atacul autonom a avut loc în luna iunie.
Ce a declarat OpenAI
Compania americană a recunoscut că agenţii săi au vizat mai multe site-uri guvernamentale australiene. Într-o declarație oficială, OpenAI afirmă că breșa de securitate a fost identificată în cadrul unei „analize aprofundate” a ceea ce experții numesc „activitate nealiniată a modelelor”.
„În timpul acestei analize, am identificat activități care implicau mai multe site-uri web și servicii ale guvernului australian, pe măsură ce modelele noastre încercau să caute răspunsuri și statistici în cadrul unei evaluări interne. În cursul acestui proces, modelele noastre au întreprins acțiuni pe care nu le prevăzusem și nu le-am intenționat”, a precizat grupul din San Francisco.
Compania a ținut să sublinieze că nu a găsit nicio dovadă că s-ar fi accesat date confidențiale ale pacienților. Totuși, OpenAI a notificat organizațiile afectate și a transmis că „furnizează informații tehnice pentru a sprijini investigațiile acestora și a contribui la remedierea potențialelor vulnerabilități de securitate”.
„Analiza noastră generală este în curs de desfășurare și rămânem dedicați transparenței cu privire la aceste probleme și împărtășirii informațiilor pe care le obținem pe măsură ce această activitate continuă”, a concluzionat compania.
Alte trei posibile ținte
Autoritățile sunt „la curent și cu alte trei sisteme care ar putea fi afectate”, a mai declarat premierul australian.
Printre acestea se numără Institutul Australian pentru Sănătate și Bunăstare, Biroul de Statistică și Cercetare Criminalistică din New South Wales și Departamentul de Sănătate din Victoria, a precizat el.
Albanese a declarat că a discutat cu Ben Carroll și Chris Minns, premierii statelor Victoria și New South Wales, care vor primi „astăzi o informare completă din partea departamentului de securitate cibernetică cu privire la aceste probleme”.
Ce spun experții
Incidentul în care au fost implicați agenții OpenAI în Australia reprezintă prima breșă de securitate provocată de AI pe un site web guvernamental la nivel mondial, din câte știu experții, scrie BBC.
Furtul de informații sensibile și atacurile asupra bazelor de date de stat au mai avut loc și în trecut. Însă diferența majoră în acest caz este că niciun om nu a orchestrat direct atacul, iar acțiunea algoritmului pare să fi fost complet neintenționată.
La începutul acestui an, în Taiwan, hackeri străini au folosit agenți AI pentru a pătrunde în bazele de date guvernamentale. În schimb, în Australia, sistemul a fost penetrat accidental de o tehnologie care aparține unui aliat strategic.
„Incidentul OpenAI din Australia pare să fi avut loc la o scară mult mai mare, fiind implicați sute sau mii de agenți, nu doar câteva zeci”, a explicat pentru BBC profesorul Toby Walsh de la Universitatea New South Wales (UNSW). „De asemenea, spre deosebire de cazul din Taiwan, care a fost un atac intenționat din partea unui adversar străin, incidentul OpenAI a fost neintenționat.”
La rândul său, dr. Rob Nicholls, cercetător senior în politici și reglementare AI la Universitatea din Sydney, a subliniat că au existat deja semnale de alarmă similare în mediul privat, amintind de un incident recent de pe platforma Hugging Face.
„Toate marile laboratoare din avangarda tehnologiei – Anthropic, OpenAI, Google Gemini – au recunoscut recent că agenții lor au ieșit din mediile controlate de testare și au început să facă lucruri complet neprevăzute”, a avertizat cercetătorul.
