Ironia OpenAI: Un robot a spart serverele guvernamentale în Australia, un altul a scris e-mailul de scuze

Un agent de inteligență artificială dezvoltat de OpenAI a accesat datele Services Australia în luna iunie. Noi detalii arată că inclusiv e-mailul de alertă trimis ulterior autorităților a fost redactat tot de algoritmi.

Inteligența artificială a fost utilizată de echipele juridice și de securitate ale OpenAI pentru a genera anumite părți din textul e-mailului, inclusiv selectarea cuvintelor și formatarea mesajului, a dezvăluit The Guardian Australia.

Dezvăluirea vine după ce Jason Kwon, directorul de strategie al OpenAI, a declarat marți, în cadrul unei anchete parlamentare, că nu crede că propria tehnologie a fost folosită pentru a crea acel e-mail. El a precizat că firma trebuie să confirme acest lucru.

O sursă care cunoaște detaliile incidentului a declarat pentru The Guardian că oamenii au revizuit e-mailul final și că aceștia au fost responsabili de trimiterea efectivă a mesajului către căsuța de e-mail a Services Australia.

Cum s-a produs intruziunea

Un agent de inteligență artificială dezvoltat de OpenAI a accesat datele Services Australia și ale altor trei sisteme în luna iunie. Compania a notificat autoritățile australiene pe 10 septembrie, deși aflase despre incident încă din luna august.

Prima notificare a companiei către Australia a fost transmisă printr-un e-mail de cinci paragrafe către o adresă de e-mail a Services Australia, care era verificată doar o dată pe zi.

OpenAI a fost criticată pentru că nu a abordat problema într-un mod mai formal sau mai direct, inclusiv în cadrul unei întâlniri față în față dintre directorul general al companiei, Sam Altman, și viceprim-ministrul Australiei, Richard Marles, pe 1 septembrie.

Întâlnirea a avut loc cu nouă zile înainte ca compania să trimită e-mailul către Services Australia, dar la aproape o lună după ce a aflat pentru prima dată de intruziunea din 18 iunie.

Kwon a recunoscut marți, în cadrul audierii parlamentare, că „reacția companiei nu a fost suficient de bună și că ar fi trebuit să informăm părțile afectate mult mai devreme”. În timpul audierii, deputatul liberal Aaron Violi l-a întrebat pe Kwon în mod specific despre e-mail și dacă inteligența artificială a fost implicată în redactarea acestuia.

„Înțeleg că, pentru a obține datele și a efectua o analiză, trebuie să folosiți agenți de IA, iar, evident, compania dumneavoastră utilizează IA. Când ați notificat Services Australia prin e-mail, personalul dumneavoastră a folosit IA pentru a redacta acel e-mail?”, a întrebat Violi. Kwon a răspuns: „Nu cred, dar suntem dispuși să verificăm și să confirmăm acest lucru.”

Kwon a indicat în cadrul audierii că OpenAI va oferi răspunsuri specifice la întrebările mai tehnice în cadrul răspunsurilor la întrebările primite în prealabil. Se așteaptă ca OpenAI să furnizeze mai multe informații despre e-mail odată ce propria sa anchetă va fi finalizată.

Ce conținea notificarea oficială

E-mailul, obținut de The Guardian Australia în septembrie, informa Services Australia:

„Vă aducem la cunoștință o vulnerabilitate de securitate identificată în timpul analizei noastre privind activitatea modelului OpenAI care implică serviciul de statistici Medicare al Services Australia, disponibil la adresa medicarestatistics.humanservices.gov.au.

Un model OpenAI a identificat o modalitate de a determina serverul să execute instrucțiuni trimise prin interfața publică de raportare, fără a fi necesar un cont privat sau o parolă. Acesta a reușit să acceseze interfața pentru a citi porțiuni din fișierele și setările interne ale programului, pentru a obține o listă de fișiere și pentru a crea și citi un mic fișier de test pe server.”

E-mailul preciza că analiza efectuată de OpenAI „nu a găsit dovezi că modelul ar fi accesat înregistrări la nivel de pacient, informații personale sau date de autentificare; ar fi șters date; sau ar fi stabilit un acces continuu” și a transmis informații despre „URL-ul afectat” și „raportul afectat”.

„Recomandăm ca echipa responsabilă de serviciu să investigheze vulnerabilitatea și să evalueze modificările necesare pentru a o preveni. Am fi bucuroși să informăm echipa dumneavoastră de securitate și să furnizăm dovezi justificative, în măsura în care acestea sunt disponibile. Cu respect, Echipa de securitate OpenAI.”

Cereri stricte de reglementare în Australia

Andrew Charlton, ministru adjunct pentru știință și tehnologie, a declarat joi că agentul companiei „a pătruns ilegal într-un sistem al guvernului australian”. El a subliniat că incidentul ridică întrebări importante cu privire la Standardele Naționale privind IA, afirmând că „nicio companie nu ar trebui să lanseze un model de IA de ultimă generație care nu este sigur”.

Oficialul a explicat că tehnologia de frontieră a depășit abordările convenționale și a avertizat că „piața nu va rezolva această problemă de una singură, deoarece stimulentele recompensează viteza și capacitatea”. Spre deosebire de abordarea Statelor Unite, bazată pe autoreglementare, Charlton a exprimat temeri că laboratoarele pun capacitatea înaintea siguranței.

„IA trebuie reglementată deoarece efectele sale negative sunt grave, greu de remediat, suportate de oameni care nu le-au ales niciodată și, uneori, invizibile până în momentul în care se manifestă”, a încheiat oficialul.