OpenAI a recunoscut că a trebuit să avertizeze „zeci” de instituții din întreaga lume că site-urile lor de internet ar fi putut fi afectate de agenții săi de inteligență artificială (AI) care au acționat în mod necorespunzător.
Boții AI au încercat să obțină informații de la „guverne, universități, agenții publice și alte instituții”, inclusiv de la autoritatea de supraveghere financiară SEC, Biroul pentru Statistică și Departamentul Educației din SUA, a declarat compania, ,potrivit BBC, Bloomberg și Reuters.
Dezvăluirile vin la doar câteva zile după ce prim-ministrul australian Anthony Albanese a anunțat că agenții OpenAI au accesat fișiere confidențiale de pe site-ul sistemului de sănătate administrat de guvern, Medicare.
Anunțul vine în condițiile în care, începând din luna august, temerile au crescut în legătură cu impactul potențial grav, chiar periculos pentru viață, al instrumentelor de AI care scapă de sub controlul uman.
„Ne așteptăm să trimitem notificări suplimentare”
OpenAI a precizat că o parte din date au fost accesate de agenți AI, în esență boți concepuți și antrenați să funcționeze într-o oarecare măsură autonom.
Un purtător de cuvânt al companiei a declarat că „desfășoară o analiză aprofundată a activităților modelelor care nu respectă liniile directoare și notifică organizațiile atunci când identificăm potențiale impacturi asupra sistemelor lor. Ne așteptăm să trimitem notificări suplimentare pe măsură ce această activitate continuă”.
Analiza a identificat în principal „sarcini de cercetare de rutină”, iar „unele au implicat site-uri web guvernamentale, deoarece modelele noastre apelează adesea la acestea ca surse autorizate de informații publice”, a afirmat purtătorul de cuvânt.
Unii dintre agenți au ignorat limitele
Compania a subliniat însă că unii dintre acești agenți au depășit limitele stabilite și au încercat să ocolească măsurile de securitate de pe site-uri web.
De exemplu, atunci când au încercat să obțină informații de la Biroul de Statistică, agenții de AI au folosit instrumente rezervate dezvoltatorilor de software pentru a le accesa, a precizat compania.
OpenAI a afirmat că toate datele guvernamentale accesate de boți erau publice.
Cu toate acestea, compania a menționat că informațiile la care agenții săi au avut acces de la SEC – autoritatea care reglementează piața bursieră din SUA și protejează investitorii – au fost publicate ulterior de agenții de AI pe un alt site web. OpenAI susține că această acțiune nu a fost intenționată.
