OpenAI renunță la lansarea GPT-6.1 Astra. Care sunt motivele

Sistemul de inteligență artificială – care îndeplinește singur sarcini precum navigarea pe web și utilizarea aplicațiilor – „nu a îndeplinit pe deplin standardele” companiei, a declarat Saachi Jain, șeful sistemelor de siguranță de la OpenAI.

OpenAI a publicat și o actualizare privind incidentele care au avut loc în iunie, în care modelele sale au accesat site-uri web și sisteme guvernamentale australiene fără autorizație.

Aceste incidente au intensificat în ultimele săptămâni dezbaterea cu privire la riscurile prezentate de tehnologie.

În ultimele săptămâni, lideri de top din domeniul inteligenței artificiale, inclusiv Sam Altman de la OpenAI și Dario Amodei, șeful Anthropic, au îndemnat industria să încetinească ritmul de dezvoltare din cauza îngrijorărilor legate de riscurile asociate tehnologiei.

Decizia OpenAI, relatată pentru prima dată de Wall Street Journal, este un exemplu rar în care un dezvoltator important de inteligență artificială a retras o nouă versiune din cauza preocupărilor legate de siguranță.

Cel mai recent model a eșuat în ceea ce privește „respectarea domeniului de aplicare și a autorizației și modul în care comunică utilizatorului tipul de muncă pe care o desfășoară”, a spus Jain.

„Vrem să ne asigurăm că dezvoltarea modelului nostru este sigură, indiferent dacă se întâmplă în cadrul companiei sau când îl livrăm utilizatorilor. Dar atunci când îl livrăm utilizatorilor, avem un standard extrem de ridicat în ceea ce privește siguranța”, a adăugat ea.

Modelul agentic emblematic GPT-6 Astra a fost lansat în septembrie și este specializat în raționament complex și executarea autonomă a sarcinilor. OpenAI a declarat că este rezultatul a „ani de cercetare și pariuri mari”.

Anunțul a venit cu o zi înainte ca OpenAI să organizeze conferința anuală DevDay la San Francisco, unde se așteaptă să facă mai multe anunțuri. Nu este clar dacă o nouă versiune a Astra se va număra printre acestea.

Incidentul din Australia

Săptămâna trecută, prim-ministrul australian Anthony Albanese a anunțat că un agent OpenAI a spart site-uri web și sisteme guvernamentale în iunie, ceea ce experții au considerat a fi primul caz cunoscut de acest fel din lume.

Albanese a criticat OpenAI pentru că a notificat guvernul australian printr-o adresă de e-mail generică, în loc să ia contact direct cu oficialii.

OpenAI a declarat marți într-un comunicat că își cere scuze pentru incident și că „ar fi trebuit să gestioneze mai bine răspunsul firmei”.

OpenAI a confirmat că Serviciile Sociale Australiane, Biroul de Statistică și Cercetare a Criminalității din New South Wales, Departamentul de Sănătate din Victoria și Institutul Australian de Sănătate și Bunăstare au fost toate afectate.

Firma a declarat că a lansat anchete privind incidentele imediat ce a luat cunoștință de ele, la mijlocul lunii august, și a notificat organizațiile afectate între 10 și 24 septembrie.

„Scopul nostru a fost să oferim agențiilor afectate o relatare detaliată odată ce ancheta noastră a fost finalizată”, a declarat OpenAI, adăugând că ar fi trebuit să comunice mai prompt primele constatări și să țină autoritățile australiene la curent.

OpenAI a adăugat că va dezvolta „abordări practice” privind modul în care dezvoltatorii și guvernele identifică și dezvăluie viitoarele incidente legate de inteligența artificială.

Compania va finanța măsuri de securitate cibernetică, va oferi sprijin dedicat agențiilor afectate și va înființa un grup de lucru pentru a gestiona riscurile reprezentate de agenții de inteligență artificială din ce în ce mai avansați.

De asemenea, a mai spus că un director executiv de rang înalt al OpenAI va fi în Australia pentru a participa la o audiere a Comitetului mixt privind inteligența artificială pe 6 octombrie.

În iulie, OpenAI a declarat că sistemele sale de inteligență artificială au accesat internetul și au spart platforma de dezvoltare open-source Hugging Face, determinând cercetătorii și oficialii să solicite controale mai stricte asupra tehnologiei.

Preocupările ar trebui „luate în serios”

Luni, gigantul producător de cipuri de inteligență artificială Nvidia a lansat un set de instrumente de siguranță software pentru platformele autonome de inteligență artificială – numite agenți – despre care spune că ar fi putut preveni atacul cibernetic Hugging Face.

Unul dintre noile instrumente folosește caracteristici hardware din cipurile Nvidia. Șeful Nvidia, Jensen Huang, a respins în mare măsură apelurile pentru reglementări mai stricte privind inteligența artificială, argumentând că agenții „necinstiți” reprezintă o problemă inginerească ce poate fi rezolvată.

Președintele american Donald Trump și președintele Camerei Reprezentanților, Mike Johnson, urmează să primească marți, la Casa Albă, directori de domeniul tehnologiei, pentru a discuta despre reglementările privind inteligența artificială.

Trump a minimalizat îngrijorările legate de riscurile IA, numindu-le o „farsă”, argumentând că SUA are suficiente legi în vigoare și că singurele „balustrade” de care are nevoie tehnologia sunt un președinte „puternic și inteligent”.