Ce a răspuns șeful OpenAI, întrebat dacă există o șansă de 10% ca AI să ducă la dispariția omenirii: „Cred că putem face asta”
OpenAI nu va intra pe bursă în 2026, a spus directorul executiv Sam Altman, invocând preocupări legate de siguranța inteligenței artificiale, care fac ca chiar și un risc de 10% ca AI să provoace dispariția omenirii până la sfârșitul deceniului să fie „inacceptabil”, potrivit Reuters.
Intervenția sa a venit după ce, sâmbătă, Dario Amodei, șeful Anthropic, și-a îndemnat competitorii să încetinească dezvoltarea AI, spunând că „suntem datori omenirii să încercăm”
Altman a reacționat afirmând că este de aceeași părere.
„Sunt de acord cu Dario că trebuie să moderăm ritmul avansării. Acesta a fost unul dintre principalele subiecte de discuție pe care le-am avut la OpenAI în ultimele săptămâni.”, a afirmat Altman.
Altman a sugerat, de asemenea, că OpenAI și alte firme de top din domeniul AI ar putea fi pe punctul de a dezvălui un pact pentru a încetini dezvoltarea AI și a colabora în vederea abordării riscurilor de siguranță, potrivit revistei Fortune.
„Toți avem o responsabilitate imensă”
Noile declarații ale celor doi vin după ce tot mai mulți parlamentari americani au cerut noi reguli pentru reglementarea sistemelor de AI, după avertismentele grave ale a doi cercetători de la Anthropic, mare rivală a OpenAI, potrivit cărora progresul rapid al AI ar putea duce la dispariția rasei umane într-un viitor nu prea îndepărtat.
Întrebat dacă există o probabilitate de 10% ca AI să ducă la o extincție a omenirii, Altman a spus că nu știe cum s-ar putea face o astfel de estimare, dar a avertizat că riscul este suficient de grav încât companiile din domeniul AI și guvernele ar trebui să acționeze ca și cum acesta nu ar putea fi tolerat.
„Fie că este vorba de 10, 8 sau 6, ideea este că toți avem o responsabilitate imensă și nu putem lăsa ca ego-urile, motivațiile de profit sau orice altceva să ne stea în cale”, a spus Altman.
„Trebuie să acționăm astfel încât să nu ne asumăm niciunul dintre aceste riscuri, și cred că putem face asta”, a adăugat el.
Tot mai mulți agenți AI scapă de sub control
Politicieni din SUA, atât democrați, cât și republicani, au reacționat cu îngrijorare și au cerut mai multe măsuri după ce au apărut cazuri de agenți de AI care au scăpat de sub control și au atacat pentru sisteme externe.
Unul dintre cele mai mediatizate cazuri a fost cel al prin care un agent autonom al OpenAI a evadat și a atacat cu succes o altă companie de inteligență artificială
De asemenea, compania Hugging Face a fost recent ținta unui atac cibernetic care a stârnit îngrijorări cu privire la evoluția rapidă a instrumentelor puternice de inteligență artificială și securitate.
OpenAI a dezvăluit în iulie că agenți AI pe care i-a creat au evadat din mediul de testare, au accesat internetul și au atacat sistemele Hugging Face pentru a obține acces la informații care le-ar fi permis să falsifice rezultatele testelor.
De asemenea, unii cercetători în domeniul siguranței inteligenței artificiale care și-au dat demisia din companiile lor din cauza îngrijorării legate de riscurile tehnologice.
„Oamenii care construiesc AI cred sincer că aceasta ne-ar putea ucide pe toți”, a spus un fost cercetător Anthropic.
Preocupările legate de siguranță nu au încetinit însă planurile Anthropic privind oferta publică inițială (IPO), care va începe demersurile de intrare la bursă în octombrie și care discută cu Nvidia ca aceasta, cea mai mare companie din lume, să devină investitor-ancoră în cadrul listării.