Cercetătorul-şef al OpenAI avertizează că „nimeni nu este pregătit” pentru ce urmează cu AI
Cercetătorul-șef al OpenAI, Jakub Pachocki, a făcut apel la „prudență extremă” în ceea ce privește progresul galopant al inteligenței artificiale, avertizând că este nevoie de mai multe măsuri pentru ca „oamenii să păstreaze controlul asupra viitorului”, relatează BBC.
„Mă îngrijorează faptul că nimeni nu este pregătit pentru consecințele unei creșteri rapide și continue a inteligenței artificiale”, a scris Jakub Pachocki într-o postare pe blogul OpenAI, intitulată „An Alien Mind” (O minte extraterestră).
Mesajul său vine la doar câteva zile după ce compania care dezvoltă ChatGPT a lansat cel mai nou model al său, GPT-6 Astra, pe care l-a descris drept cel mai puternic produs al său de până acum.
OpenAI și alte companii din domeniul AI, precum Anthropic, au dezvăluit recent că agenți AI care acționează autonom au lansat atacuri cibernetice reale asupra altor companii.
„Ne confruntăm cu o tranziție către o lume cu mașini incredibil de inteligente și trebuie să ne asigurăm că această tranziție se va desfășura în beneficiul umanității”, a mai scris Pachocki.
El a afirmat că OpenAI va continua să „construiască sisteme defensive” și să caute soluții tehnice pentru „aliniere”, care se referă la dezvoltarea unor sisteme ale căror acțiuni și obiective respectă intențiile oamenilor, precum și măsurile de siguranță stabilite de aceștia.
Pachocki a adăugat că una dintre principalele priorități ale OpenAI în viitor va fi crearea unui „cercetător automatizat în domeniul AI”, pentru a ține pasul cu progresele din acest domeniu, asigurându-se în același timp că cercetătorii umani vor putea rămâne parte integrantă a procesului.
Pachocki a cerut stabilirea unor praguri minime de siguranță, impuse prin lege sau prin acorduri internaționale, care să fie verificate de auditori independenți sau de agenții guvernamentale.
Companiile de AI ar trebui să îndeplinească aceste criterii înainte de a li se permite să continue dezvoltarea sau lansarea modelelor avansate, potrivit cercetătorului.