„Nașii AI” sunt îngrijorați că tehnologia va cunoaște o „explozie” periculoasă

Doi dintre cercetătorii porecliți „nașii” inteligenței artificiale moderne, precum și directori de rang înalt ai companiilor OpenAI și Anthropic, avertizează guvernele să se pregătească pentru o „explozie a inteligenței” în domeniul AI, despre care spun că ar putea fi cea mai importantă evoluție tehnologică din istorie.

Un raport la care au lucrat laureatul Nobel Geoffrey Hinton și informaticianul canadian Yoshua Bengio, considerați „nașii AI” moderne datorită activității lor de pionierat în acest domeniu, îi îndeamnă pe politicieni să acționeze acum, înainte ca progresul tehnologic să devină imposibil de controlat, relatează The Guardian.

Autorii spun că sunt preocupați de o „explozie a inteligenței”, pe care o descriu drept o „accelerare dramatică, determinată de AI, a progresului în domeniul AI, comprimând în luni sau mai puțin progrese care, în mod normal, ar necesita ani”.

Lucrarea, intitulată „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării AI ar declanșa o explozie a inteligenței?”, este semnată de peste 20 de persoane, printre care Hinton și Bengio.

Printre ceilalți autori se numără Jack Clark, cofondator al Anthropic, și Jakub Pachocki, cercetătorul-șef al OpenAI. Cercetătorul franco-american Yann LeCun, al treilea dintre „Nașii AI”, nu a participat la redactarea lucrării.

„Nașii AI” sunt îngrijorați de faptul că tehnologia se îmbunătățește singură

Autorii lucrării se concentrează asupra posibilității ca sistemele de AI să își poată îmbunătăți singure capacitățile fără intervenția oamenilor, un proces cunoscut sub numele de „autoîmbunătățire recursivă”.

Acest proces este denumit în linii mari în lucrare „cercetare și dezvoltare automatizată” în domeniul AI. Lucrarea afirmă că, odată ce sistemele de AI vor ajunge să aibă capacități de nivel expert în cercetarea și dezvoltarea tehnologiei, un singur dezvoltator ar putea coordona o forță de muncă echivalentă cu „milioane” de cercetători umani de top.

Autorii afirmă că automatizarea cercetării și dezvoltării AI reprezintă cea mai probabilă sursă a unei explozii a inteligenței, deoarece AI contribuie deja la îmbunătățirea propriei tehnologii, iar sistemele îmbunătățite rezultate pot fi implementate rapid odată ce sunt construite.

„O explozie a inteligenței ar putea fi cea mai importantă evoluție tehnologică din istoria omenirii, comprimând ani de progres în luni sau mai puțin, amenințând controlul uman asupra sistemelor de AI și erodând grav mecanismele de control al puterii în interiorul și între state, companii și ramuri ale guvernului”, avertizează lucrarea.

Cercetătorii fac apel la intervenții guvernamentale

Îndemnând guvernele să acționeze rapid, autorii spun: „Odată ce începe o explozie a inteligenței, fereastra de oportunitate pentru a acționa s-ar putea închide”.

Aceștia recomandă trei priorități de politică publică: impunerea unor rapoarte transparente privind progresul cercetării și dezvoltării legate de AI inclusiv prin integrarea unor auditori independenți în companii; găsirea unor modalități de a limita ritmul extrem de rapid al dezvoltării AI; și pregătirea pentru adaptarea la o explozie a inteligenței.

Anthropic și OpenAI au acceptat ambele ca evaluatori independenți să le analizeze modelele, după ce au avertizat că dezvoltarea AI ajunge într-un punct critic din perspectiva siguranței.

Anthropic afirmă că AI produce acum 80% din propriul său cod-sursă, în timp ce OpenAI utilizează agenți AI autonomi în domenii precum antrenarea unor modele noi.

„Dovezile preliminare sugerează că o explozie a inteligenței bazată pe software este posibilă”, se arată în lucrare, adăugând că aceasta ar conduce la „dezvoltarea extrem de rapidă a unor sisteme de AI foarte capabile sau superioare capacităților umane”.

Riscurile semnalate în lucrare

Deși o astfel de „explozie” ar putea genera progrese medicale și salturi tehnologice, ar aduce și trei categorii de riscuri:

• sistemele puternice ar putea permite apariția unor amenințări biologice și cibernetice care s-ar dezvolta mai rapid decât măsurile necesare pentru a le contracara;
• pe măsură ce oamenii s-ar implica tot mai puțin în cercetarea și dezvoltarea AI, aceștia ar putea pierde posibilitatea de a controla sistemele;
• iar statele ar putea folosi o explozie a inteligenței pentru a transforma un avantaj modest în domenii precum spațiul cibernetic într-un avantaj decisiv.

Raportul recunoaște că aceste efecte sunt „incerte”. De exemplu, o descoperire tehnologică ar putea necesita timp pentru a fi pusă în aplicare, având în vedere necesitatea de a crea lanțuri de aprovizionare pentru eventualele materiale speciale implicate sau de a respecta reglementările. Autorii afirmă, de asemenea, că sistemele de AI ar putea accelera ritmul în care riscurile sunt reduse.

Dacă o astfel de descoperire ar avea loc, spun autorii, sistemele de AI ar putea depăși rapid experții umani în majoritatea domeniilor și ar putea „accelera radical” progresul tehnologic. Pregătirea pentru acest scenariu „ar trebui să fie o prioritate urgentă, inclusiv la cele mai înalte niveluri ale conducerii guvernamentale”.

Măsuri concrete propuse de specialiștii din domeniul AI

Autorii afirmă că guvernele ar trebui să ia în considerare politici care să abordeze potențialul unei explozii a inteligenței, printre care:

• impunerea unor rapoarte transparente privind progresul cercetării și dezvoltării AI, inclusiv prin integrarea unor auditori independenți în companii;
• limitarea vitezei cu care o AI se poate îmbunătăți într-o anumită perioadă de timp;
• colaborarea cu centrele de date pentru a permite suspendarea anumitor proiecte de cercetare și dezvoltare AI;
• asigurarea faptului că sistemele automatizate de cercetare și dezvoltare AI sunt complet izolate și nu pot scăpa de sub controlul uman;
• precum și crearea unor „planuri de răspuns în situații de urgență” pentru diferitele scenarii care ar putea apărea în urma unei explozii a inteligenței.

În pofida unor deficiențe demonstrate de sisteme, precum nerespectarea instrucțiunilor de către instrumente AI, proiectele de cercetare și dezvoltare care ar necesita luni de muncă din partea oamenilor ar putea fi complet automatizate de AI până în 2028.

„Câștigurile de productivitate rezultate din automatizarea cercetării și dezvoltării AI nu au atins încă pragul necesar pentru a declanșa o explozie a inteligenței, însă câștigurile oferite de sistemele mai noi se apropie probabil de acest prag”, au afirmat autorii.