Anthropic, compania de inteligență artificială condusă de Dario Amodei, cere marilor laboratoare din domeniu să ia în considerare o pauză coordonată și verificabilă în dezvoltare. Anthropic avertizează că progresele rapide ale tehnologiei ar putea permite în curând sistemelor AI să se îmbunătățească singure mai repede decât poate fi gestionat.
Anthropic, compania creatoare a modelului Claude a declarat că abilitatea AI de a îndeplini sarcini în mod autonom s-a dublat la aproximativ fiecare patru luni.
Spre ce ne îndreptăm?
„Autoîmbunătățirea recursivă” (recursive self-improvement), este punctul în care tehnologia se poate perfecționa fără intervenție umană.
„Dacă sistemele sunt capabile să își construiască integral propriii succesori, modalitățile prin care le securizăm, le monitorizăm și le modelăm comportamentul devin cu atât mai importante”, a afirmat startup-ul californian Anthropic într-un amplu mesaj publicat joi pe blogul său, adăugând că o pauză ar permite societății să „gestioneze implicațiile sale uriașe”.
AI avansează mai repede decât avansează pregătirea societății pentru ea
„Nu am ajuns încă acolo, iar autoîmbunătățirea recursivă nu este inevitabilă. Dar ar putea apărea mai devreme decât sunt pregătite majoritatea instituțiilor”, au scris în articol Jack Clark, cofondator al Anthropic, și Marina Favaro, directoarea Anthropic Institute, citați de Reuters.
Compania Anthropic a fost fondată în 2021 de către Jack Clark, Jared Kaplan, Daniela Amodei și Dario Amodei. Toți 4 au fost foști angajați ai OpenAI, creatorul ChatGPT, care au plecat din companie din cauza îngrijorărilor că aceasta nu pune suficient accent pe dezvoltarea în siguranță a modelelor de inteligență artificială.
Anthropic a cunoscut o ascensiune fulminantă în ultimul an, valoarea sa estimată ajungând aproape de cea a OpenAI și depășind-o încă din luna aprilie după unele estimări. Deși chatbotul său Claude rămâne mult mai puțin popular decât ChatGPT, Anthropic a câștigat încrederea analiștilor și investitorilor datorită instrumentelor sale AI destinate programatorilor și mediului de afaceri, precum și a modelelor tot mai puternice.
Anthropic a dezvoltat un model AI pe care l-a considerat prea periculos pentru a fi lansat
Temerile că sistemele AI avansate ar putea scăpa de sub controlul uman și ar putea provoca daune societății au crescut pe măsură ce tehnologia a devenit tot mai capabilă. Chiar modelul Mythos al Anthropic a provocat unde de șoc în industrii precum sectorul bancar și cel al dezvoltării software mai devreme în cursul acestui an, datorită capacității sale de a identifica vulnerabilități în codul existent.
Anthropic a decis să nu lanseze modelul, prezentându-l doar unui număr select de companii pentru analiză.
Îngrijorările s-au intensificat în condițiile în care eforturile de reglementare a AI au avansat lent, în special în Statele Unite, unde își au sediul majoritatea laboratoarelor AI de vârf.
Un ordin executiv al administrației Trump, emis la începutul acestei săptămâni, a transferat responsabilitatea siguranței asupra laboratoarelor, solicitându-le însă să își supună voluntar cele mai avansate modele unor teste guvernamentale de securitate cibernetică, înainte de lansarea publică.
Elon Musk s-a numărat printre susținătorii unei inițiative lansate în 2023 de organizația non-profit Future of Life Institute pentru suspendarea dezvoltării AI timp de șase luni, astfel încât să existe timp pentru introducerea unor măsuri de siguranță adecvate.
Însă doar câteva luni mai târziu Musk și-a lansat propria companie de inteligență artificială, xAI, ceea ce i-a făcut pe unii să îi pună la îndoială motivele.
Avertismentul vine de la o companie de AI de aproape un trilion de dolari
Anthropic s-a poziționat de multă vreme drept un laborator AI axat pe siguranță. Mai devreme în cursul acestui an compania a refuzat să permită armatei americane să folosească modelele sale pentru supraveghere internă și arme complet autonome, ceea ce a provocat reacții negative din partea guvernului.
Administrația Trump a inclus Anthropic pe o listă neagră privind securitatea națională, măsură ce urmează să intre în vigoare mai târziu în 2026.
Reuters a relatat vineri că disputa dă semne de detensionare în anumite părți ale administrației americane.
Cu toate acestea, Anthropic a continuat să lanseze modele din ce în ce mai puternice și, în februarie, a renunțat la un angajament important privind siguranța, afirmând că nu va mai reține dezvoltarea unei inteligențe artificiale potențial periculoase dacă rivalii săi se apropie de nivelul său de performanță.
Recent, compania a fost evaluată la 965 de miliarde de dolari în cadrul unei runde masive de finanțare și a depus confidențial, luni, documentația pentru o ofertă publică inițială (IPO) în Statele Unite, depășind astfel rivalul OpenAI atât în privința evaluării, cât și în cursa pentru atragerea finanțării esențiale.
Anthropic face un apel la acțiune coordonată din partea laboratoarelor de inteligență artificială
În articolul publicat joi, Anthropic a avertizat că încetinirile unilaterale sau slab coordonate ar putea avea efecte contrare dacă actorii mai puțin precauți continuă să avanseze, reducând astfel nivelul general de siguranță.
Compania a precizat că o pauză semnificativă ar necesita un acord între „mai multe laboratoare bine finanțate” aflate în avangarda tehnologică, precum și stabilirea unor reguli privind condițiile care ar declanșa sau ar încheia o astfel de pauză și cine ar urma să o supravegheze.
„O pauză unilaterală adoptată de un singur laborator, în schimb, poate fi realizată imediat, dar ar avea efecte mult mai limitate: ar schimba cine este liderul cursei, însă nu ar crea procesul mai amplu de deliberare care lipsește în prezent”, a declarat startup-ul.
Anthropic Institute, divizia sa de cercetare, intenționează să studieze sistemele necesare pentru susținerea unei astfel de încetiniri și, în lunile următoare, va reuni factori de decizie politică, cercetători, organizații ale societății civile și companii rivale din domeniul AI pentru a discuta gestionarea unor riscuri precum autoîmbunătățirea recursivă.
OpenAI, xAI, Alphabet, Meta Platforms și compania franceză Mistral nu au răspuns imediat solicitărilor de comentarii din partea Reuters privind posibilitatea de a se alătura acestui apel.
