CEO-ul Anthropic Dario Amodei (stânga) și cercetătorul Yoshua Bengio (centru), în timpul unei audieri din Congresul american despre siguranța AI, FOTO: Alex Wong / Getty images / Profimedia
„Nicio altă activitate umană nu prezintă acest nivel de pericol”, a declarat într-un mesaj publicat pe rețeaua „X” Jacob Coxon, un fost cercetător al companiei de inteligență artificială Anthropic, el avertizând că startup-urile precum fostul său angajator sunt mai preocupate de dezvoltarea cât mai rapidă a unor modele AI, în detrimentul siguranței.
Dacă vă faceți în septembrie un abonament anual la HotNews Premium, un profesor primește gratuit un abonament pe 12 luni. Abonamentele dascălilor sunt distribuite printr-o organizație de educație care investește în profesori.
O demisie a trimis unde de șoc în cea mai prosperă industrie a momentului: Inteligența Artificială.
Cotidianul The Wall Street Journal a relatat marți seara în premieră despre plecarea dramatică a lui Coxon din cadrul companiei și despre motivul invocat de cercetător, cu puțin timp înainte ca acesta să înceapă să publice mesaje pe rețeaua de socializare „X”. WSJ menționează că acesta are 27 de ani.
Site-ul specializat în tehnologie Gizmodo notează că rolul lui Coxon la Anthropic consta în „antrenarea unor noi modele de inteligență artificială, făcându-le să consume cantități uriașe de date”.
Cu alte cuvinte, el activa în etapa de pre-instruire a modelelor. Acesta le-a spus jurnaliștilor de la WSJ că nu dorește să contribuie la o competiție în care companiile se întrec pentru a ajunge într-un punct în care oamenii nu mai pot controla inteligența artificială.
De ce a atras atenția avertismentul fostului cercetător de la Anthropic
„Nu simt că suntem pe drumul cel bun pentru a preveni o cursă globală, ceea ce ar putea necesita măsuri costisitoare, precum o interdicție temporară asupra îmbunătățirii capacităților modelelor”, a continuat el explicațiile în unul dintre mesajele pe care le-a publicat pe „X”.
„Oamenii care construiesc inteligența artificială cred sincer că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”, a mai scris cercetătorul.
Mesajul său a atras imediat atenția presei financiare și a celei specializate în tehnologie, nu în mică măsură datorită faptului că Anthropic a fost fondată de foști angajați ai OpenAI, compania din spatele ChatGPT, cu scopul explicit de a pune accentul pe dezvoltarea în condiții de siguranță a tehnologiei artificiale.
În ultimul an și jumătate Anthropic s-a poziționat drept cel mai puternic rival al OpenAI, în mare parte datorită avansului său în instrumente AI pentru programatori și segmentul enterprise.
Ambele companii se pregătesc să se listeze pe bursa americană până la sfârșitul acestui an și se află într-o competiție intensă pentru a lansa noi modele de frontieră. Competiția e exacerbată de presiunile tot mai mari puse de alți rivali din Silicon Valley precum Google și al său instrument Gemini, dar și din China, unde numeroase startup-uri lucrează sub o paradigmă diferită: modele AI cât mai ieftine și open-source.
Șeful Anthropic se numără printre cei îngrijorați de riscurile pe care le aduce AI
Dario Amodei, CEO-ul și unul dintre fondatorii Anthropic, este notoriu pentru avertismentele sale legate de riscurile reprezentate de AI, deși în ultima perioadă acestea s-au axat preponderent pe pericolele pentru locurile de muncă.
Mesajele ample pe care acesta le-a publicat de-a lungul timpului pe blogul său i-au atras porecla de „doomer” în Silicon Valley, adică o persoană profund pesimistă în privința viitorului AI.
„Sistemele de inteligență artificială sunt imprevizibile și dificil de controlat – am observat comportamente extrem de variate, precum obsesii, lingușire, lene, înșelăciune, șantaj, uneltiri, «trișarea» prin piratarea mediilor software și multe altele”, a scris el într-un eseu pe care l-a publicat la începutul anului sub titlul „Adolescența Tehnologiei”.
.„Companiile de inteligență artificială își doresc cu siguranță să antreneze sistemele AI să urmeze instrucțiunile oamenilor (poate cu excepția sarcinilor periculoase sau ilegale), însă procesul de a face acest lucru este mai degrabă o artă decât o știință, mai apropiat de «creșterea» unui lucru decât de «construirea» lui. Știm acum că este un proces în care multe lucruri pot merge prost”, a mai scris acesta.
El a făcut comentariile cu jumătate de an înainte ca OpenAI, iar apoi chiar Anthropic și Meta, să dezvăluie că instrumente AI pe care le-au creat au evadat din mediile lor de testare și au atacat terțe părți după ce au reușit să se conecteze la internet.
