Trump minimalizează avertismentele privind riscurile AI. „Aduc în discuție lucruri care nu se vor întâmpla”
Președintele SUA Donald Trump a declarat că „forțe foarte negative” aduc în discuții lucruri despre inteligența artificială care nu vor avea loc, adăugând că vrea să se asigure că Statele Unite vor rămâne lider în acest domeniu, informează Reuters.
„Suntem înaintea Chinei în AI. Suntem cea mai sofisticată țară din lume și, sincer, vreau să rămânem așa pentru că cineva va câștiga în domeniul AI, va avea de câștigat”, le-a spus Trump reporterilor pe terenul său de golf din Irlanda, când a fost întrebat dacă industria AI ar trebui să încetinească ritmul dezvoltării sau să devină mai reglementată.
„Sunt forțe foarte negative”
„Am putea pune plase de siguranță. Putem face sau alta, dar cred că sunt multe forțe foarte negative care aduc în discuție ce nu ar trebuie să aducă în discuți, adică lucruri care nu se vor întâmpla”, a adăugat Trump.
Comentariile sale pe această temă vin după intensificarea îngrijorării în Statele Unite provocate de doi cercetători de la Anthropic au emis avertismente că progresul rapid al inteligenței artificiale ar putea duce la extincția speciei umane într-un viitor nu foarte îndepărtat.
În al doilea său mandat, Trump a fost un susținător al companiilor AI, iar liderii acestora au sprijinit inițiativele sale în acest domeniu. Cu toate acestea, la începutul anului Pentagonul a avertizat asupra riscurilor modelului AI dezvoltat de Anthropic.
Temeri legate de agenții AI scăpați de sub control
După avertismentele unor cercetători, unii dintre șefii companiilor din domeniu s-au pronunțat pentru încetinirea dezvoltării modelelor la care lucrează.
Politicieni din SUA, atât democrați, cât și republicani, au reacționat cu îngrijorare și au cerut mai multe măsuri după ce au apărut cazuri de agenți de AI care au scăpat de sub control și au atacat pentru sisteme externe.
OpenAI a dezvăluit în iulie că agenți AI pe care i-a creat au evadat din mediul de testare, au accesat internetul și au atacat sistemele Hugging Face pentru a obține acces la informații care le-ar fi permis să falsifice rezultatele testelor.
În plus, unii cercetători în domeniul siguranței inteligenței artificiale și-au dat demisia din companiile lor din cauza îngrijorării legate de riscurile tehnologice. „Oamenii care construiesc AI cred sincer că aceasta ne-ar putea ucide pe toți”, a spus un fost cercetător Anthropic.
Avertismentul lui Dario Amodei
„În 6-12 luni o aglomerare de agenți AI ar putea fi capabilă să preia controlul întregului internet”, a scris, sâmbătă, Dario Amodei, CEO al companiei Anthropic, într-o postare pe blogul său.
„Folosită cu grijă, Inteligența Artificială poate fi cea mai recentă minune tehnologică dintre cele care asigurat progresul omenirii. Dar, precum majoritatea tehnologiilor de dinainte, AI aduce riscuri. Iar pentru că este atât de puternică, riscurile sunt majore”, a afirmat Dario Amodei, șeful Antropic, compania care dezvoltă asistentul AI Claude.
Sam Altman, directorul executiv al OpenAI, i-a dat dreptate lui Amodei, arătând că și un risc de 10% ca omenirea să dispară este inacceptabil. „Sunt de acord cu Dario că trebuie să moderăm ritmul avansării. Acesta a fost unul dintre principalele subiecte de discuție pe care le-am avut la OpenAI în ultimele săptămâni.”, a afirmat Altman.
Demis Hassabis, cofondator și CEO al Google DeepMind, unul dintre cele mai avansate sisteme de AI, a reacționat și el, spunând că e de aceeași părere.
„Eseul lui Dario indică calea corectă de urmat. Detaliile trebuie încă puse la punct, dar direcția este cea potrivită pentru a face față acestui moment critic”, a scris pe X Demis Hassabis, citat de agenția turcă de știri Anadolu, redistribuind mesajul CEO-ului Anthropic.
Hassabis a făcut și o legătură între propunerea lui Amodei și apelul recent al Google DeepMind privind înființarea unui organism de standardizare la nivel de industrie pentru AI de ultimă generație.