Un director executiv al uneia dintre cele mai mari companii de inteligență artificială din lume subliniază necesitatea creării unui „comutator de urgență” pentru inteligența artificială, într-o operațiune controlată de o terță parte independentă.
Jack Clark, unul dintre cei șapte fondatori ai Anthropic , a declarat pentru BBC că existența unei modalități de a dezactiva complet software-ul de inteligență artificială dacă acesta devine prea periculos este o problemă pe care societatea „ar putea dori să o reglementeze”.
În urma informațiilor persistente și a indiciilor privind tendințe potențial periculoase în autonomia inteligenței artificiale, Clarke a spus că „majoritatea laboratoarelor au diverse modalități de a deconecta”, inclusiv Anthropic. Dar a adăugat că un astfel de mecanism ar trebui să devină obligatoriu.
Dezvoltarea rapidă a inteligenței artificiale și temerile legate de riscurile pe care noua tehnologie le-ar putea reprezenta pentru umanitate au intrat în atenția publicului, în urma unei serii de avertismente din partea directorilor și angajaților companiilor de inteligență artificială.
Cele mai dure dintre aceste avertismente afirmă public că această tehnologie, dacă nu este controlată, ar putea duce chiar la dispariția speciei umane.
Sâmbăta trecută, CEO-ul Anthropic, Dario Amondei, a cerut o încetinire și o monitorizare mai atentă a ritmului dezvoltării inteligenței artificiale. El nu a specificat cum ar putea fi încetinită dezvoltarea inteligenței artificiale, dar a subliniat că orice măsură de limitare a acesteia trebuie luată „fără a sacrifica avantajul comercial”.
Jurnalistul Dan Popa trimite în fiecare joi dimineață newsletterul „EconoMix”. Dacă te interesează finanțele personale și vrei să primești recomandări economice, te poți abona aici:
Într-o declarație acordată BBC-ului, Clarke se întreba: „Ar trebui ca firmele să fie obligate să aibă un comutator de urgență? Ar trebui ca funcționarea acestui comutator să fie controlată de către o terță parte?”.
Tot el a răspuns: „Cred că acesta este genul de problemă despre care societatea va dori să stabilească reguli.”
Jucăm zaruri cu lucruri periculoase
Și conchide: „Jucăm zaruri, riscăm lucruri uriașe. Ideea este că trebuie să schimbăm cursul acestei industrii.”
Anthropic, fondată în 2021 de un grup de foști angajați ai concurentului său, OpenAI, se află în prezent în centrul dezbaterii privind siguranța inteligenței artificiale.
Săptămâna trecută, o postare a unui cercetător în inteligență artificială care a părăsit Anthropic din cauza îngrijorării că inteligența artificială ar putea șterge umanitatea a devenit virală.
În sprijinul acestui argument, un alt om de știință antropolog (Evan Hubinger) a afirmat că, în evaluarea sa personală, probabilitatea dispariției umanității din cauza inteligenței artificiale este „mai mare de 10% în următorul deceniu”.
În plus, laureatul Nobel Geoffrey Hinton, cunoscut drept „nașul inteligenței artificiale”, a declarat vineri pentru BBC că o șansă de 10% ca inteligența artificială să elimine toți oamenii „nu este nerezonabilă”.
El și alții au sugerat că inteligența artificială ar putea face acest lucru preluând controlul asupra sistemelor importante conectate la internet și activându-le împotriva oamenilor.
Cu toate acestea, unii reprezentanți din industria inteligenței artificiale au sugerat că temerile legate de distrugerea umanității de către aceasta sunt exagerate sau ar putea fi concepute pentru a stârni agitație.
Clement Delangue, liderul platformei de dezvoltare Hugging Face, care a fost atacată de roboții OpenAI, a declarat săptămâna trecută: „Îmi pare rău, dar dacă îl întrebi pe Jacob Coxon (cercetător britanic în domeniul inteligenței artificiale) despre riscul de dispariție al inteligenței artificiale, e ca și cum l-ai întreba pe instalatorul de aer condiționat despre schimbările climatice.”
„Nu spun că este neapărat greșit în sine, dar haideți să punem lucrurile în context.”
George Arison, liderul Grindr, a declarat că temerile legate de instrumentele de inteligență artificială sunt folosite de companii pentru a-și susține planurile de afaceri.
Anthropic, care a fost evaluată la 965 de miliarde de dolari, se pregătește pentru o ofertă publică inițială pe piața bursieră.
OpenAI, evaluată recent la 852 de miliarde de dolari, se aștepta să facă același lucru, dar Altman de la OpenAI a declarat vineri că nu se va întâmpla anul acesta din cauza dezbaterii actuale privind siguranța inteligenței artificiale.
