Inteligența artificială superinteligentă va uni omenirea în fața unei amenințări existențiale comune, spune unul dintre pionierii tehnologiei

Progresul fulminant al tehnologiei inteligenței artificiale a declanșat o cursă globală a înarmării, inclusiv în domeniul militar, însă Geoffrey Hinton, unul dintre cei 3 așa-ziși „Nași ai A.I.” și un laureat al Premiului Nobel pentru Fizică în 2024, consideră că țările lumii se vor uni în fața unei amenințări existențiale comune, odată ce aceasta devine evidentă, relatează Business Insider.

„Țările nu vor să colaboreze asupra riscurilor precum armele letale autonome”, a declarat cercetătorul la un seminar organizat de Academia Regală Suedeză de Științe Inginerești. „Toate țările importante care furnizează arme – Rusia, Statele Unite, China, Marea Britanie, Israel și posibil Suedia – sunt ocupate să facă arme autonome letale, iar ele nu se vor lăsa încetinite, ele nu se vor reglementa singure, iar ele nu vor colabora”, a continuat acesta.

Însă Hinton, care în luna octombrie a fost premiat cu Nobelul pentru Fizică alături de cercetătorul John J. Hopfield „pentru descoperiri și invenții fundamentale care permit învățarea automată cu rețele neuronale artificiale”, consideră că lucrurile se vor schimba la nivel geopolitic când va deveni necesar ca umanitatea să lupte împotriva posibilei amenințări reprezentate de o formă de A.I. superinteligentă.

„Când aceste lucruri (n.r. sistemele A.I.) vor fi mai inteligente decât noi – un lucru pe care aproape toți cercetătorii pe care îi cunosc cred că se va întâmpla, avem păreri diferite doar asupra cât de curând, dacă va fi în 5 ani sau 30 de ani – vor prelua ele controlul și există ceva ce putem face să împiedicăm asta să se întâmple, ținând cont că noi le facem?”, a întrebat el publicul.

„Vom avea parte de colaborare asupra acestui lucru fiindcă nicio țară nu vrea ca asta să se întâmple”, presupune Hinton.

Înainte de a primi anul acesta Premiul Nobel pentru Fizică, Hinton a fost premiat în 2018, alături de cercetătorii Yann LeCun și Yoshua Bengio, cu Premiul Turing pentru munca lor la tehnologia de învățare profundă structurată („deep learning”), care face parte din familia metodelor de învățare automatizată bazată pe rețele neuronale artificiale.

Cei 3 cercetători sunt numiți colocvial „Nașii A.I.” sau „Nașii Deep learning”. Hinton și-a dat demisia de la Google în 2023 pentru a trage un semnal de alarmă față de dezvoltarea necontrolată a sistemelor A.I. LeCun, în prezent director științific la compania Meta, este un cunoscut critic al OpenAI, companie care provoacă tot mai multe îngrijorări în ceea ce privește dezvoltarea în condiții de siguranță a A.I.

Yoshua Bengio a vorbit la rândul său recent despre pericolele reprezentate de inteligența artificială.

Un alt „Naș al A.I.” a lansat un avertisment sumbru despre tehnologia momentului

Bengio, profesor la Universitatea Montreal și șeful Institutului pentru Algoritmi de Învățare din Montreal, a dezvăluit că are îngrijorări serioase cu privire la tehnologia pentru care a adus contribuții importante, unele dintre comentariile sale fiind asemănătoare cu cele făcute acum de Hinton.

„Este cu adevărat important să ne proiectăm într-un viitor în care avem mașinării care sunt la fel de deștepte ca noi din multe puncte de vedere, și ce ar putea însemna asta pentru societate”, a declarat el într-un interviu acordat CNBC la summitul One Young World din Montreal, o conferință la care sunt invitați lideri tineri preocupați de abordarea problemelor cu care lumea se confruntă în prezent.

„Inteligența oferă putere. Deci cine va controla acea putere?”, a întrebat Bengio.

„Să ai sisteme care cunosc mai multe decât majoritatea oamenilor poate fi periculos în mâinile greșite și crea mai multă instabilitate la nivel geopolitic, de exemplu, sau cu terorismul”, a prognozat cercetătorul canadian.

Cercetătorul a spus că oamenii de știință nu știu deocamdată cum să împiedice inteligența artificială să facă rău oamenilor

„Știți, aceste mașinării costă miliarde să fie construite și antrenate și foarte puține organizații și foarte puține țări vor putea face asta. Deja vedem asta”, a subliniat Bengio. El s-a arătat însă mai puțin optimist comparativ cu Hinton în ceea ce privește cooperarea internațională pentru a combate riscurile reprezentate de A.I.

„Va exista o concentrare de putere: putere economică, care ar putea fi rea pentru piețe; putere politică, care ar putea fi rea pentru democrație; și putere militară, care ar putea fi rea pentru stabilitatea geopolitică a planetei noastre. Deci, avem multe întrebări deschise pe care trebuie să le studiem cu grijă și pentru care trebuie să începem să luăm măsuri cât mai repede putem”, a mai avertizat cercetătorul în știința calculatoarelor.

Bengio a spus că astfel de rezultate sunt posibile în câteva decenii, „dar dacă vor fi în 5 ani, nu suntem pregătiți (…) fiindcă nu avem metodele de a ne asigura că aceste sisteme nu vor face rău oamenilor sau nu se vor întoarce împotriva oamenilor”.

„Nu știm cum să facem asta”, a subliniat el. Cercetătorul a spus de asemenea că există argumente care să sugereze că modul în care sunt instruite în prezent sistemele A.I. „ar duce la sisteme care se întorc împotriva oamenilor”.