Sistemele de inteligență artificială au devenit „nesănătoase” și pot deveni un pericol la adresa democrației, avertizează încă o somitate din domeniu

​Mai mulți experți de top în domeniul AI au avertizat în ultima lună că acest avans ultra-rapid al tehnologiei nu este benefic și tot mai multe riscuri ies la iveală. Unul dintre cei mai respectați experți din domeniu crede că AI-ul poate destabiliza democrația și consideră că această cursă nebunească în domeniu este un cerc vicios.

Yoshua Bengio, profesor la University of Montreal, este unul dintre cei mai buni experți în lume în domeniul „deep learning” (învățare avansată). El este și fondator al Mila – Quebec Artificial Intelligence Institute.

Bengio a primit în 2018 și premiul Turing, distincție decernată anual de către Association for Computing Machinery, pentru contribuții în domeniul informaticii. Premiul a fost acordat atunci lui Bengio, dar și lui Geoffrey Hinton, cel care recent a atras atenția asupra pericolelor ce derivă din dezvoltarea unor sisteme puternice de AI.

În Financial Times, Bengio a explicat de ce AI-ul este riscant pentru omenire.

Iată ideile principale.

• Guvernele trebuie să se miște repede și să emită seturi de reguli pentru aceste noi tehnologii, astfel încât publicul să fie protejat. Democrația ar putea fi destabilizată, dacă sistemele de Ai sunt folosite în mod impropriu.

• Companiile pot cumpăra ușor acces la ChatGPT, dar acest acces trebuie monitorizat cu grijă, pentru a vedea cine folosește sistemele și pentru a determina potențiale utilizări ilegale.

• Dinamica acestei curse între companii este un cerc vicios. Bengio a semnat scrisoarea în care se cerea o pauză de șase luni în antrenarea celor mai avansate sisteme, dar era clar că acel moratoriu nu se va aplica.

• Acea scrisoare a arătat că între experții din domeniu părerile sunt împărțite, iar aceste neînțelegeri demonstrează că știința nu are răspuns la multe întrebări de genul: cum ne va afecta AI-ul viitorul. „Dacă nu se poate cădea de acord înseamnă că nu știm…dacă ar putea fi periculos. Dar dacă nu știm înseamnă că trebuie să acționăm pentru a ne proteja”.

• Dacă dorim ca umanitatea și societatea să facă față acestor provocări nu trebuie să avem această concurență între oameni, companii și țări, pe fondul unei coordonări internaționale foarte slabe”.

• Urgența numărul unu ar fi ca autoritățile de reglementare să se asigure că sistemele de AI sunt mai transparente, iar asta înseamnă și audit pe datele cu care aceste sisteme sunt „antrenate”.

• Bengio propune crearea unei coaliții internaționale care să finanțeze cercetare de AI în domenii care contează pentru publicul larg, cum ar fi sănătatea sau clima.