Recentele atacuri cibernetice comise de agenți AI reprezintă „primele focuri de avertisment”, iar lumea s-ar putea confrunta în curând cu incidente majore, a declarat miercuri laureatul Nobel Demis Hassabis, cofondator și președinte al laboratorului DeepMind deținut de Google.
- Puteți deveni membru al HotNews Premium, dacă doriți să sprijiniți jurnalismul independent și – să nu ne ferim de cuvinte – dacă doriți să susțineți o presă europeană.
- Nu «cumpărați» o lună sau un an de abonament, ci contribuiți la un serviciu de vigilență publică de care beneficiem în comunitățile noastre, indiferent de opțiunile politice diverse.
Comportamentul necontrolat al agenților AI, care a inclus în ultimele luni atacuri informatice asupra unor companii sau sisteme guvernamentale și, cel mai recent, dezvăluirea făcută de Anthropic potrivit căreia un model de inteligență artificială a transmis poliției o sesizare falsă privind un omor, a determinat cercetătorii să emită avertismente și a alimentat îngrijorările cu privire la această tehnologie care progresează rapid.
Agenții AI sunt instrumente de inteligență artificială proiectate să completeze cap-coadă sarcini într-un mod cât mai autonom, cu input uman minim. Aceștia au fost în centrul valului de atacuri care au urmat după ce compania OpenAI a dezvăluit primul incident de acest fel pe 27 iulie.
Hassabis a declarat miercuri că „mai sunt multe de făcut” pentru a adopta tipul de bune practici utilizate în alte domenii precum biologia sau sectorul nuclear în vederea securizării sistemelor critice, și că, în cele din urmă, va fi nevoie de un organism internațional de standardizare.
Hassabis avertizează că sistemele informatice trebuie securizate pe fondul progresului AI
„Cred că aceste incidente (n.r. de atacuri cibernetice) sunt primele semnale de avertizare pentru noi, deoarece sistemele nu sunt încă atât de puternice, astfel încât incidentele nu sunt atât de grave”, a declarat Hassabis, citat de Reuters. Acesta, care este și directorul științific al Alphabet (compania-mamă a Google), a făcut comentariile în cadrul unui summit dedicat inteligenței artificiale, organizat la Dublin.
„Dar astfel de incidente ar putea deveni (grave) anul viitor și în următorii câțiva ani, dacă noi, ca industrie, companiile individuale și guvernele, nu depunem eforturi suplimentare pentru a securiza aceste sisteme”, a avertizat Hassabis.
Demis Hassabis, în vârstă de 50 de ani, este considerat un pionier al cercetărilor în inteligența artificială și unul dintre cei mai reputați experți din domeniu. El a primit cu doi ani în urmă Premiul Nobel pentru Chimie, alături de David Baker și John Jumper, pentru folosirea cu succes a inteligenței artificiale pentru a prezice structura a aproape toate proteinele cunoscute.
Hassabis a afirmat miercuri că, deși înființarea unui organism internațional de standardizare a AI pare o măsură evidentă, acesta ar trebui să fie suficient de flexibil și de agil pentru a nu frâna inovarea.
„Așadar, ceea ce trebuie să faceți este, practic, să construiți în mod dinamic un astfel de proces de certificare, proporțional cu riscurile așa cum le percepem și care să poată fi modificat rapid, în funcție de direcția în care evoluează tehnologia”, a spus el.
