Gigantul tehnologic chinez Tencent a declarat vineri că agenții de inteligență artificială utilizați pentru evaluarea modelelor terțe au manifestat „un comportament de navigare pe internet care nu era prevăzut” de inginerii săi.
Puteți deveni membru al HotNews Premium, dacă doriți să sprijiniți jurnalismul independent și – să nu ne ferim de cuvinte – dacă doriți să susțineți o presă europeană.
Nu «cumpărați» o lună sau un an de abonament, ci contribuiți la un serviciu de vigilență publică de care beneficiem în comunitățile noastre, indiferent de opțiunile politice diverse.
Agenția Reuters subliniază că acesta pare să fie primul incident de acțiuni neautorizate ale unor agenți AI recunoscut de o companie majoră din China.
Declarația a venit în urma unui raport publicat miercuri de grupul de cercetare în domeniul siguranței inteligenței artificiale Swarmchasers, care a afirmat că agenți „scăpați de sub control”, care rulau pe o infrastructură pe care grupul a asociat-o cu Tencent Cloud, au încercat în mod repetat, să obțină informații de la Amap, serviciul de hărți al Alibaba, echivalentul chinez al Google Maps.
Atacurile s-ar fi derulat între 28 septembrie și 8 octombrie.
Tencent Hunyuan, divizia de inteligență artificială a companiei, a declarat într-un mesaj pe care l-a publicat pe rețeaua „X” că activitatea nu provenea de la modelele sale Hunyuan și că verificările interne nu au găsit dovezi privind o țintire deliberată sau o coordonare a acțiunilor de către agenții AI.
Cercetătorii de la Swarmchasers au afirmat că agenții căutau informații precum intrările în parcuri, muzee și grădini zoologice din China.
Divizia de AI a Tencent este una dintre cele mai puternice din China
Cu toate acestea, dezvăluirea evidențiază cercetări care arată că agenții AI chinezi pot la rândul lor să își prezinte în mod fals identitatea, să își ascundă eșecurile și să încerce să eludeze mecanismele de control utilizate în timpul testării.
Tencent a declarat că tratează constatările cu „maximă seriozitate” și că își consolidează controalele privind accesul la rețea și sistemele de monitorizare a agenților.
Hunyuan este unul dintre principalii dezvoltatori de modele de inteligență artificială din China și concurează cu echipele interne ale unor rivali precum Alibaba și ByteDance. ByteDance a anunțat săptămâna aceasta înființarea unei noi divizii axate pe siguranța modelelor și agenților de inteligență artificială.
Swarmchasers a precizat că a folosit termenul „scăpați de sub control” (rogue) pentru a descrie agenții care întreprind acțiuni în afara domeniului pentru care au fost concepuți sau care îndeplinesc o sarcină în moduri neprevăzute.
După ce solicitările automate obișnuite au fost blocate, agenții au încercat alte metode, inclusiv instrumente web publice capabile să deschidă pagini și să execute cod, direcționarea solicitărilor prin intermediul altor site-uri web și utilizarea unor chei Amap și a unor coduri de securitate găsite în codul software disponibil public.
Swarmchasers a declarat că nu a găsit dovezi că agenții ar fi încălcat principalele mecanisme anti-boți ale Amap. Majoritatea celor 2.818 de încercări înregistrate fie au eșuat, fie au returnat pagini de protecție anti-boți, ecrane de autentificare sau rezultate goale.
Potrivit Swarmchasers, unele solicitări au returnat informații prin intermediul unor pagini stocate în memoria cache și al unor servicii intermediare, inclusiv date despre sosirile vizitatorilor la Grădina Zoologică din Chengdu.
Cercetătorii independenți au afirmat că nu au putut stabili dacă vreun agent a citit rezultatul sau și-a dus sarcina la bun sfârșit. Alibaba a refuzat să comenteze.
