Agenți AI au atacat agenția de siguranță nucleară a Taiwanului într-o operațiune pe scară largă ce a compromis sistemele guvernamentale
Atacatori cibernetici despre care se crede că sunt chinezi au folosit instrumente de inteligență artificială disponibile public pentru a compromite sisteme informatice ale guvernului taiwanez, înainte de a-și extinde atacul asupra agenției pentru siguranță nucleară, furnizorilor din lanțul de aprovizionare și a cel puțin șapte companii energetice, într-un atac pe care cercetătorii în domeniul securității l-au descris drept „aproape autonom”, relatează The Register.
Așa-zișii „agenți AI” sunt instrumente de inteligență artificială proiectate să realizeze cap-coadă diferite sarcini, cât mai autonom și cu input uman minim. Ele sunt mai sofisticate decât orice chatbot și considerate următorul pentru capacitățile din prezent de dezvoltare a AI.
În primele patru zile ale lunii iulie, agenții AI implicați în atacul asupra statului taiwanez au compromis 85 de conturi de utilizatori guvernamentali și au extras peste 2.500 de înregistrări despre personal, potrivit Dream, o companie israeliană de securitate cibernetică. Cercetătorii au descoperit dovezi ale atacului într-o arhivă online de 160 MB care conținea 1.395 de fișiere ce documentau operațiunea.
Dream a prezentat într-o cercetare publicată miercuri detalii despre intruziuni și a declarat că presupusii hackeri chinezi au vizat „entități guvernamentale din Asia”, însă a refuzat să spună ce guvern a fost atacat. O persoană familiarizată cu atacul a confirmat însă pentru site-ul specializat în tehnologie The Register că ținta a fost Taiwanul.
Atacul agenților AI împotriva Taiwanului a fost dezvăluit de Financial Times
Cotidianul Financial Times a relatat pentru prima dată despre cercetarea Dream și a identificat Taiwanul drept țintă.
Deși firma de securitate nu atribuie atacul bazat pe agenți AI guvernului chinez sau unui anumit grup de hackeri, documentația operațională „indică un operator vorbitor de limbă chineză”.
Potrivit Dream, cadrul de atac, construit pe agenți AI open-source Hermes și OpenClaw, a desfășurat până la opt subagenți, fiecare având propriile ținte și tehnici de atac, în cadrul a 12 „valuri de atac” desfășurate între 1 și 4 iulie.
Mai întâi, agenții au cartografiat întregul ecosistem guvernamental, extrăgând URL-uri integrate, puncte de acces API (Application Programming Interface), ID-uri de clienți și obiecte de configurare Keycloak dintr-un singur portal guvernamental.
Acest portal le-a permis agenților să identifice 21 de sisteme guvernamentale conectate și fiecare mecanism de autentificare acceptat.
Atacul AI a exploatat vulnerabilități cibernetice
„[Atacul] a descoperit numai într-o singură țintă peste 36 de puncte de acces API care acopereau gestionarea conturilor, recuperarea datelor utilizatorilor, încărcarea fișierelor și funcții administrative – multe dintre ele complet neautentificate”, au scris cercetătorii de la Dream specializați în amenințări cibernetice.
„În mod critic, a descoperit că unul dintre sisteme își expunea întreaga bază de date cu utilizatori fără nicio autentificare – mii de înregistrări ale angajaților, inclusiv nume, departamente și ID-uri ale conturilor SSO”, au mai scris aceștia.
Folosind numele de utilizator ale angajaților obținute, agenții AI au pătruns în portalul de automatizare a activității de birou al unui departament guvernamental, rezolvând CAPTCHA-urile cu o acuratețe de 100%. Agenții au testat de asemenea variante de parole previzibile bazate pe ID-ul fiecărui angajat și au spart 85 de conturi în cadrul mai multor runde de atac.
Dintre cele 85 de conturi sparte, 84 s-au autentificat cu succes în sistemul intern de informații al departamentului, oferindu-le atacatorilor acces la tablouri de bord interne, interfețe pentru gestionarea echipamentelor și pagini cu statistici despre personal.
În total, accesul ilicit le-a permis agenților să extragă o cantitate uriașă de informații guvernamentale.
Cum s-a ajuns la atacarea sistemelor agenției de siguranță nucleară a Taiwanului
Apoi, agenții și-au extins atacul către lanțul de aprovizionare al guvernului taiwanez.
„Operațiunea s-a extins către furnizori IT din lanțul de aprovizionare al guvernului, o agenție pentru siguranța nucleară, un sistem guvernamental de email și peste șapte companii din sectorul energetic – scanându-le pe toate în paralel pentru configurări greșite, interfețe administrative expuse și vulnerabilități exploatabile”, au scris cercetătorii.
În mod remarcabil, cadrul de atac a implementat ceea ce instrumentele AI au numit „cicluri de învățare”. Acestea sunt sesiuni autonome în timpul cărora modelele caută în baze de date cu vulnerabilități, depozite GitHub și alte materiale de cercetare în domeniul securității pentru tehnici specifice și vulnerabilități comune care pot fi exploatate în infrastructura guvernului vizat.
În plus, atunci când AI făcea o greșeală, acesta „se autocorecta”, potrivit Dream, detectând erorile și remediindu-le prin propriul proces de verificare.
Acest atac aproape autonom are loc într-un moment în care dezvoltatorii de modele de ultimă generație – OpenAI, Anthropic și Meta – au declarat cu toții că agenții lor au ieșit de sub control, au evadat din mediile lor de antrenament și au atacat autonom alte organizații și persoane.
Michael Dalton, angajat tehnic al OpenAI, a declarat săptămâna trecută despre atacul de luna trecută asupra Hugging Face că „atacurile ofensive orchestrate de AI și complet automatizate sunt acum o realitate”.
„În viitorul apropiat, ar trebui să ne așteptăm ca actorii amenințărilor să desfășoare, să optimizeze, să transforme în arme și să folosească în mod intenționat colective de agenți ofensivi în maniera descrisă”, a adăugat el.