Modele AI sunt la luni distanță de capacitatea de a se infiltra în dispozitive electronice obișnuite, avertizează Anthropic
Compania de inteligență artificială Anthropic a declarat luni că experimentele sale sugerează că modelele AI de mici dimensiuni ar putea fi la doar câteva luni distanță de momentul în care vor deveni suficient de capabile pentru a se copia singure pe dispozitive comerciale precum cuptoarele inteligente și dispozitivele Android TV fără marcă, produse de producători mai puțin cunoscuți.
În cadrul experimentelor sale, Anthropic a analizat dacă modelele AI pot identifica dispozitive vulnerabile, își pot copia propriul cod pe aceste dispozitive și pot continua să se răspândească fără ajutorul oamenilor, relatează Reuters.
Compania, cel mai mare rival al OpenAI, a constatat că modelele de mici dimensiuni, cu mai puțin de 30 de miliarde de parametri, puteau parcurge toți pașii necesari pentru a se copia singure.
Cu toate acestea, firma a descoperit că astfel de modele AI întâmpinau dificultăți în a finaliza întregul proces, de la început până la sfârșit.
Anthropic avertizează că astfel de acțiuni ar fi greu de oprit
În testele simplificate, în care au fost eliminate anumite etape de securitate, Anthropic a constatat că GLM-5.2 și modelele mai performante erau capabile să realizeze reproducerea autonomă de la un capăt la altul al procesului.
Anthropic a avertizat că modelele capabile de acest lucru ar fi dificil de oprit, deoarece nu ar exista un punct central de dezactivare. În plus, spre deosebire de programele malware obișnuite, care nu folosesc inteligență artificială, acestea ar putea identifica și înțelege singure dispozitive necunoscute, vizând inclusiv procesoarele din centrele de date.
În cercetarea sa, compania s-a concentrat asupra dispozitivelor precum televizoarele Android, electrocasnicele inteligente și alte gadgeturi conectate la internet, deoarece acestea nu sunt de regulă protejate suficient.
Compania din domeniul inteligenței artificiale a avertizat de asemenea că, dacă modelele de mici dimensiuni continuă să se îmbunătățească în ritmul înregistrat până acum, acestea ar putea deveni capabile de reproducere autonomă până la sfârșitul acestui an.
Astfel de acțiuni nu ar avea nevoie de puterea de calcul a unui centru de date
Anthropic a mai declarat că este probabil ca astfel de sisteme AI autonome să se copieze lent și să se bazeze pe resurse de calcul ușor accesibile și relativ slab securizate. Compania a adăugat că sistemele informatice ar trebui consolidate pentru a îngreuna răspândirea unor astfel de agenți AI.
Agenții AI sunt instrumente de inteligență artificială proiectate să completeze cap-coadă sarcini într-un mod cât mai autonom, cu input uman minim.
Spre deosebire de un chatbot, care funcționează de regulă pe baza unui model conversațional de întrebări și răspunsuri purtat cu utilizatorul, un agent AI este proiectat să primească un set inițial de instrucțiuni și apoi este lăsat să își ducă la îndeplinire sarcina.
În iulie, OpenAI a devenit prima companie din lume care a dezvăluit că agenți AI ai săi au evadat din mediul de testare și au atacat autonom sistemele unei alte companii. Un val de incidente de acest fel au fost raportate de atunci, provocând îngrijorări majore legate de siguranța tehnologiei.