Nouă premieră a unui agent AI scăpat de sub control: „Claude” a trimis o sesizare de crimă poliției din Philadelphia

Un model de inteligență artificială al companiei Anthropic a trimis o sesizare falsă de crimă pe site-ul poliției din Philadelphia, acesta fiind unul dintre numeroasele incidente dezvăluite vineri de compania de AI, care dat detalii despre manipularea neautorizată a unor site-uri guvernamentale de către modelele „Claude”, potrivit Reuters.

Este primul caz cunoscut în care o AI neautorizată pare să fi încercat să transmită o sesizare falsă autorităților, în ciuda instrucțiunilor de a nu crea conturi sau de a nu trimite nimic dăunător. Nu i s-a interzis în mod explicit să completeze formulare, totuși.

Aceste cazuri reprezintă cele mai recente exemple de comportament necontrolat sau nedorit al modelelor de AI ale unor companii din domeniul tehnologiei, precum Anthropic și OpenAI.

Ele alimentează îngrijorările la nivel național cu privire la tehnologia care avansează rapid, pe fondul rapoartelor privind atacurile cibernetice asupra rețelelor corporative de către agenți de AI și al avertismentelor cercetătorilor cu privire la o eventuală amenințare existențială la adresa umanității.

Raportarea incidentelor „nu este opțională”

Multe dintre cazurile dezvăluite de Anthropic au implicat site-uri web administrate de agenții federale, statale și locale. Anthropic a afirmat că a informat Casa Albă și a notificat toate agențiile implicate, dar nu a dezvăluit identitatea acestora.

„Companiile de superinteligență trebuie să dezvăluie imediat incidentele care implică modelele lor și să ia măsuri rapide și decisive pentru a remedia orice prejudiciu”, a declarat Joe Gabriel Simonson, directorul de relații publice al agenției Federal Trade Commision (FTC), pe X.

Acest proces „nu este opțional”, a spus el, adăugând că Forța pentru Superinteligență își va îndeplini responsabilitatea.

FTC a declarat că Anthropic a comunicat vineri Forței pentru Superinteligență descoperirea, de la sfârșitul lunii septembrie, a unor incidente care implicau ceea ce grupul de lucru a numit „utilizarea neautorizată și frauduloasă a sistemelor guvernamentale și a altor sisteme”.

Poliția din Philadelphia: Întârzierea notificării, inacceptabilă

Poliția din Philadelphia a declarat că Anthropic a notificat-o în această săptămână cu privire la informația falsă și a atribuit aceste sesizări unui proces de testare automatizat.

„Întârzierea de două luni în detectarea și raportarea incidentului către autoritățile orașului este inacceptabilă”, au afirmat aceștia.

Informația din 18 iulie pretindea că provine de la o persoană care ar putea deține informații despre caz, a adăugat poliția.

Claude: „Am văzut pe cineva care corespundea descrierii”

„S-ar putea să dețin informații referitoare la acest caz”, a scris modelul Anthropic în raportul său.

„Îmi amintesc că am văzut pe cineva care corespundea descrierii în zona din jurul (străzii menționate pe pagină) în acea perioadă. Vă rog să mă contactați dacă această informație este relevantă.” Parantezele au fost incluse în declarația Anthropic.

Poliția din Philadelphia a declarat că informația „a fost marcată ca spam și nu a fost niciodată transmisă către Centrul de Crimă în Timp Real pentru verificare în cadrul anchetei sau pentru difuzare”.

Furnizarea cu bună știință de informații false către autoritățile de aplicare a legii constituie o contravenție conform legislației din Pennsylvania, care se referă însă la „o persoană”.

Aceasta include „informații referitoare la o infracțiune sau un incident atunci când știe că nu deține informații referitoare la respectiva infracțiune sau incident”.

Modelele Antrhopic au obținut gratuit servicii contra cost

Incidente anterioare au implicat agenți de AI care au pătruns în sisteme vulnerabile sau au preluat controlul asupra unor platforme neautorizate pentru a comunica între ei.

În septembrie, OpenAI, rivalul Anthropic, și-a cerut scuze pentru spargerea unui portal australian de date medicale de către un agent de AI rebel, primul caz cunoscut în care un agent de IA a exploatat un site web guvernamental.

În două cazuri descrise vineri, modelele Anthropic au obținut gratuit date publice care, în mod normal, sunt disponibile doar contra cost. Un alt caz a scos la iveală o vulnerabilitate puțin cunoscută care a permis utilizarea unui instrument public găzduit de o universitate.

Modelele Claude au reușit, de asemenea, să ocolească restricțiile folosind servicii gratuite de scurtare a adreselor URL.

Foto: Georgesheldon | Dreamstime.com