Agențiile federale americane ignoră discret interdicția lui Trump contra Anthropic
Agențiile federale și oficialii guvernamentali ocolesc discret interdicția impusă de președintele SUA, Donald Trump, privind colaborarea cu Anthropic, potrivit Politico și Reuters.
Centrul pentru Standarde și Inovație în domeniul inteligenței artificiale (AI) al Departamentului Comerțului testează în mod activ capacitățile de hacking ale modelului de IA de ultimă generație al Anthropic, numit Mythos, scrie publicația.
Anthropic, Casa Albă și Departamentul Comerțului nu au răspuns imediat la solicitarea de declarații, notează Reuters.
Personalul din cel puțin trei comisii ale Congresului a organizat sau a solicitat briefinguri din partea companiei pentru a afla mai multe despre capacitățile de scanare cibernetică ale lui Mythos în ultima săptămână.
Co-fondatorul Anthropic, Jack Clark, a spus luni, la evenimentul Semafor World Economy, că firma discută despre Mythos cu administrația Trump chiar și după ce Pentagonul a întrerupt colaborarea cu compania americană de IA în urma unui litigiu contractual.
Natura și detaliile discuțiilor Anthropic cu guvernul SUA, inclusiv agențiile implicate, nu sunt foarte clare la acest moment.
Mythos, anunțat pe 7 aprilie, este „cel mai capabil model al Anthropic până în prezent pentru sarcini de codare și agentice”, a spus compania într-o postare pe blog, referindu-se la capacitatea modelului de a acționa autonom.
Mythos, un model extraordinar de puternic și periculos
Anthropic a anunțat săptămâna trecută dezvoltarea unui nou model de inteligență artificială, numit Claude Mythos Preview, pe care nu intenționează, însă, să îl lanseze public. Spre deosebire de alte sisteme AI recente, promovate agresiv și distribuite rapid către utilizatori, Mythos va fi accesibil doar unui grup restrâns de organizații, în principal companii mari de tehnologie și actori din zona de securitate cibernetică.
Decizia de a limita accesul vine pe fondul unor îngrijorări serioase legate de capacitățile modelului: „Consecințele pentru siguranța publică pot fi severe”.
Anthropic zice că modelul ar putea depăși aproape toți experții umani în descoperirea și chiar exploatarea vulnerabilităților software. Unele dintre aceste breșe sunt extrem de subtile și ar rămâne, în mod normal, nedetectate, inclusiv în programe testate de milioane de ori.
Tot săptămâna trecută, șefii Fed și Trezoreriei SUA i-au chemat de urgență pe șefii marilor bănci după Anthropic a dezvăluit ce poate face Mythos.