Sam Altman a transmis angajaților că OpenAI nu are control asupra utilizării produselor sale în operațiunile Pentagonului, după ce compania a preluat proiecte militare respinse de rivalul său, Anthropic.
„Nu aveți dreptul să luați decizii operaționale”, le-a spus Altman angajaților, potrivit Bloomberg și CNBC, citate de The Guardian. „Poate că voi considerați că atacul asupra Iranului a fost bun, iar invazia Venezuelei a fost rea. Nu aveți dreptul să vă pronunțați în această privință”, a mai zis CEO-ul OpenAI.
Declarațiile lui Altman de marți vin pe fondul unei atenții sporite asupra modului în care armata utilizează inteligența artificială în război și a preocupărilor etice ale lucrătorilor din domeniul AI cu privire la modul în care va fi utilizată tehnologia lor.
În ultimele săptămâni, sectorul inteligenței artificiale a parcurs negocieri tensionate, în contextul în care Pentagonul a solicitat companiilor eliminarea barierelor de siguranță ale modelelor AI pentru a extinde utilizarea acestora în aplicații militare.
Sistemele de inteligență artificială ar fi fost deja implementate în operațiunea americană pentru capturarea liderului venezuelean Nicolas Maduro, precum și în procesul de selectare a țintelor în cadrul conflictului cu Iranul, notează The Guardian.
Săptămâna trecută, Anthropic, producătorul chatbotului Claude și rivalul OpenAI, a respins un contract cu Pentagonul din cauza riscurilor ca tehnologia sa să fie folosită în supravegherea populației sau pentru dezvoltarea armelor autonome.
Ca reacție, secretarul apărării, Pete Hegseth, a catalogat compania drept un „risc pentru lanțul de aprovizionare”, o etichetă fără precedent pentru o firmă americană, care ar putea atrage pierderi financiare majore dacă devine oficială.
Simultan cu amenințările la adresa Anthropic, Pentagonul a anunțat un parteneriat cu OpenAI, menit să înlocuiască utilizarea modelului Claude în scopuri militare. Momentul ales și suspiciunile că OpenAI ar fi acceptat eliminarea limitelor etice respinse de rivalul său au generat critici dure atât în interiorul companiei, cât și în spațiul public.
Ulterior, Altman și OpenAI au susținut că tehnologia va fi utilizată exclusiv în cadrul legii, încercând să atenueze criticile. CEO-ul a admis însă că rapiditatea cu care s-a semnat acordul a creat impresia unei companii „oportuniste și neglijente”.
CEO-ul Anthropic, Dario Amodei, l-a criticat dur pe Altman, calificându-l drept „mincinos” într-o notă adresată angajaților miercuri și l-a acuzat pe șeful OpenAI că i-a adus „laude dictatoriale lui Trump”, a raportat The Information.
Amodei a susținut că Anthropic și-a menținut limitele cu integritate, refuzând să colaboreze pentru a produce un „teatru al siguranței” în beneficiul angajaților.
El a criticat și Pentagonul și pe Donald Trump.
„Adevăratul motiv pentru care Pentagonul și administrația Trump nu ne plac este că nu am făcut donații către Trump (în timp ce OpenAI/Greg au donat sume importante)”, a scris el, referindu-se la Greg Brockman, președintele OpenAI, care, împreună cu soția sa, a donat 25 de milioane de dolari către Pac, care îl susține pe Trump.