Guvernul american vrea ca AI să scrie regulile ce guvernează siguranța avioanelor și provoacă îngrijorări în rândul propriilor angajați: „Pare incredibil de iresponsabil”

Departamentul Transporturilor din Statele Unite pare să creadă că este o idee bună să folosească inteligența artificială (AI) pentru a redacta reglementări care afectează siguranța avioanelor, mașinilor și conductelor, a dezvăluit luni o investigație ProPublica, citată de Ars Technica.

Jurnaliștii de investigație subliniază că DoT (Department of Transportation) devine prima agenție care folosește AI pentru a redacta reguli și că acest lucru naște îngrijorări majore întrucât e binecunoscut faptul că inteligența artificială dă cu încredere chiar și răspunsuri greșite și în unele cazuri „halucinează” informații complet fabricate.

Inclusiv angajații din cadrul DoT se tem că orice eșec în a depista erorile AI ar putea duce la legi defectuoase, rezultând în procese, răniri sau chiar decese în sistemul de transport.

Însă Gregory Zerzan, juristul-șef al departamentului, a respins aceste îngrijorări, potrivit stenogramelor unei ședințe din decembrie. El a argumentat în ședință că scopul nu este ca AI să dea rezultate perfecte, ci să ajute la accelerarea procesului de elaborare a reglementărilor, astfel încât reguli care în mod normal ar necesita săptămâni sau luni pentru finalizare să poată fi redactate în schimb în termen de 30 de zile.

Zerzan a subliniat că chatbotul Google Gemini, instrumentul preferat al DoT, poate redacta reguli în mai puțin de 30 de minute. „Nu avem nevoie de regula perfectă privind x, y, z”, le-a spus Zerzan angajaților prezenți la ședință. „Nici măcar nu avem nevoie de o regulă foarte bună privind x, y, z. Vrem ceva suficient de bun”, a explicat el.

Angajații DoT, „profund sceptici” față de folosirea Gemini

ProPublica a vorbit cu experți și a acordat anonimatul pentru șase angajați ai DoT care au fost dispuși să vorbească despre preocupările lor legate de utilizarea Google Gemini de către departament pentru redactarea reglementărilor.

Unii experți care monitorizează utilizarea AI în administrația publică le-au spus celor de la ProPublica că DoT ar putea economisi timp folosind Gemini ca asistent de cercetare, „cu multă supraveghere și transparență”. De exemplu, la o prezentare, angajaților DOT li s-a spus că „cea mai mare parte din ceea ce intră în preambulurile documentelor de reglementare ale DOT este doar «salată de cuvinte»”, iar „Gemini poate face salată de cuvinte”.

Cu toate acestea, angajații departamentului le-au spus celor de la ProPublica că se simt „profund sceptici” că Gemini este la înălțimea sarcinii. Ei au subliniat că procesul de reglementare al DoT este „o muncă minuțioasă”, care necesită uneori decenii de „expertiză în domeniul respectiv, precum și în statutele, reglementările și jurisprudența existente”.

Probabil sporind și mai mult neliniștea angajaților, ProPublica a notat că o demonstrație a capacității lui Gemini de a redacta reguli a produs un document din care lipseau pasaje-cheie, pe care un angajat ar fi trebuit apoi să le completeze. În plus, inițiativa DoT vine după un an de „halucinații” ale AI care au bulversat instanțele din SUA, mulți avocați fiind amendați și chiar judecători admițând că pot fi păcăliți de informații fabricate.

Orice erori în reguli ar putea avea consecințe grave. Aceste reguli „ating practic fiecare fațetă a siguranței transporturilor”, menținând „avioanele în aer”, prevenind „explozia conductelor de gaze” și oprind „trenurile de marfă care transportă substanțe chimice toxice să deraieze”, a relatat ProPublica.

„Pare incredibil de iresponsabil”, a declarat un angajat al DoT pentru site-ul de investigații.

Obiectivul e ca în cele din urmă AI să genereze toate documentele de reglementare

ProPublica notează de asemenea că, în pofida îngrijorărilor semnalate de angajați în interiorul departamentului, DoT pare să meargă înainte în ritm accelerat cu acest plan. Departamentul a folosit deja Gemini pentru a redacta „o regulă a Administrației Federale a Aviației încă nepublicată, potrivit unui angajat DOT informat asupra chestiunii”.

Donald Trump a îndemnat agențiile federale să adopte AI într-un ritm rapid, însă nicăieri în ordinele sale președintele nu a cerut explicit ca inteligența artificială să fie folosită pentru a redacta legi sau reglementări, subliniază ProPublica.

Cu toate acestea, juristul Zerzan le-a spus angajaților că Trump este „foarte entuziasmat” de inițiativa departamentului privind folosirea Gemini și a sugerat că președintele vede DoT drept „vârful de lance” și se așteaptă ca alte agenții să îi urmeze exemplul.

În prezent, DoT se așteaptă ca Gemini să poată fi folosit pentru a „gestiona 80–90% din munca de redactare a reglementărilor”, relatează ProPublica. Însă scopul este ca, în cele din urmă, toți angajații federali care se bazează pe instrumente AI precum Gemini pentru redactarea regulilor să ajungă să aibă doar un rol de supraveghere, monitorizând «interacțiuni AI–AI»”, potrivit ProPublica.

Google vorbește de „rezolvări creative” a problemelor cu ajutorul inteligenței artificiale

Google nu a răspuns solicitării Ars Technica de a comenta acest caz de utilizare a lui Gemini, care s-ar putea extinde în întregul guvern sub conducerea lui Trump.

În schimb, gigantul tehnologic a publicat luni un mesaj pe blogul său, promovând Gemini pentru administrația publică în sens larg și promițând funcționarilor federali că AI îi va ajuta la „rezolvarea creativă a problemelor în cele mai critice aspecte ale muncii lor”.

Google concurează cu alți rivali din domeniul AI pentru contracte ale guvernului american, subminând ofertele OpenAI și Anthropic de 1 dolar prin oferirea unui an de acces la Gemini pentru 0,47 dolari.

„Ne angajăm să sprijinim transformarea digitală a DoT și suntem pregătiți să ajutăm alți lideri federali din întregul guvern să adopte acest model pentru succesul propriilor misiuni”, se arată în postarea de pe blogul Google.