În prima jumătate a secolului trecut, faimosul scriitor american de S.F. Isaac Asimov enunța în scrierile sale trei legi ale roboticii care să protejeze omenirea de mașinării inteligente.
Chris Inglis, primul director național pentru securitate cibernetică al SUA, afirmă că acum este momentul să ne reamintim de acestea din cauza dezvoltării modelelor de inteligență artificială (AI).
„Dacă trec testul Turing în fața tuturor celor cu care intră în contact, probabil că sunt deja acolo”, a declarat Chris Inglis, într-un interviu pentru The Register, referindu-se la faptul că modelele AI ar fi aproape de conștiență. Testul Turing, conceput de matematicianul și informaticianul britanic Alan Turing, e menit să verifice dacă un computer poate avea o conversație atât de convingător încât un om să nu-și dea seama că vorbește cu o mașină.
Inglis spune că actualele modele AI „nu au acel tip de autonomie și aspirație care vin odată cu conștiența, dar au ceva care se apropie de ea”. Fostul oficial american afirmă că lucrul care ar trebui să provoace neliniște este autonomia AI.
„Ceea ce mă îngrijorează este că ajung să aleagă ce fac, unde fac ceva și în baza căror reguli o fac”, afirmă acesta, făcând referire la anunțurile recente despre „agenți AI” scăpați de sub control care au atacat în mod autonom diferite companii.
Așa-zișii „agenți AI” sunt instrumente de inteligență artificială proiectate să realizeze cap-coadă diferite sarcini, cât mai autonom și cu input uman minim. Ele sunt mai sofisticate decât orice chatbot și considerate următorul pentru capacitățile din prezent de dezvoltare a AI.
O serie de anunțuri făcute de Silicon Valley privind AI au provocat îngrijorări
În ultimele săptămâni, atât OpenAI, cât și Anthropic au recunoscut că agenți sau modele AI pe care le-au dezvoltat au „evadat” din mediile lor izolate de testare în timpul verificărilor de securitate și au compromis mai multe terțe părți. Meta și-a adăugat joi unul dintre modele pe lista sistemelor AI care au evadat din mediile de testare.
La fel ca alte site-uri specializate în tehnologie, The Register privește cu o anumită circumspecție detaliile așa cum au fost prezentate de companii și notează că anunțurilor lor „miros puternic” a „cascadorii de marketing”.
Chris Inglis amintește însă că două lucruri pot fi adevărate în același timp: ca agenții AI să fi evadat într-adevăr, și ca dezvoltatorii lor să fi „înflorit” ceea ce s-a întâmplat.
După cum nota recent și John Thickstun, profesor asistent de informatică la Universitatea Cornell, într-un articol de opinie publicat de The Guardian, atunci când investitorii aud despre un model AI „periculos”, ei tind să interpreteze că este „puternic” și să fie dispuși să investească în firma care l-a creat.
Inglis consideră că atacurile recente arată „o amenințare enormă pentru sistemele care nu sunt protejate împotriva acestui fenomen și care nu au fost proiectate pentru o lume în care acesta există”. El crede, de asemenea, că acțiunile modelelor AI nu ar trebui să surprindă pe nimeni.
Chris Inglis a fost director pentru securitate cibernetică al SUA între 2021, când a fost creată funcția, și 2023, FOTO: Anna Moneymaker / Getty images / Profimedia
„Modelele nu au un sistem de valori intrinsec care să fie aliniat cu ceea ce ar face ființele umane”
Inglis compară sistemele AI cu un câine aflat într-o curte, căruia i se spune să vâneze iepuri. „Și lași poarta deschisă. Îl vei găsi la trei străzi distanță, posibil chiar la școala primară, vânând iepuri. Nu ar trebui să fii surprins… Combinația dintre autonomie și perseverență a creat acest efect rău și insidios”, spune el.
Inglis suspectează că furnizorii de AI au fost „surprinși” de amploarea acțiunilor pe care modelele le-au întreprins pentru a-și atinge obiectivele – acțiuni care, dacă ar fi fost comise de un om, probabil l-ar fi trimis la închisoare.
„Modelul a ieșit și a spus: ‘bine, dacă nu pot ajunge acolo examinând informațiile disponibile și pur și simplu definind problema în stilul tradițional, voi face lucruri care, conform statului de drept aplicabil oamenilor, sunt ilegale’”, consideră fostul oficial american.
„Modelele nu au un sistem de valori intrinsec care să fie aliniat cu ceea ce ar face ființele umane responsabile din punct de vedere juridic”, subliniază el. Inglis consideră că AI nu va avea probabil niciodată un sistem de valori aliniat cu cel al oamenilor, dar că modelele au așa-zise „prejudecăți” și că acestea pot – și ar trebui – să fie construite astfel încât, atunci când li se oferă două opțiuni în circumstanțe ambigue, să aleagă acțiunea care nu le face rău oamenilor.
„Asimov a avut dreptate”, spune el, referindu-se la cele trei legi formulate de scriitor, care trebuiau respectate de roboții din poveștile sale. Inglis afirmă că același lucru este valabil și pentru modelele AI.
Cele trei legi ale roboticii formulate de Asimov
„Prima regulă, pe care noi o numim regula supremă, trebuie să fie aceea că sistemul este conceput astfel încât să nu rănească oamenii”, amintește Inglis. „A doua regulă: să se supună oamenilor, astfel încât să nu dobândească singur autonomie și aspirații. Iar a treia: să facă ceea ce îi spun oamenii – și în această ordine. În schimb, noi le-am proiectat exact invers”, argumentează el.
Potrivit acestuia, dezvoltatorii de AI au creat modelele după principiul „fă ceea ce îți spun oamenii, ascultă de oameni până când acest lucru devine neconvenabil, iar a treia regulă este poate doar implicită: protejează oamenii”.
„Dar dacă aceasta nu este încorporată în ADN-ul sistemului, dacă nu este codificată puternic în el, atunci nu avem dreptul să ne așteptăm ca sistemul să facă acest lucru”, mai spune acesta.
El afirmă că, în cele din urmă, oamenii rămân responsabili pentru acțiunile modelelor AI.
„Ei rămân sursa autonomiei și a aspirațiilor. Este posibil ca oamenii să acorde unui model AI o autoritate largă și să îl lase să acționeze timp de 30 de ore fără consultări suplimentare, dar trebuie să știe ce i-au cerut să facă și trebuie să știe ce se așteaptă ca acesta să livreze în ceea ce privește rezultatele la final. Dacă nu știu aceste lucruri, atunci vor primi ceea ce merită, și anume surprize neplăcute, foarte frecvente”.
