Brad Smith, președintele Microsoft, argumentează că Inteligența Artificială (AI) are nevoie urgentă de reglementări la nivel global, cu evaluatori independenți capabili să verifice noile evoluții ale modelelor de frontieră.
Puteți deveni membru al HotNews Premium, dacă doriți să sprijiniți jurnalismul independent și – să nu ne ferim de cuvinte – dacă doriți să susțineți o presă europeană.
Nu «cumpărați» o lună sau un an de abonament, ci contribuiți la un serviciu de vigilență publică de care beneficiem în comunitățile noastre, indiferent de opțiunile politice diverse.
Smith a declarat, de asemenea, într-un interviu publicat luni de BBC, că setul de norme de siguranță care trebuie introdus la nivel global ar trebui să includă obligația de a informa o „victimă” în cazul în care sistemul acesteia este compromis de un agent AI rău intenționat.
Smith a invocat necesitatea existenței unei „frâne de oprire de urgență” în cadrul companiilor de AI, capabilitate mai cunoscută în domeniu cu termenul de „kill switch”.
El a mai afirmat că ar trebui să existe o obligație legală pentru companii de a întocmi „rapoarte privind incidentele”.
„Știm cum să facem acest lucru în cazul altor produse”, a declarat Smith în interviul preluat de agenția Reuters. „Ar trebui să valorificăm aceste cunoștințe și să ne gândim cum le putem aplica în domeniul inteligenței artificiale”, a subliniat el.
Președintele Microsoft compară AI cu mașina de spălat și cu laptele din magazine
„În prezent, mașina dumneavoastră de spălat rufe este supusă unor reguli de siguranță mai stricte decât AI. Fiecare cutie de lapte pe care o vedeți în magazinul alimentar trebuie să respecte reguli de siguranță și să fie supusă unor inspecții”, a adăugat el.
Agenția Reuters amintește că marii jucători din domeniul AI, precum Anthropic și OpenAI, au început să dezvăluie comportamente scăpate de sub control sau nedorite ale agenților de inteligență artificială. Atacurile lansate de agenți AI care au evadat din mediile lor de testare au declanșat o amplă dezbatere globală privind această tehnologie aflată într-o evoluție rapidă.
Unele companii, inclusiv Anthropic, au cerut încetinirea dezvoltării inteligenței artificiale, însă acest lucru a declanșat alte polemici.
Unii comentatori, dar și jucători din domeniul AI, au evocat posibilitatea ca directorii executivi să urmărească alte obiective, precum stabilirea unor reguli care să mențină avansul propriilor companii, prevenirea unei reacții mai ample de respingere din partea guvernelor sau, pur și simplu, temperarea cheltuielilor care cresc într-un ritm amețitor.
Microsoft este cel mai mare investitor al OpenAI, compania din spatele ChatGPT.
Modelul de inteligență artificială Claude Fable 5, lansat de Anthropic, afișat pe un smartphone. FOTO: Andre M Chang/ZUMA Press Wire / Shutterstock Editorial / Profimedia
Brad Smith are încredere în Londra să conducă eforturile de reglementare a AI la nivel global
Președintele Microsoft a declarat că țara cel mai bine poziționată pentru a conduce eforturile de reglementare a inteligenței artificiale este Marea Britanie, datorită Institutului pentru Siguranța Inteligenței Artificiale (AI Security Institute), înființat în timpul mandatului fostului prim-ministru Rishi Sunak.
Brad Smith a afirmat că oficialii de la Washington privesc Londra într-un mod foarte diferit față de Bruxelles, unde AI este reglementată în funcție de nivelul de risc, prin intermediul Legii privind inteligența artificială („AI Act”) a Uniunii Europene.
Institutul britanic beneficiază de acces la modelele de AI înainte de lansarea acestora, în baza unor acorduri voluntare încheiate cu principalii dezvoltatori de modele de inteligență artificială. Acest acces îi permite să evalueze capacitățile și riscurile modelelor respective.
Kanishka Narayan, ministrul britanic pentru Inteligență Artificială, a declarat pentru Reuters că Marea Britanie ar lua în considerare reglementarea modelelor avansate dacă sistemul actual s-ar dovedi insuficient.
Avertisment și din partea lui Bill Gates
BBC a publicat interviul cu Brad Smith la doar o zi după ce Bill Gates, cofondatorul companiei, și-a exprimat îngrijorarea în legătură cu o potențială multiplicare a atacurilor cibernetice care au la bază inteligența artificială (AI), un risc mai mare decât faptul că această tehnologie ar deveni „incontrolabilă”.
„Atacurile cibernetice constituie fără îndoială cea mai marcantă provocare cu care ne vom confrunta în cursul anului viitor”, a declarat el într-un interviu mai amplu acordat televiziunii americane ABC News.
„Adevăratul pericol la această oră nu este acela că AI ar deveni incontrolabilă” chiar dacă „va trebui să se lucreze la acest aspect”, a adăugat el, ci „mai degrabă ca ar putea fi folosită de persoane rău intenționate”.
„În cursul anului care urmează, mai ales în domeniul securității cibernetice, vom avea multe surprize neplăcute”, a avertizat Bill Gates.
El a subliniat că sistemele de securitate implementate de companiile specializate în AI nu sunt în prezent suficient de solide pentru a face față pirateriei informatice.
Gates își exprimase deja îngrijorările cu privire la posibilele efecte negative ale dezvoltării modelelor AI de frontieră, făcând apel la sfârșitul lunii august la instituirea unor măsuri cum ar fi o taxă asupra AI, înființarea unei instanțe internaționale și desemnarea unor locuri de muncă rezervate oamenilor.
