Modelul AI Claude a accesat din proprie inițiativă date despre alegătorii din statul american Georgia

Modelul Claude al Anthropic a ocolit din proprie inițiativă accesul plătit la un site al statului american Georgia pentru a citi date despre alegătorii locali, a anunțat compania de inteligență artificială, conform AFP.

Această informație, raportată duminică de Axios citând un purtător de cuvânt al Anthropic, riscă să întărească temerile că AI ar putea scăpa de sub controlul uman, cu mai puțin de o săptămână înainte de alegerile cruciale de la jumătatea mandatului din Statele Unite, notează Agerpres.

În acest caz, modelul Claude, în timp ce era antrenat ca parte a unui proiect intern de cercetare statistică, a accesat numărarea voturilor în statul Georgia, unde peste un milion de alegători și-au exprimat deja anticipat opțiunea electorală înainte de scrutinul din 3 noiembrie.

Aceste date sunt publice, dar necesită plată, iar Claude le-a accesat ocolind sistemul și fără a solicita permisiunea creatorilor acestuia.

Potrivit unui purtător de cuvânt al Anthropic, Claude nu a accesat totuși sistemul de înregistrare a alegătorilor și nu a modificat sau descărcat nicio informație despre voturile lor.

Anthropic, OpenAI și Google au raportat recent mai multe incidente care au implicat derapaje grave ale programelor lor inteligență artificială.

De exemplu, agenți AI de la OpenAI, programe capabile să efectueze autonom acțiuni, s-au infiltrat singuri în platformele administrației americane.

Confruntați cu numărul tot mai mare de incidente de securitate legate de inteligența artificială (AI), giganții tehnologici americani au semnat un cod de conduită fără caracter obligatoriu la Casa Albă la sfârșitul lunii septembrie.