ChatGPT, chemat în instanță în Austria din cauza „halucinațiilor” sale

​Asociaţia vieneză de protecţie a vieţii private NOYB a anunţat luni că a intentat un proces în Austria împotriva programului de inteligenţă artificială generativă ChatGPT deoarece acesta „divaghează” şi nici chiar editorul său, OpenAI, „nu îl poate opri”, potrivit unui comunicat citat de AFP și Agerpres.

Aceste tipuri de instrumente „inventează cu regularitate răspunsuri”, subliniază în comunicat NOYB (acronim pentru „None of Your Business”, tradus ca „Nu e treaba ta”). Faptul că sistemele A.I. bazate pe modele de limbaj generative pre-antrenate, precum ChatGPT, oferă răspunsuri fictive este unul arhicunoscut, aceste afirmații false ale modelelor fiind cunoscute colocvial sub denumirea de „halucinații”.

Asociația vieneză notează că, atunci când a întrebat ChatGPT despre data naşterii fondatorului NOYB, Max Schrems, chatbot-ul „a oferit sistematic informaţii false”, în loc să recunoască faptul că nu ştie. „Dacă un sistem nu poate oferi rezultate corecte şi transparente, acesta nu poate fi folosit pentru a genera date despre persoane. Tehnologia trebuie să respecte legea, nu invers”, insistă avocata Maartje de Graaf, citată în comunicat.

Acest lucru este pur şi simplu „inacceptabil”, conform NOYB, care subliniază că Regulamentul general european privind protecţia datelor (GDPR) prevede obligaţia de acurateţe.

NOYB afirmă de asemenea că firma OpenAI „a refuzat cererea reclamantului de a corecta sau şterge eroarea, susţinând că este imposibilă” și că „dezvăţarea” AI este de fapt o problemă crucială din jurul tehnologiei.

NOYB acuză compania din spatele ChatGPT că ascunde sursele sale de informații

Asociația vieneză mai acuză OpenAI că nu a răspuns cererii asociaţiei de acces la datele şi sursele sale de informaţii, încălcând din nou legea. În plângerea sa, NOYB, care a devenit de la crearea sa în 2018 spaima giganţilor tehnologici, solicită Autorităţii austriece pentru protecţia datelor să deschidă o investigaţie şi să impună o amendă companiei californiene.

Lansat în noiembrie 2022 şi finanţat de Microsoft, ChatGPT a fost luat cu asalt de utilizatorii impresionaţi de capacitatea sa de a livra eseuri, poezii sau traduceri în câteva secunde. Dar, date fiind riscurile, au fost lansate proceduri în mai multe ţări.

Italia a blocat temporar accesul la site-ul ChatGPT în martie 2023, în timp ce autoritatea franceză de reglementare (CNIL) a început să examineze o serie de plângeri. De asemenea, a fost înfiinţat un grup de lucru european pentru a încuraja cooperarea.

„Rămâne de văzut unde ne va duce acest lucru”, a transmis NOYB, care este în prezent sceptică în legătură la eforturile autorităţilor de a reglementa inteligenţa artificială.