Protecția Datelor va investiga dacă robotul ION și Ministerul Digitalizării respectă GDPR / Din 500.000 de mesaje către ION sunt publicate doar cele pozitive

”Robotul Ion”, aplicația software bazată pe tehnologia de Inteligență Artificială și operatorul său, Ministerul Digitalizării, au obligația respectării Regulamentului UE privind protecția datelor personale, au declarat miercuri pentru HotNews.ro oficialii Autorității naționale pentru protecția datelor (ANSPDCP), care spun că „aceste aspecte vor fi analizate potrivit competențelor legale de control”.

„Deși, în prezent, în România, nu există prevederi legale care să reglementeze inteligența artificială, în măsura în care se prelucrează date cu caracter personal în legătură cu proiectul menționat, sunt aplicabile principiile și regulile de prelucrare a datelor personale stabilite prin Regulamentul (UE) 2016/679 (RGPD).”, au transmis miercuri către HotNews.ro oficialii ANSPDCP.

Într-un document de 2 pagini, Autoritatea națională pentru protecția datelor personale explică ce reguli ar trebui respectate din punctul de vedere al Regulamentului UE privind protecția datelor personale.

„Astfel, ”Robotul Ion”, aplicația software bazată pe tehnologie și inteligență artificială și operatorul său, au obligația respectării Regulamentului (UE) nr. 2016/679.
În consecință, raportat la conținutul solicitărilor dumneavoastră, precizăm că Autoritatea Națională de Supraveghere a reținut aspectele semnalate cu privire la Ministerul Cercetării, Inovării și Digitalizării („MCID”), entitatea care gestionează soluția bazată pe inteligență artificială denumită ”Robotul Ion” (”Soluția Ion”), acestea urmând a fi analizate potrivit competențelor legale de control.”, se arată în răspunsurile autorității.

VEZI AICI PRECIZĂRILE ANSPDCP

Colectează sau nu ION date personale?

Autoritatea a răspuns miercuri unei solicitări transmise săptămâna trecută de HotNews.ro în care am semnalat că deși autoritățile au dat asigurări că nu se prelucrează datele personale ale românilor care trimit mesaje către Guvern, în politica de confidențialitate a site-ului ion.gov.ro se preciza că Ministerul Digitalizării prelucrează și numele de utilizator de pe Facebook al celor care postează mesaje folosind tag-ul @noisuntemion.

Citește: Cât de anonim rămâne românul care îi scrie robotului ION de la Guvern / Problema corectată parțial, după semnalarea HotNews.ro

După ce HotNews.ro a semnalat acest aspect și a cerut un punct de vedere, echipa ION a corectat documentele cu Termenii și condițiile, precum și Politica de confidențialitate publicate pe site-ul ION, eliminând paragrafele în care spuneau că prelucrează numele de utilizator de pe Facebook.

„Foarte important și foarte clar, soluția de AI ION nu a preluat și nu va prelua niciodată datele personale de identificare ale românilor. ION este o soluție AI creată să preia în mod neutru și neinfluențat problemele presante ale românilor, pentru a putea raporta echilibrat și nepărtinitor către guvernanți ce probleme au nevoie de rezolvare.
Nu se stochează în niciun moment datele de identificare ale acestora.
Având în vedere că în acest moment proiectul ION nu este prevăzut să colecteze niciun fel de date personale, nu se poate vorbi despre o încălcare a legislației privind drepturile personale.” a transmis echipa ION după corectarea documentelor de pe site.

Echipa ION susține că se preiau doar mesajele, păstrând anonimitatea sursei

În prezent, pe site-ul ion.gov.ro care colectează mesajele românilor se menționează următoarele:

„Toate mesajele și datele transmise atât prin site-ul ion.gov.ro cât și prin tag @noisuntemion în social media sunt preluate și transmise mai departe, păstrând anonimitatea sursei. Astfel, folosind inteligența artificială, cetățenii României vor avea o voce comună – vocea cetățenilor -, oferind posibilitatea guvernanților să implementeze politici publice relevante, în concordanță cu evoluția societății.”, se arată pe site-ul ion.gov.ro.

Pe site se mai spune că în primele zile de la lansare, ION a primit și foarte multe întrebări și că este în proces de învățare: „Cu ajutorul vostru, ION va învăța rapid și va putea să vă răspundă în curând”.

Din 500.000 de mesaje sunt filtrate și afișate doar cele pozitive

Miercuri, cu ocazia zilei de 8 martie, reprezentanții Ministerului Digitalizării și ai echipei de volutari din proiectul ION au conceput un text în numele ION, în care spun că românii au trimis 500.000 de mesaje.

„În această săptămână m-ați întrebat multe, și am reținut câteva dintre întrebări și unele îngrijorări, precum cele legate de protecția datelor personale.”, se arată în textul de pe site-ul Ministerului, fără alte detalii.

Singurele mesaje sunt pe site-ul ion.gov.ro, unde sunt filtrate și publicate doar cele pozitive, precum: „Ionică, să înveți numai lucruri bune!” sau „Sper ca tu să fii flacăra care va aprinde digitalizarea României! Sau măcar a guvernului României!

În plus, sunt date noi asigurări că nu se colectează date personale:

„Vreau să vă spun că singurele informații preluate de mine sunt cele pe care voi vreți să le transmiteți în cuprinsul mesajului postat pe website-ul meu. Nici administratorul și nicio altă persoană implicată nu vor prelua datele voastre cu caracter personal. Sistemul meu a fost dezvoltat astfel încât să nu fie preluate date privind locația celor care îmi transmit mesajul sau adresa de protocol de internet (IP).
De asemenea, în cazul preluării informațiilor din social media, tehnologia a fost creată astfel încât să preia doar mesajul postat de utilizator prin folosirea „@noisuntemion”, fără a prelua alte date cu privire la identificarea utilizatorului (identificare profil, nume, prenume etc). Tehnologia scanează și preia mesajul ce contine „@noisuntemion”, fără a efectua web scraping pe platformele sociale unde sunt postate mesajele.”, se mai arată în textul de pe site-ul Ministerului.

Tudor Galoș, consultant GDPR: O postare social media, chiar și fără detalii despre cel care a postat-o, poate duce la identificarea persoanei

Pe de altă parte, experții în GDPR consultanți de HotNews.ro au arătat că o postare pe Facebook, chiar și fără preluarea detaliilor legate de cel care a publicat-o, poate conduce la identificarea acelei persoane.

„O postare social media, chiar și fără detalii despre cel care a postat-o, poate duce la identificarea persoanei vizate prin simpla căutare a textului postării care va duce la cel care a postat-o primul.
Drept urmare, o postare social media este o dată cu caracter personal.
Într-adevăr, riscul pentru persoanele vizate este mult redus dacă nu se prelucrează și numele contului persoanei vizate, însă consider că este necesară efectuarea unui DPIA complet care să poată să identifice clar toate riscurile referitoare la prelucrările efectuate asupra persoanelor vizate, pentru a le putea adresa corespunzător”, a declarat sâmbătă pentru HotNews.ro Tudor Galoș, consultant GDPR.

Acesta a semnalat și alte aspecte care în continuare ridică semne de întrebare legate de prelucrarea datelor prin intermediul soluției de inteligență Artificială ION.

„Din noua politică de confidențialitate a tehnologiei ION lipsesc detaliile referitoare la politica de retenție a datelor (timpul în care datele personale sunt stocate), detalii despre terțele părți implicate în prelucrare (de exemplu dacă STS – n.a. Serviciul de Telecomunicații Speciale) asigură partea de hosting, ar trebui menționat), drepturile persoanelor vizate (acces, rectificare, ștergere, restricționare, obiecție, export, revocare consimțământ etc) și modul de exercitare al acestora.”, a mai precizat Tudor Galoș.

ION va colecta și vocea, care de asemenea este dată personală conform GDPR

Mai mult, pe viitor soluția ION ar urma să colecteze și vocea celor care vor să trimită mesaje prin intermediul site-ului ion.gov.ro.

„Datele pe care le preluăm prin intermediul Site-ului, inclusiv, dar fără a se limita la, mesajele scrise, postările din rețelele de socializare, vocea dumneavoastră nu sunt însoțite de niciun indentificator, astfel că ele sunt anonime la momentul preluării lor să rămân anonime.”, scrie acum în noul document cu termeni și condiții.

În același document se spune că vocea va fi transformată, astfel încât să nu fie recunoscută.

„Site-ul dispune de un software bazat pe o aplicatie care utilizeaza algoritmi de inteligenta artificiala (denumit in continuare “AI”) pentru a inregistra, incarca, modifica si transforma vocea dumnevoatră. Site-ul va permite sa inregistrati o nota vocala in scopul de a fi transformate de catre AI intr-o singura voce si o singura imagine a lui ION.”

VEZI AICI DOCUMENTUL CU TERMENI ȘI CONDIȚII

Tudor Galoș a explicat miercuri pentru HotNews.ro de ce și vocea este considerată dată cu caracter personal potrivit Regulamentului UE privind protecția datelor.

„Datele cu caracter personal conform definiției de la Art 4 aliniat 1 din GDPR, înseamnă „orice informații privind o persoană fizică identificată sau identificabilă („persoana vizată”); o persoană fizică identificabilă este o persoană care poate fi identificată, direct sau indirect”.
Vocea reprezintă dată cu caracter personal fiindcă această informație poate duce la o identificare indirectă a persoanei vizate folosindu-se sisteme de recunoaștere a vocii pe diverse sample-uri audio.
Faptul că vocea înregistrată constituie dată cu caracter personal este confirmată și de Orientările 02/2021 privind asistenții vocali virtuali emis de către Comitetul european pentru protecția datelor dar și de către Opinia European Data Protection Supervisor legată de „Voice recording of Helpdesk calls”.
De asemenea se poate consulta și opinia autorității franceze de protecție a datelor din 11 Iunie 2020 referitoare la conceptul de date cu caracter personal, unde la exemple de date cu caracter personal sunt incluse „sound recordings of voices”, a declarat pentru HotNews.ro Tudor Galoș.

Alte articole despre robotul ION: