INTERVIU John Frank, Microsoft, despre riscurile tehnologiei de recunoaștere facială: În Europa trebuie creat un cadru de reglementare care să excludă posibilitatea instalării unui sistem atotputernic de supraveghere

​Puține tehnologii stârnesc atât de multe controverse în lume precum recunoașterea facială care este folosită pe scară largă în China, dar începe să pătrundă și în Europa. Îndoielile sunt legate de faptul că tehnologia ajunge la tot mai multe regimuri represive, dar și că încă este departe de perfecțiune și face discriminări. Europa trebuie să reglementeze în detaliu folosirea acestei tehnologii, mai ales că în condiții de laborator rezultatele obținute sunt foarte bune, dar nu la fel și pe teren, iar de aici decurg mai multe probleme, a explicat într-un interviu pentru HotNews.ro, John Frank, care la Microsoft este vicepreședinte afaceri guvernamentale pentru Uniunea Europeană.

Tehnologia de identificare automată a fețelor cu ajutorul unor camere inteligente de supraveghere este folosită tot mai mult în ultimul deceniu și unele țări au dus lucrurile la extrem, în timp ce altele încearcă să supună dezbaterii publice extinderea utilizării recunoașterii faciale. Mai mult, și marile companii de tehnologie au fost criticate, frica principală fiind că, prin intermediul lor, tehnologia va ajunge la regimurile represive.

În marile orașe chineze camerele de supraveghere înregistrează enorm de mult, chiar și oamenii care trec strada prin loc nepermis și imediat amenda le este automat dedusă din cont. Din cauza celebrului sistem al ”creditului social”, milioane de oameni nu au mai avut dreptul să cumpere bilete de avion sau de tren.

Cum văd recunoașterea facială oamenii din diverse părți ale lumii?

Este vorba de mentalitate și despre ce lucruri li se par acceptabile, a spus John Frank de la Microsoft, într-un interviu pentru HotNews.ro. Pentru occidentali, modelul chinez al creditului social pare foarte ciudat, o supraveghere continuă a tuturor este cu totul inacceptabilă pentru vestici. În Europa sau în SUA se consideră că supravegherea ar trebui să fie țintită clar, în funcție de situație și este o mare diferență față de China. În plus, în Regatul Unit oamenii sunt obișnuiți cu sistemele extinse de supraveghere stil CCTV, dar și aici tot mai multă lume cere transparență, din moment ce poliția folosește aparatură pentru a identifica și verifica suspecții în timp real.

Tehnologia poate fi folosită și pentru a detecta unele boli, mai ales la cele unde primele semne sunt indicate de schimbări în aspectul feței. În India, tehnologia recunoașterii faciale este folosită pentru a găsi copiii dispăruți, iar în multe aeroporturi este folosită la îmbarcarea pasagerilor.

Frank spune că trebuie să existe tot mai multe dezbateri, fiindcă tehnologia va evolua și va putea face lucruri care în trecut nu erau posibile. Frank a vorbit la Dublin la un summit organizat de guvernul irlandez și deschis de premierul țării.

John Frank spune că până și în China se dezbate pe tema acestei tehnologii, mai ales după ce s-a aflat că sunt folosite camere care urmăresc elevii la ore, nu doar pentru a vedea cine lipsește, ci și pentru a le monitoriza nivelul de atenție, un model care nu încurajează educația și este ultra-invaziv. În Europa trebuie creat un cadru de reglementare care să excludă posibilitatea instalării unui sistem atât de puternic de supraveghere.

Oficialul amintește și că în SUA, San Francisco și câteva orașe din jur au interzis folosirea tehnologiei de facial recognition de către autorități și mai multe state vor să stabilească cadre de reglementare, lucru cu care Microsoft este de acord. ”Este nevoie de plase de siguranță pentru a ne asigura că tehnologia este folosită corespunzător, dar aici nu vorbim de o știință exactă”.

Practic, tehnologia de recunoaștere facială se folosește de biometrie pentru a face o ”hartă” a feței fiecărui om și cel mai important aspect este geometria feței, fiindcă sunt măsurate cu exactitate distanțe (de exemplu dintre ochi sau dintre frunte și bărbie).

Din măsurători este creată o ”semnătură facială” (facial signature), practic o formulă matematică ce este comparată cu baza de date a fețelor cunoscute.

Cât de evoluată este tehnologia și cât de departe este de perfecțiune? ”În condiții de laborator este extrem de bună, pe teren, în lumea reală, dacă te uiți cu un teleobiectiv pentru a vedea o persoană ce stă la un balcon, nu vei obține imagini atât de bune”, explică oficialul Microsoft. Depinde de distanță, de faptul că oamenii se mișcă, dar și de lumina din jur ”Tehnologia este folositoare, unele camere sunt atât de bune încât suntem reținuți în a dori ca ele să fie folosite în cazurile în care deciziile se iau în timp real fără feedback din partea oamenilor”, mai spune el.

Practic se referă la situații precum cele întâlnite la evenimente sportive sau muzicale unde participă zeci de mii de oameni și unde camerele montate pe dube scanează fețele oamenilor prezenți și le compară cu o bază de date de suspecți și apoi, dacă sunt fețe care coincid, oamenii respectivi sunt legitimați acolo de polițiști. Astfel de exemple sunt din Cardiff (Țara Galilor).

Aceasta este problema. Dacă se folosește tehnologia pentru a identifica oamenii în timp real trebuie să fie și o confirmare făcută de un om, practic cineva de la poliție să verifice imaginile colectate de camere și să facă o comparație între potrivirile făcute de computer, mai spune Frank.

”Sunt două mari probleme ale folosirii acestei tehnologii de recunoaștere facială: când este utilizată în scopuri antidemocratice și când tehnologia este folosită în scop contrar dorințelor oamenilor, cum ar fi polițiști cu camere montate pe uniformă, fiindcă acele camere nu sunt destul de bune încât potrivirile detectate să fie de încredere. Trebuie să existe o intervenție umană acolo, pentru verificare”, spune Frank.

Pentru femei și pentru oamenii de culoare sunt mai mari șansele ca potrivirile detectate de soft-uri să nu fie exacte. La oamenii de culoare este posibil ca acele camere să nu fie bine reglate astfel încât să detecteze trăsăturile faciale în cazul pielii mai închise la culoare.

O soluție ar fi ca terțe părți să evalueze eficiența tehnologiei, practic rata de succes a detecțiilor. Poliția este normal să aibă voie să utilizeze tehnologia, dar trebuie să existe verificări făcute de organisme independente, dar și limitări clare în folosirea tehnologiei.

Frank spune că în Europa este clar că trebuie să existe reglementări în plus care să vizeze atât furnizorul camerelor și soft-urilor, cât și pe cel care le folosește pe teren. ”Dacă furnizorii tehnologiei nu le dau clienților informațiile complete, pentru ca aceștia să știe ce înseamnă folosirea corectă și incorectă a tehnologiei, nu prea ai cum să dai vina pe client când acesta a greșit.

Practic trebuie să fie precum la prospectele din medicamente: să se menționeze exact la ce poate fi folosită tehnologia, dar mai ales la ce NU poate fi folosită și mai ales ce riscuri sunt dacă este folosită arbitrar.

În ce ar trebui să constea reglementările:

– limite stricte ale supravegherii

– politici stricte exprimate în scris

– rapoarte anuale și audituri detaliate

– decizii luate cu asistență umană

– evaluare de către operatori umani a consecințelor

– testări periodice în condiții de teren

Cerând legi noi înseamnă că faci apel la politicieni pentru a reglementa lucruri esențiale, deși politicienii nu au o imagine bună. Este normal ca politicienii să decidă și în acest sector, mai ales că nu se pricep la tehnologie? ”Politicienii sunt aleși în mod democratic și, deși nu este un sistem perfect, este cel mai bun pe care îl avem.

L-am întrebat pe John Frank ce aspecte ale tehnologiei de ”facial recognition” ar trebui să se îmbunătățească în următorii 4-5 ani. Răspunsul lui? ”Privacy protection”. El dă ca exemplu faptul că poliția din Țara Galilor a șters toate fețele înregistrate de camerele video care nu coincid cu oameni aflați în bazele de date cu suspecți. ”Cei care folosesc tehnologiile trebuie să arate că au capacitatea de a le gestiona, implementând simultan și mecanisme de protecție a vieții private”, spune Frank.

El adaugă că vor continua eforturile de reducere a discriminării și de creștere a acurateții în cadrul acțiunii de recunoaștere.

Declarațiile lui Frank vin în contextul în care oficialii UE au promis că vor veni cu idei de legiferare a modului în care sunt folosite tehnologiile de facial recognition.

În plus, marile companii de tehnologie sunt somate să nu vândă astfel de tehnologii puternice guvernelor totalitare care ar putea suprima opozanții folosindu-se de soft-urile care pot detecta rapid unde se află un anumit om și ce face. Microsoft, dar și alte companii mari, au spus că nu vând aceste tehnologii guvernelor din țări ne-democratice.

Au fost și alte probleme și acuzații legate de folosirea bazelor de date cu foarte multe fețe de oameni.

Și Microsoft a fost prinsă cu ”mâța-n sac”, după ce o investigație Financial Times din iunie a arătat că a șters în tăcere o bază de date cu 10 milioane de fotografii ce reprezentau 100.000 de oameni, fotografii adunate din surse publice de pe internet. Cei mai mulți dintre oameni nu știau că fotografiile erau în acea bază de date care era, spun cei de la Microsoft, folosită în scopuri de cercetare.