Inteligența artificială în justiție. Unde suntem și spre ce ne îndreptăm?
Inteligența artificială (sau AI) este un subiect care a suscitat și continuă să suscite multe dezbateri aprinse, însă nu doar în cadrul conferințelor tech din Silicon Valley, ci chiar în mediul juridic. Titluri precum “Pot roboții fi avocați?” (1) sau “Poate inteligența artificială înlocui judecătorii din instanțe?” (2) sunt din ce în ce mai frecvente atât în mediul academic, cât și publicistic. Sunt aceste scenarii plauzibile? Ce ar însemna un astfel de punct de cotitură pentru evoluția umanității, iar nu doar a sistemului judiciar?
Prezentul articol va trece în revistă stadiul actual al utilizării inteligenței artificiale în sistemul judiciar, iar într-un material viitor vom analiza impactul inteligenței artificiale asupra avocaturii.
I. Idei generale despre AI
În celebra lucrare “Artificial Intelligence: A Modern Approach” (3), profesorii Stuart J. Russell și Peter Norvig consideră că un sistem este cu adevărat inteligent când are capacitatea de a acționa în lumea reală ca entitate independentă, cu propriile seturi de valori și rațiune (definite în diverse forme). Termenul de inteligență este, de altfel, intim legat de abilitatea de a explica mediul înconjurător și de a acționa în consecință. Până în prezent, oamenii sunt considerați singurele ființe universal inteligente. Sistemele software pe care le numim astăzi „inteligente” nu se apropie de descrierea unei inteligențe cu capacitate universală de explicație, ci sunt „inteligente” doar într-un sens restrâns.
Ce diferențiază un sistem software “inteligent” de un sistem software obișnuit? Pe scurt, se poate spune că în timp ce ultimul așteaptă întotdeauna acțiuni sau informații din partea operatorului, ca mai apoi să urmeze pașii care i-au fost programați, un sistem „inteligent” are capacitatea de a-și colecta propriile informații și/sau de a lua propriile decizii, fără intervenție din partea unui operator uman. Astfel, algoritmii AI, în forma cunoscută astăzi, nu reprezintă o formă de inteligență artificială „generală”, însă sunt mai mult decât simple sisteme software.
II. AI în sistemul judiciar
Într-un discurs din luna martie 2022 (4), susținut în cadrul conferinței „The Future for Dispute Resolution: Horizon Scanning”, Sir Geoffrey Vos, Master of the Rolls al Marii Britanii, anticipează că, în anul 2040, justițiabilii din Marea Britanie vor putea apela la justiție printr-un sistem online integrat, iar cu privire la anumite tipuri de cauze cu un impact mai scăzut, acesta se așteaptă ca multe cauze să fie soluționate de portale online, bazate pe inteligență artificială.
Acest scenariu are în vedere ipoteza în care întregul proces de luare a deciziei este delegat unui algoritm, chiar dacă pentru cauze cu un impact minor. Dar inteligența artificială este deja prezentă în sistemul judiciar prin: ghiduri inteligente de completare online a unor formulare, sisteme inteligente de revizuire a documentelor, chatbots, programe de auto-transcripție, platforme interactive pentru a urmări statusul soluționării unui dosar etc..
Mai mult, scopurile pentru care este folosită în prezent AI în justiție includ și funcționalități mai complexe precum:
a) Identificarea informațiilor relevante în procesul de administrare electronică a probatoriului, inclusiv procesarea imaginilor pentru recunoașterea unor persoane/obiecte,
b) Identificarea infractorilor în mulțimi/ spații publice prin recunoaștere facială (5),
c) Dezvoltarea unor politici de prevenție a criminalității prin distribuirea echipajelor de poliție în diferite zone ale unei localități, unde se anticipează că există o probabilitate mai mare de săvârșire a unor noi infracțiuni (6),
d) Analiza și interpretarea sunetelor de împușcătură pentru identificarea tipului de armă de foc cu care s-a tras, calibrul și clasa armei de foc, numărul de împușcături și direcția din care s-a tras,
e) Evaluarea potențialului infracțional sau de recidivă a unui infractor, în cauzele penale, pentru a lua decizii cu privire la dispunerea arestului preventiv sau pentru a cuantifica durata pedeapsei cu închisoarea (7),
Astfel, deși nu a fost conceput încă un algoritm care să soluționeze (integral) o cauză printr-un raționament similar celui efectuat de un judecător uman, există deja decizii importante ce sunt luate cu ajutorul inteligenței artificiale. Una dintre cele mai sensibile și disputate utilizări dintre cele listate mai sus este evaluarea potențialului infracțional sau de recidivă al unui infractor.
Problema esențială în această situație rezidă în înțelegerea corectă a mecanismului prin care se iau astfel de decizii de către un algoritm. Pe scurt, funcționarea unui algoritm de învățare automată supervizată poate fi rezumată în două etape principale de dezvoltare:
a) În prima etapă (de antrenare), este necesară colectarea și procesarea unui volum cât mai mare de date, structurate cu ajutorul unor parametri. Aceste date conțin atât “problema” pe care trebuie să o rezolve algoritmul, cât și “soluția”.
b) În cea de-a doua etapă (de predicție), pe baza experienței căpătate în etapa de antrenare, algoritmul este capabil să facă predicții cu privire la date nou inserate. De această dată, algoritmul primește doar “problema” de rezolvat, iar el trebuie să găsească “soluția”.
Când “problema” pe care trebuie să o rezolve algoritmul este însă mult mai complexă, precum evaluarea potențialului infracțional sau de recidivă al unui infractor, implicațiile practice ale unor potențiale erori într-una dintre cele două etape devin mult mai însemnate. Ce se întâmplă, spre exemplu, când, în etapa de antrenare, algoritmul primește exemple de soluții injuste prezentate ca fiind corecte? Algoritmul nu poate discerne între moral și imoral, legal sau ilegal, just sau injust, ci doar învață ceea ce i s-a prezentat ca fiind corect. Astfel, se poate ajunge în situația ca soluții injuste și tratamente discriminatorii, disproporționate și frauduloase să servească drept bază de învățare pentru algoritmi ce vor lua apoi decizii, cel puțin în aparență, obiective.
Luând în considerare riscurile utilizării necorespunzătoare a uneltelor bazate pe AI și pe alte tipuri de algoritmi avansați, Comitetul de Justiție și Afaceri Interne al Marii Britanii a publicat pe 30 martie 2022 un raport numit “Technology rules? The advent of new technologies in the justice system” (8). Printre măsurile propuse în cadrul acestui raport se numără: (a) crearea unui registru obligatoriu de algoritmi utilizați de poliție și organele judiciare, (b) reglementarea acestui domeniu prin legislație primară și secundară, (c) introducerea obligativității efectuării unor training-uri prealabile pentru utilizatorii acestor tehnologii din sistemul judiciar, (d) constituirea la nivel național a unui organism central de autorizare și supraveghere, precum și organizarea unor comitete de etică în cadrul inspectoratelor de poliție.
Preocupări în acest sens există și la nivelul Consiliului Europei și al Uniunii Europene. În decembrie 2018, Comisia Europeană pentru Eficiență în Justiție (CEPEJ) din cadrul Consiliului Europei a adoptat “Carta Etică Europeană în privința utilizării inteligenței artificiale în sistemele judiciare și domeniile adiacente”. Totodată, , Comisia Europeană a propus noi reguli și acțiuni pentru a transforma Uniunea Europeană într-un hub global pentru tehnologii de AI sigure și fiabile, prin “Pachetul AI” (9) , publicat în aprilie 2021.
III. Concluzii
Astfel, progresele înregistrate de tehnologia AI pot avea efecte benefice asupra sistemului judiciar, atât în cauzele civile, cât și în cele penale, precum facilitarea interacțiunii justițiabililor cu sistemul judiciar, reducerea timpului și costurilor pentru soluționarea anumitor tipuri de dispute, combaterea fenomenului infracțional și eficientizarea investigațiilor criminalistice. Cu toate acestea, după cum spune proverbul englezesc “the devil is in the details”, în absența unui cadru legislativ și instituțional bine puse la punct, care să țină pasul cu progresul tehnologic, drepturile și libertățile fundamentale ale cetățenilor, precum libertatea individuală, accesul la justiție și dreptul la viață privată sunt periclitate.
Pe cale de consecință, înainte de a găsi răspuns la întrebarea dacă și în ce măsură vor exista judecători AI în sălile de judecată, avem responsabilitatea de a răspunde și a face față unor provocări mai stringente cu care sistemele judiciare deja se confruntă într-o formă sau alta.
Note de subsol:
(1) D. Remus, F.S. Levy,., Can Robots Be Lawyers? Computers, Lawyers, and the Practice of Law, 27 noiembrie 2016, disponibil la https://ssrn.com/abstract=2701092 sau http://dx.doi.org/10.2139/ssrn.2701092 (accesat la 7 mai 2022)
(2) Dawn Lo, Can AI replace a judge in the courtroom? Disponibil la https://newsroom.unsw.edu.au/news/business-law/can-ai- replace-judge-courtroom (accesat la 7 mai 2022)
(3) A se vedea S.J Russel, P. Norvic, Artificial Intelligence: A Modern Approach, ed. a IV-a, Ed. Pearson Education Limited, 2021
(4) A se vedea https://www.judiciary.uk/wp-content/uploads/2022/03/MR-to-SCL-Sir-Brain-Neill-Lecture-2022-The-Future-for- Dispute-Resolution-Horizon-Scannings-.pdf (accesat la 7 mai 2022)
(5) Pentru o analiză mai detaliată a acestui subiect, a se vedea K. Walch, Cognitive World (Contributor Group), The Growth Of AI Adoption In Law Enforcement, disponibil la https://www.forbes.com/sites/cognitiveworld/2019/07/26/the-growth-of-ai-adoption- in-law-enforcement/?sh=5c7f713d435d (accesat la 7 mai 2022).
(6) O astfel de unealtă este Predpol. Pentru mai multe detalii, a se vedea https://www.predpol.com/ (accesat la 7 mai 2022)
(7) O unealtă de acest gen care a stârnit multe controverse este COMPAS (“the Correctional Offender Management Profiling for Alternative Sanctions”). Pentru o analiză mai detaliată, a se vedea J. Angwin, J. Larson, S. Mattu & L.Kirchner, Machine Bias: There’s Software Used Across the Country to Predict Future Criminals, and It’s Biased Against Blacks., Propublica, 23 mai 2016, disponibil la https://bit.ly/3lPNmS1 (accesat la 7 mai 2022).
(8) Disponibil la adresa https://publications.parliament.uk/pa/ld5802/ldselect/ldjusthom/180/180.pdf (accesat la 7 mai 2022)
(9) A se vedea https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence (accesat la 7 mai 2022)
Un articol semnat de Angelica-Georgiana Alecu, Associate ( aalecu@stoica-asociatii.ro ), STOICA & Asociații.