Să facem, rapid, dreptate roboților

Tehnologia a fost și este unul dintre cei mai importanți actori sociali, politici (și unii ar agumenta geologici și ecologici) din ultimele secole. Ar fi o recunoaștere să îi acordăm atenția cuvenită, cel puțin la fel cât vorbim, zilnic, despre politicieni și instituții. Problema este că suntem încă tributari unor cadre de gândire „tradiționale” despre tehnologie. Încă le concepem uzual ca pe niște scule, chiar și când ne raportăm la gadget-uri performante. Mai recent însă, spectrul răspândirii pe scară largă al roboților, vehiculelor autonome sau al algoritmilor inteligenți care iau decizii cu implicații majore în viața noastră, ne-a adus problema raportării la tehnologie în ograda proprie, cum s-ar spune.

Concepția standard dominantă fața de tehnologie este cea instrumentalistă în care tehnologia este un instrument neutru iar „noi” suntem cei care decidem ce facem cu ea. Iese bine, iese rău, utilizatorii poartă responsabilitatea. Șoferul care trece pe roșu, depășește viteza legală sau dă peste cineva este de vină, nu mașina. Vehiculul e neutru, cum s-ar spune. Ne unge pe suflet această viziune eroică și nobilă a omului responsabil dar pe măsură ce tehnologiile ne preiau din sarcini nu prea e sustenabilă. Când un algortim predictiv își alterează propriul cod și ia o decizie greșită îl mai putem trage la răspundere așa ușor numai pe șofer (direcția în care se pare că merge recent investigația din cazul accidentului cu un vehicul Uber autonom din Tempe, Arizona)? Si atunci, cum se distribuie responsabilitatea între dezvoltatorul software-ului, dezvoltatorul vehicului sau chiar Uber? Cum se împarte responsabilitea fată de evoluția ulterioară a noii entități în ecosistemul socio-tehnic? Încă nu e clar ce soluții vor fi date și dacă se vor relua testele dar tehnologiile devin din ce în ce mai mult agenți activi al cărui rol social nu îl mai putem gândi în paradigma instrumentalistă.

Celălalt discurs public dominant despre rolul tehnologiei în societate anunță, fascinat, minunatele beneficii ori implacabilele dezastre care „vor veni”. Aflăm că roboții „vor avea grijă de bătrâni” dar și că „vor purta războaiele viitorului”. Că vom comunica prin intermediul gândurilor având creierele conectate la calculator dar și că ne îndreptăm spre supravegherea absolută.

Prima variantă vede tehnologia echivalentă cu progresul. Cealaltă ca aducând sfârșitul lumii. Ambele cu viteză „exponențială”, ca un tren în plină viteză scăpat de sub control. Se disprețuiesc reciproc dar ambele sunt variante ale aceluiași determinism tehnologic (ideea conform căreia tehnologia este o forță care se dezvoltă îndependent de considerații etice și sociale și este principala determinantă a societății). Niciuna nu ne ajuta să conceptualizăm adecvat relațiile complexe și dinamice între noile tehnologii și tot felul de procese sociale, economice, politice. Și asta ne lasă ca societate într-o poziție perplexă în care condițiile devin arbitrare pentru a înțelege bine oportunitățile și a contracara riscurile asociate.

În ciuda anunțurilor comunicatorilor tehnologiei, studiile din domeniul istoriei tehnologiei au demontat de ceva vreme concepția fatalistă despre relația tehnologie-societate. Viitorul e notoriu de dificil de prezis. Cu atât mai mult cu cât avem variabile așa nebădăioase cum sunt tehnologia, societatea sau mediul. Și atunci de ce persistă acest vocabular și mod de a înțelege procesele dezovoltărilor tehnologice? Până la un punct poziția fatalistă fața de tehnologie e de înțeles. Ni s-a întâmplat tuturor – poate destul de des – să citim despre cine știe ce tehnologie (sau s-o vedem într-un film) și apoi, peste câțiva ani, să „apară” și pe strada noastră. Am văzut „Minority Report” în 2002 și acum aflăm că politiștii pot prezice unde și când va avea loc o crimă. Am văzut „I, Robot” în 2004 și acum aflăm că robotul companiei Boston Dynamics sare cu dexteritate peste obstacole.

Tehnologia capătă astfel o aură misterioasă a unei forțe care vine din afara societății și evoluează indiferent ce credem sau ce facem noi. Cum să putem noi atunci să o influențăm? În bine ori în rău, oricum le-am concepe? Ce ne mai rămâne atunci este ori să ne bucurăm, dacă putem, calmi, de comfort (aici ne seduce și pleiada de emisiuni, blog-uri și review-uri de tehnologie, fascinația presei pentru titluri senzaționale, domesticirea tehnologiei prin filme) ori să chibițăm „de pe margine” și să îi proiectăm frici (războaie, control, distrugere) sau speranțele pentru o societate mai bună (prosperitate, dreptate, integritate) pe care tehnologia le va aduce neîndoielnic.

Desigur, dacă ne apucăm să citim studii sociologice despre tehnologie am vedea că lucrurile nu stau chiar așa. Algoritmii predictivi din practicile de poliție nu sunt chiar așa de „deștepți”. Am vedea eșecuri lamentabile, nenumăratele erori, bug-uri jenante, zeci de variante încercate, patente care zac în sertare, dar și forțe politice și sociale care dau formă tehnologiilor. Am înțelege cât de ușor lucrurile ar fi putut-o lua în altă direcție.

Stând de vorbă cu programatorii, nici imaginea tehnologiei ca forță exogenă societății nu prea se susține. Multe din infrastructurile și sistemele noastre sunt concepute și implementate autohton. Ca fost programator în industria software românească pot da mărturie pentru nenumăratele discuții cu colegii, zeci de variante gândite, implementate și trase pe dreapta. Dezvoltarea tehnologiei este o activitate la fel de socială ca „ieșitul la o bere” cu colegii. Tehnologia este o parte a societății la fel ca și media, instituțiile publice sau politica.

Și atunci, ce ar înseamna să facem dreptate roboților?

În primul rând, am avea nevoie de un nou cadru conceptual. Tehnologiile sunt mai mult decât niște scule sau gadget-uri smart. Și dacă sunt deștepte, nu ar trebui atunci considerate ca atare, cu drepturile și responsabilitățile care decurg? Desigur, asta nu înseamnă să bagăm la închisoare un robot care produce o crimă sau să facem legi despre parteneriate civile între roboți. Dar putem să ținem cont de rolul social activ pe care îl joacă și astfel să fim mai pregătiți pentru potențialul disruptiv pe care îl pot induce.

Un alt progres ar fi să rezistăm tentației de a disprețui, reflex, pozițiile opuse între detractorii și promotorii tehnologiilor. Dacă zici de bine de tehnologie ești un „prost util”, dacă o critici ești „ludit”. O societate în care tehnologia își împlinește potețialul are nevoie și de critici și de inovație responsabilă. Exercițiile de reflecție critică față de tehnologie trebuie văzute ca o șansă. Tehnologia nu „prinde” într-o societate care nu acceptă un sănătos discurs critic.

În al treilea rând, dacă vedem că tehnologia este endogenă societății apare întrebarea cum putem să influențăm dezirabil forma și direcția de dezvoltare în România. Ar fi nevoie de mai multe studii de impact multidisciplinare și dezvoltarea de scenarii anticipative care să țină cont de impactul disruptiv al tehnologiilor, fie că vorbim de țesutul social local, fie că vorbim de mediu. Asta ar înseamna pregătirea și promovarea unei generații de ingineri și antreprenori cu o amplă anvergură intelectuală și capacitate de reflecție.

Citeste intreg articolul si comenteaza peContributors.ro