Tesla Altruist vs. Tesla Egoist și parabola bunului samaritean
Despre secolul al 21-lea s-a spus că va fi mistic sau nu va fi deloc. Eu cred că secolul al 21-lea va fi dominat de inteligența artificială (AI)[1], alături de revoluțiile gemene din tehnologia informațională și biotehnologie.
Oamenii posedă două tipuri de abilități:fiziceșicognitive. Când revoluția industrială a introdus mașinile, acestea au surclasat abilitățile fizice ale oamenilor. Dar oamenii au reușit să mențină un avantaj decisiv asupra mașinilor: când muncile fizice din agricultură și industrie au fost preluate de tractoare și alte mașini, ei și-au fructificat abilitățile lor cognitive: învățarea, analizarea, comunicarea și, mai presus de toate, înțelegerea emoțiilor omenești.
AI posedă două tipuri de abilități diferite de cele umane:conectivitateașicapacitatea de actualizare permanentă. Spre deosebire de oameni – individuali prin excelență -, computerele se pot conecta și integra ușor într-o singură rețea flexibilă, putând fi apoi actualizate simultan.
Aceste abilități specifice permit inteligenței artificiale să depășească performanțele umane în tot mai multe domenii, inclusiv cel al înțelegerii emoțiilor: de exemplu, în simularea zborurilor de luptă executate de drone, sisteme inteligente de predare și învățare, tranzacționări algoritmice, planificări comerciale, managementul portofoliilor, analiza datelor complexe din sistemele medicale cu producerea de diagnostice și tratamente, crearea unor texte originale în limbaje naturale pe baza unor cantități masive de date (Big Data), recunoașterea facială, fracturarea hidraulică 2.0, analizarea și interpretarea rocilor digitale etc.[2]
Un exemplu instructiv, din mai multe puncte de vedere, este aplicarea AI în cazul mașinilor fără șofer (mașina inteligentă). Una după alta, mari companii precum Google, Tesla, GM, Amazon, Toyota, Volkswagen, Uber ori Mercedez Benz au produs și testat diverse prototipuri de autovehicule autonome, dotate cu creiere AI. Miza introducerii pe piața a unor astfel de autovehicule este enormă: diverse statistici arată că numărul accidentelor, datorate șoferilor umani, s-ar reduce drastic, o dată cu descongestionarea traficului, parcări perfecte, lipsa oboselii la volan, posibilități de conducere auto pentru persoane handicapate etc., etc.
De departe, cel mai mare avantaj al folosirii mașinilor fără șofer este reducerea mortalității din cauza accidentelor din trafic. Pentru comparație, ofer două seturi de numere.
După 11 septembrie 2001, teroriștii au omorât în fiecare an circa 50 europeni, 10 americani, 7 chinezi și până la 25.000 oameni în restul țărilor de pe glob (majoritatea în Irak, Afganistan, Pakistan, Nigeria și Siria)[3].
În contrast, accidentele de circulație omoară anual circa 80.000 europeni, 40.000 americani și 270.000 chinezi. Astăzi, în fiecare an, aproape 1,25 milioane oameni cad victime accidentelor de mașină. Numărul este de două ori mai mare decât cel al victimelor ucise în războaie, crime și terorism, combinate la un loc.[4]
Peste 90% din accidentele de circulație sunt provocate de erorile șoferilor umani: nerespectarea regulilor de circulație, conducere sub influența alcoolului,text-messagingîn timpul condusului, adormirea la volan, neatenție la trafic, exces de viteză, depășiri nepermise etc. Mașinile fără șofer nu vor comite niciodată astfel de erori.
Chiar dacă mașinile AI nu sunt perfecte încă și chiar dacă unele accidente sunt inevitabile – voi discuta imediat acest aspect -, se estimează că înlocuirea tuturor șoferilor umani cu computere va reduce numărul victimelor din trafic cu 90%[5]. Adică, anual, ar putea fi salvate peste 1 milion de vieți omenești.
Partea goală a paharului în cazul mașinilor conduse de creiere AI este dispariția unei largi categorii sociale: șoferii profesioniști. Conform datelor oferite în 2015 de American Trucker Association, circa3,5 milioane de șoferi lucrează pe autocamioane de trasport în SUA. La aceștia, trebuie adăugați șoferii de taxi, al căror număr, la scară globală în 2016, depășea17 milioane persoane.
Dar nu numai șoferii profesioniști își vor pierde locurile de muncă din cauza trecerii la autovehicule autonome. O altă categorie socială – polițiștii de la circulație – nu vor mai avea de lucru prea mult pentru că mașinile conduse de AI vor respecta cu strictețe toate regulile de circulație.
O altă problemă serioasă cu care se confruntă mașinile fără șofer este dimensiunea lor etică, la care se adaugă una socială. Oamenii iau decizii importante care presupun de regulă judecăți etice, dar algoritmii nu înțeleg etica.
În articolul meu din 2017, am prezentat acest aspect etic al introducerii pe scară largă a mașinilor cu inteligență artificială sub numele dedilema tramvaiului. Actualizată, ar fi vorba de dilema etică a mașinii fără șofer.
Să presupunem că trei pasageri călătoresc într-o mașină inteligentă care se apropie de o trecere de pietoni pe care se află trei persoane (Figura 1). Brusc, frânele mașinii nu mai răspund la comanda creierului AI: a apărut o problemă mecanică sau un hacker a atacat algoritmii mașinii etc. Cu iuțeala fulgerului, creierul AI conchide că nu există decât două opțiuni: ori își salvează pasagerii, dar omorând pietonii ori virează într-o barieră de beton, omorându-și pasagerii, dar salvând pietonii.
Această dilemă etică este veche de când lumea și ar putea fi exprimată sub alternativa: iubește-te pe tine însuțimai multdecât pe aproapele tău (poziția egoistă) ORI iubește pe aproapele tăumai multdecât pe tine însuți (poziția altruistă). Desigur, se poate concepe și un compromis creștinesc, să iubești pe aproapele tăuca petine însuți (Matei, 22:39), dar să nu uităm ca vorbim aici de o mașină inteligentă, însă fără emoții sau judecată morală.
În ciuda magnificei porunci cristice, multiple exemple cotidiene arată că, în momente de criză, oamenii uită prea repede și prea ușor pozițiile lor filosofice și de multe ori acționează sub comandamentul emoțiilor și instinctelor viscerale.
Figura 1. Tesla Altruist (stânga) vs. Tesla Egoist (dreaptă). (Sursa)
O mașină fără șofer, cu trei pasageri, rămâne brusc fără frâne și se apropie de o intersecție pe care traverseaza legal trei persoane. Ce ar trebui să facă mașina? Să omoare pasagerii (opțiunea altruistă) sau să omoare pietonii (opțiunea egoistă)?
Despre parabola bunului samaritean – o aplicație practică
Este una dintre cele mai cunoscute parabole din Noul Testament, povestită de Iisus ucenicilor lui în Evanghelia lui Luca, 10:25-37. Un evreu, care călătorea de la Ierusalim la Ierihon, a fost jefuit și bătut de tâlhari și lăsat apoi să moară pe marginea drumului. După o vreme, un preot și un Levit au trecut prin fața omului muribund și l-au ignorat. Dar un Samaritean – un membru al unei secte foarte disprețuite de evrei – s-a oprit când a văzut victima, i-a dat primul ajutor, l-a transportat la primul han și i-a salvat viața. Morala parabolei este simplă: meritele oamenilor trebuie judecate după comportamentul lor real, nu după afiliațiile lor religioase sau ideile lor filosofice.
Unul dintre cele mai dezamăgitoare experimente din istoria științelor sociale a avut loc în decembrie 1970 la Princeton Theological Seminary, unde 40 de studenți se pregăteau să devină predicatori în Biserica Prezbiteriană[6]. Fiecărui student i s-a cerut să se grăbească să ajungă la o sală de lectură îndepărtată din campus pentru a prezenta publicului de acolo parabola bunului samaritean și semnificație ei.
Tinerii și ambițioșii seminariști au alergat către sala de lectură, contemplând pe drum care ar fi cea mai bună cale de explica morala parabolei. Dar experimentatorii au plasat în calea lor o persoană în zdrențe, care zăcea prăbușită peste pragul intrării în sala de lectură, cu capul plecat și cu ochii închiși. Pe măsură ce fiecare seminarist se grăbea să intre în sală, trecând peste el, „victima” tușea și gemea jalnic. Majoritatea seminariștilor nici măcar n-au catadicsit să se oprească o clipă și să întrebe ce i s-a întâmplat omului. Nici vorbă să-i dea vreun ajutor. Stresul emoțional creat de nevoia de a ajunge cât mai repede în sala de lectură a fost mai puternic decât obligațiile etice de a ajuta un străin aflat la nevoie.
Morala experimentului de la Princeton Theological Seminary ne spune că emoțiile umane calcă peste teoriile filosofice în nenumărate alte situații. V-ați întrebat vreodată câți creștini întorc în realitate și celălalt obraz sau câți evrei își iubesc în realitate vecinii ca pe înșiși?
Spre deosebire de oameni, algoritmii computerelor nu au nici instincte, nici emoții. De aceea, în momente de criză, un computer ar putea urma regulile etice mult mai bine decât oamenii, cu condiția să putem codifica etica sub forma precisă a numerelor și statisticii.
Dacă o mașină fără șofer ar fi programată să ajute oamenii aflați la nevoie pe marginea drumului, puteți fi siguri că acea mașină se va opri de fiecare dată și va ajuta pe fiecare nevoiaș, fie ploaie, fie foc, fie arșiță ori ger. Similar, dacă mașina inteligentă ar fi programată să vireze pentru a evita pietonii aflați pe zebră, puteți fi siguri că mașina va executa acea manevră exact cum i s-a cerut. Cu alte cuvinte, Tesla ori BMW ar putea transforma o problemă clasică de morală într-una inginerească și computeristică.
Să revenim la dilema tramvaiului (Figura 1). Foarte puține probleme exemplificând această dilemă au fost rezolvate satisfăcător pentru toți filosofii. Și atunci, ce ar putea face o întreprindere precum Tesla, prea puțin implicată în dileme non-inginerești? Simplu, să lase piața să decidă. Tesla ar putea oferi două modele ale mașinii sale fără șofer: Tesla Altruist și Tesla Egoist[7]. În caz de nevoie, T. Altruist va sacrifica persoanele din mașină în beneficiul unor străini. Pe când T. Egoist va face exact contrariul, va salva pasagerii transportați, dar va ucide niște străini care traversează strada regulamentar (sau nu). Astfel, consumatorii vor putea să cumpere modelul care corespunde cel mai bine moralei lor personale. Dacă mai mulți clienți vor cumpăra T. Egoist, nu-l vom putea blama pe Elon Musk (chiar dacă nu mai este cine a fost). La urma urmei, clientul are întodeauna dreptate.
Lumea reală are mai multe asemănări cu cea ilustrată în parabola bunului samaritean decât ne-am putea imagina.
În 2016, un grup de cercetători de la MIT a publicat rezultatele unui experiment edificator[8]. Folosind 13 diverse scenarii ale dilemei tramvaiului, autorii au efectuat șase sondaje on-line, la care au răspuns 1928 persoane (anul trecut, numărul celor care au folositMoral Machineatinsese 1,3 milioane). În general, publicul a mers pe ideea că mașina ar trebui să salveze pietonii, chiar cu prețul uciderii pasagerilor (modelul Tesla Altruist). Dar când participanții la anchetă au fost întrebați dacă ei personal și-ar cumpăra un astfel de model, majoritatea au spus nu, preferând pentru ei înșiși modelul Tesla Egoist.
Rezultatele cercetătorilor de la MIT au fost confirmate în 2017 de un sondaj de opinie efectuat de AAA (American Automobile Association), o organizație cu 56 milioane membri[9]. Deși adaptarea pe scară largă a mașinilor fără șofer promite că vor mai puține victime în trafic și că, per total, vom fi mai fericiți, mai siguri și mai eficienți, 78% din americani au raportat că le este teamă să călătorească într-un automobil autonom și numai 19% au declarat că ar avea curajul necesar s-o facă.
Dilema eticădiscutată mai sus (Tesla Altruist vs. Tesla Egoist) naște odilemă socială. Oamenii ezită în legătură cu modelul de mașină pe care l-ar cumpăra. La modul general, ei preferă Tesla Altruist, pentru că este mai etică și noi, ca buni cetățeni, dorim acele mașini care salvează cel mai mare număr de oameni. Dar cînd devenim clienți, opțiunea noastră este pentru Tesla Egoist. De aici rezultă o dilemă socială pentru fabricanții de mașini AI: oricare model l-ar adopta prezintă riscuri: T. Egoist ar declanșa protestele publicului moralist, pe când T. Altruist ar speria cumpărătorii.
De ce unii oameni nu au încredere în mașinile AI?
Blocajele psihologice în adoptarea mașinilor fără șofer nu se limitează doar la cele două tipuri de dileme, etică și socială, ori la semnificațiile mai profunde ale parabolei bunului samaritean. Gradul de încredere într-un automobil AI se poate estima prin nivelul de confort psihic resimțit atunci când te faci singur vulnerabil în fața unei alte entități în căutarea unor beneficii.
Alte bariere care trebuie depășite întru obținerea viitorului strălucit promis de mașinile autonome sunt descrise în literatura de specialitate.
De exemplu,exagerarea riscurilorpoate îmbrăca două aspecte: 1.riscurile devin subiectiv mai mari când ne apar mai ușor în minte și 2. riscurile sunt percepute a fi mai mari atunci când evocă o reacție emoțională intensă.
De exemplu, cele circa 10 victime anuale ale terorismului din America primesc o atenție mass-media senzaționalistă și disproporționată în comparație cu cele 40.000 de victime ale accidentelor de circulație.
La fel ca în cazul prăbușirilor de avioane, când mass-media reacționează exagerat în raport cu numărul victimelor, și în cazul unor accidente fatale produse de mașinile fără șofer (precum cel produs de Tesla în mai 2016), avem de-a face cu reacții excesive și exagerate, cele mai multe mustind un senzaționalism orientat către creșterea rating-ului.
Consecința: oamenii vor percepe în mod exagerat riscurile și pericolele acestor mașini în comparație cu cele clasice, conduse de șoferi umani.
Aversiunea față de algoritmi[10]desemnează tendința oamenilor a-și pierde mai repede încrederea în algoritmii care iau decizii greșite decât în oamenii care fac aceleași greșeli. De aici, preferința pentru șoferii umani în defavoarea șoferilor AI.
O altă barieră psihologică în adoptarea mașinilor fără șofer estesupra-încrederea recalcitrantă în propria performanță(Eu sunt cel mai bun șofer din lume!), deși șofatul algoritmic s-a dovedit a fi superior din multe puncte de vedere.[11]
Asimetria informațieieste resimțită de mulți oameni ca o lipsă a transparenței totale. Nu știm exact ce se întâmplă sub capota mașinii fără șofer și asta ne pune pe gânduri, chiar dacă mașina performează aparent perfect. Dacă ne încredințăm total unei entități inteligente, am vrea să știm, totuși, cum va proceda/reacționa respectiva entitate în situația X (poate fi chiar cea ilustrată în Figura 1). Din păcate, nu putem cunoaște 100% ce se întâmplă în creierul AI. Algoritmii inteligenți sunt actualizați permanent prinmachine learning,când computerele învață singure pattern-uri din ce în ce mai complexe, fără să ne ceară permisiunea și fără să urmeze indicațiile noastre apriorice.
citeste intreg articolul si comenteaza peContributors.ro
INTERVIURILE HotNews.ro