„Riscăm să adoptăm ce nu trebuie, dacă ajungem orbiți de propriul entuziasm” – Cum vede un antropolog relația dintre om și AI
Suntem într-un moment cât de cât bizar: cea mai puternică tehnologie e una pe care nu putem „pune mâna”. În ultimul an n-a mai fost doar despre hype, ci concretizare în produse accesibile gratuit sau pe bani, mai bune sau mai proaste. Așa că acum, în loc să explicăm o tehnologie, încercăm să-i dăm un sens sau un loc în ceea ce suntem deja: români și oameni.
Inteligența artificială, într-o formă sau alta, a fost folosită considerabil în ultimul deceniu. Doar că nu era atât de accesibilă celor mulți și nu era atât de facilă interacțiunea.
Din noiembrie 2022, odată cu lansarea ChatGPT, este. I-au urmat alte și alte aplicații, unele bazate chiar pe ChatGPT. Între timp, și Google (cu Bard), și Microsoft (cu ceea ce-a numit Copilot) au recuperat în fața publicului.
În 2020, într-un articol despre cum și de ce machine learning schimbă produsele digitale am pus și următorul fragment: „E și o glumă în industrie că îi spui «inteligență artificială» când e într-o prezentare PowerPoint și vrei să impresionezi și e «machine learning» (ML) când te pui pe treabă și trebuie s-o folosești.” Încă e valabilă. Dar în noiembrie 2023, aproape de aniversarea primului an ChatGPT, firma OpenAI care l-a creat a intrat câteva zile în haos.
Motivul ar fi fost o descoperire majoră în dezvoltarea AI. Câțiva cercetători OpenAI au trimis board-ului de conducere o scrisoare despre cum aceasta ar reprezenta un „pericol pentru umanitate”. Se vehiculează că OpenAI ar fi atins sau s-a apropiat de crearea unui sistem AGI (artificial general intelligence) – o inteligență artificială cu raționament, capacitate de planificare și rezolvare de probleme sau, altfel spus, care „gândește” ca un om.
Într-un articol din februarie 2023, creatorii ChatGPT au trasat coordonatele pentru momentul în care vom avea AGI. În fine, vom vedea ce se întâmplă. Altul e subiectul acum: relația noastră cu tehnologia și ce înseamnă sau ce poate însemna pentru noi.
Subiectul e însă extraordinar de vast, iar un singur răspuns nu există. Dar asta nu înseamnă că nu pot fi căutate diverse interpretări și înțelegeri. Așa am ajuns să vorbesc cu Alexandru Dincovici. Este antropolog, dar și General Manager, IziBiz Consulting (un butic de consultanță research-based, cu activitate în zona de cercetare calitativă, după cum e caracterizat businessul).
Am aflat de el din întâmplare dintr-o discuție pe care a avut cu Alec Bălășescu, antropolog și el, pe tema inteligenței artificiale. El a fost dispus să-mi răspundă la întrebări, așa că am început abrupt.
Unde suntem, ca români, în relația cu tehnologia?
„Mă feresc să răspund la întrebările care implică în enunț ideea de români, deoarece simt că aș perpetua un soi de esențialism care nu ne face nici cinste, și nici bine, pentru că poate deveni la rândul său un instrument (sic) care ajunge să justifice tot felul de măsuri politice sau economice, sau să consolideze anumite percepții eronate”, mi-a spus el.
Bun, nu e productiv să căutăm un răspuns general. Pot fi însă căutate și găsite altele. Dincovici pornește de la statistici, iar ele arată că nu stăm chiar bine la numărul de inovații, startup-uri tech sau deep tech, la digitalizarea statului, și la multe alte capitole considerate esențiale la nivel global în competiția între state.
„Cred că toate aceste lucruri pot fi explicate mai ușor prin anumite configurații instituționale care ne-au adus, sau mai degrabă lăsat aici decât prin apelul la o esență de român. […] Încerc să judec aceste decalaje statistice întrebându-mă care dintre configurațiile diferite ne-ar oferi, tuturor, o viață mai bună. Și răspunsul nu este atât de simplu pe cât pare.”
El amintește că în Guvern sigur sunt mulți oameni entuziasmați să experimenteze, să facă mai bine, mai ca afară, dar e și robotului ION anunțat drept consilier guvernamental în primăvara lui 2023, iar în toamna aceluiași an pare că nu mai e neapărat în atenția nimănui, dar se dorește să fie bun.
„Trăim într-o țară aparent paradoxală tehnologic. Avem un consilier guvernamental digital […] în aceeași țară cu cea mai mare pondere a tehnologiei sanitare tradiționale în rândul populației (mai cunoscută sub numele de toaleta din curte). Lăsând însă gluma (sau ironia) deoparte, aș spune că este posibil ca tocmai o gândire bazată pe esențialisme de tip «românii sunt» să explice acest aparent paradox.”
Altfel spus, poate n-aveam tot ce ne trebuie, dar încercăm să compensăm prin adopția rapidă a tehnologiilor. Internetul de mare viteză, prin fibră optică, e un exemplu excelent și e acum accesibil maselor.
„Există, totuși, riscul să adoptăm ce nu trebuie, dacă ajungem orbiți de propriul entuziasm”, subliniază Dincovici.
„Cred că acest lucru s-a văzut în pandemie, când am digitalizat urgent educația într-un mod complet nefuncțional pentru oamenii care aveau cea mai mare nevoie de ea. Nu e nici asta ceva tipic românesc, dar nu rezolvi nimic dând tablete unor copii care nu știu sau nu pot să le folosească, pentru că le lipsesc alte lucruri de bază (de exemplu, părinți care să poată sta cu ei acasă, sau un birou, sau cineva care să-i ajute să le folosească).
Cam așa văd pericolul cel mai mare rezultat din acest entuziasm, care nu e românesc, dar există cu siguranță în România.”
Bine, ca români nu avem un răspuns. Dar ca oameni? Ce poate fi tehnologia pentru om?
„Tehnologie, pentru mine, este tot ceea ce este făcut de om sau poate fi folosit de om”, zice Dincovici. Și aici intră orice instrument creat vreodată, inclusiv piese vestimentare.
„Tehnologia este, așa cum suntem și noi, în lume. Sau mai bine zis, împreună suntem lumea. Dacă ne uităm la tehnologie ca la un instrument, putem să o privim ca pe un instrument care ne extinde.
Chiar și pe noi și simțurile noastre sau sistemul nostru cognitiv, după cum o arată teza cogniției extinse, care ne spune că, în anumite situații, sistemul nostru cognitiv ajunge să încorporeze diferite tipuri de obiecte, de la exemplul clasic al bastonului, pentru nevăzători, discutat de fenomenologi precum Maurice Merleau-Ponty, până la artefacte tehnologice mai recente, cum este telefonul.
Când se întâmplă acest lucru, tehnologia devine încorporată, deci transparentă, și interacționăm cu lumea prin intermediul ei.”
În ideea asta, pe inteligența artificială „nu pui mâna”, dar o ai. E în telefonul care îți ajustează un pic pozele să arate mai bine. E în căutările de pe Google, dar și în algoritmii care îți livrează muzică, clipuri pe YouTube sau TikTok și chiar rute pe Waze să ajungi acasă. E chiar și în advertising, că de-asta ai feedul plin de reclame care par create fix pentru tine.
L-am întrebat pe Dincovici și dacă, pentru om, tehnologia e o rampă pentru o înțelegere mai bună a lumii sau doar escapism.
„Nu îmi vine să vorbesc strict despre o posibilitate sau oportunitate de cunoaștere mai bună”, susține el, „ci mai degrabă despre o oportunitate de acțiune diferită în și/sau asupra lumii.”
În relația asta lume – tehnologie, el consideră că o inovație tehnologică, de exemplu, poate crea sau performa o lume nouă, mai degrabă decât să o descopere. „Nu prea există neutralitate, din punctul acesta de vedere, al tehnologiei în relația cu lumea, pentru că nu există nicio separare.”
În ceea ce privește escapismul, el se raportează la tehnologii care au pretenția de a crea alte lumi, complet diferite de cea reală. „În fond putem presupune că sunt alte lumi și cădea de acord asupra acestui aspect, dar cred că astfel de tehnologii nu fac decât să-și asume un efect implicit al tuturor tehnologiilor, care este însă de cele mai multe ori mascat în celelalte cazuri.”
Face, în sensul acesta, o paralelă cu conceptul umwelt – un fel de lume trăită a organismelor – al biologului german Jakob von Uexküll.
„Organisme diferite trăiesc în umwelt-uri diferite, pentru că au simțuri diferite, prin care percep diferite lucruri în moduri diferite, dar și capacități diferite de acțiune care le permit diferite tipuri de (inter)acțiune.
Ori, organismul uman, dacă îl concepem ca un proces deschis care poate încorpora diferite artefacte, poate ajunge să creeze și să trăiască în diferite umwelt-uri în funcție de acestea”, explică Dincovici.
„Poate putem, deci, privi escapismul mai puțin ca o încercare de a fugi dintr-un loc, cât mai degrabă ca o încercare de a pătrunde în locuri noi. Nu în termeni de închidere, dar în termeni de deschidere.”
E imposibil să înțelegem toată tehnologia, dar putem înțelege ce poate face pentru noi
Acronimul AI deschide un univers întreg de implementări. Apoi sunt toate direcțiile generale ale tehnologiilor de largă audiență din prezent: metaverse, crypto, 5G, semiconductori și tot așa. Pe scurt, e e imposibil să crezi că poți cunoaște totul despre tot.
Dincovici susține că e tentant să presupui că e nevoie de-o minimă înțelegere a funcționării tehnologiilor, dar un om obișnuit nu poate face asta în profunzime.
„Ce putem face este să învățăm să folosim și să folosim cu discernământ. Iar discernământul e altă noțiune vagă și foarte discutabilă, dar presupune niște minime informații care țin de securitatea informației și care să ne ferească de pericolele evidente, de la furt de identitate la alte lucruri aparent mai puțin serioase, dar cu consecințe cel puțin la fel de periculoase.”
Acesta poate fi un punct de pornire și de aici să ne preocupe altă temă: tehnologii de care chiar să ne pese. Dincovici consideră că o axă pe care putem evalua o tehnologie e cu care se dezvoltă și se extinde. Asta înseamnă fie că ne vom lovi de ea curând, fie că ne vom confrunta, sau vom fi forțați să ne adaptăm.
Există însă și o altă cheie de interpretare: aceste tehnologii vor fi cel mai probabil fragile, vor avea un impact foarte mare, dar incert, și vor duce la o schimbare destul de rapidă în societate.
„Avem tendința de a ne baza foarte mult pe orice fel de artefact este produs de om, mai ales dacă în spate există un proces tehnologic bazat, la modul foarte general, pe știință. Iar într-un domeniu care în România este din păcate cvasi-absent din programele de studii, STS (studiile despre știință și tehnologie), se cercetează de câteva zeci de ani tocmai instabilitatea inerentă a oricărui rezultat sau proces tehnologic, stabilitatea fiind de fapt doar aparentă sau temporară, și putând vorbi mai degrabă de stabilizare.”
În completarea ideii, el menționează un concept preluat de filosoful Andrew Pickering din fizica nucleară, și anume: insulele de stabilitate.
„Pentru că lumea este, de fapt, caracterizată de procese emergente, incertitudine și într-o continuă devenire, de fiecare dată când apare ceva ce ne oferă iluzia stabilității avem tendința de a ne baza pe acel lucru și de a confunda toate acele configurații stabile cu însăși lumea. Însă acea stabilitate este doar aparentă, dată de o serie de întâmplări fericite, și se poate destrăma oricum și oricând. Exemplul pe care îl dă Pickering este cel al accidentului de la Fukushima, în care s-a destrămat o astfel de insulă, având consecințe nefaste.”
Spus pe scurt, sunt probabil șanse mai mari ca stabilitatea aparentă să nu dureze. El adaugă că același lucru poate fi spus și despre tehnologii deosebit de complexe, pentru că, cu cât procesele și actorii care contribuie la stabilizarea lor sunt mai numeroși și mai diverși, cu atât echilibrul este mai precar și mai greu de atins.
„Totul funcționează așa cum trebuie până la un punct. Iar când avem de-a face cu rețele, algoritmi, și multe componente obscure și distribuite în toate colțurile lumii, pericolul de destrămare este și mai mare”, completează el.
„Însă acest lucru nu este menit să ne sperie și să ne facă să nu adoptăm nicio inovație tehnologică, ci mai degrabă să ne mai aducă puțin cu picioarele pe pământ atunci când avem tendința să ne aruncăm cu elan în brațele unor noi tehnologii care ne promit salvarea.”
O altă axă de judecare propusă de el e preocuparea față de tehnologiile care promit că ne vor face viața mai bună. El trece aici mai degrabă tehnologii medicale sau cu impact social decât un algoritm care poate da mailuri în locul nostru. E însă de dorit și să avem o înțelegere cât mai bună a noilor tehnologii, pentru că altfel riscăm să fim și amăgiți și dezamăgiți.
„E ușor să înțelegi cum funcționează un ciocan și să accepți că îți va face viața mai ușoară […], dar un soft de medicină, pe de altă parte, care promite o acuratețe de 90% în diagnosticarea anumitor boli este mult mai dificil de evaluat.”
Natural born workers and users
Discuția cu Dincovici a ajuns și în punctul automatizării și viitorului muncii. El scoate în evidență o chestiune prea rar discutată în spațiul public: când ne gândim la automatizare, în general, ne gândim la cum putem transpune în anumiți pași unele acțiuni umane.
„Presupunem că acțiunile umane sunt ușor de spart în astfel de pași, putând să înlocuim omul cu un anumit tip de dispozitiv de calcul. Și avem exemple foarte bune, în fabrici în care roboții lucrează cot la cot cu oamenii și au productivitatea mai mare, se strică mai greu și tot așa. Putem trage concluzia, și multă lume o face, că suntem ușor de înlocuit cu roboți, pentru că deja se întâmplă asta, și algoritmul «bate» omul”, explică el.
„Dar uneori uităm că munca în fabrică, pe linia de producție, a fost gândită mai degrabă pentru niște organisme umane care să acționeze mecanic, asemenea unor mașinării. Practic, ne-am modelat de multă vreme munca în procese algoritmice, și roboții nu ne vor înlocui, ci mai degrabă își vor lua locul. În fond, robotul a apărut în imaginarul lui Karel Čapek, unde robota însemna muncă silnică.”
Dacă în familie sau în grupul de prieteni ai afișat vreodată ceva mai multe cunoștințe tehnologice, cel mai probabil ai trecut prin situații în care a trebuit să instalezi un router wireless, un Windows, să faci o configurare de telefon sau să înveți pe cineva să folosească o aplicație sau alt gadget. Vin însă din spate generații digital ready, nu? Gen Z, Gen Alpha, viitorul și lumina – și cunoscătorii. Stau cu telefonul în mână toată ziua, deci, sigur se pricep.
Da, se pricep la ale lor. Dar nu la tot. Iar vârsta încă nu e un indicator al priceperii holistice. Dincovici nuanțează chestiunea asta prin evidența momentului: generațiile digital ready sunt așa, pentru că s-au născut în lumea deja digitală și nu trebuie neapărat s-o învețe ca o lume străină, nouă.
„Însă poate că problema despre relația dintre generațiile mai noi și noile tehnologii nu ar trebui să fie pusă în termenii aceștia”, spune el.
„Tehnologia nu e acea meta-configurație stabilă care ne va absorbi, domina, și căreia trebuie să ne supunem. Cred într-adevăr că dintr-o perspectivă, să-i zicem istorică, a designului și adopției, noi încercăm să creăm noi tehnologii care să ne ajute, și pe măsură ce se extinde tehnologia ajunge la cât mai mulți oameni. În practică, tehnologia este și ea domesticită, iar relația merge în ambele sensuri.”
În ideea asta, el subliniază că generațiile tinere adaptează noile tehnologii la nevoile lor, mai degrabă decât încearcă să se adapteze la ele. „Mai în glumă, mai în serios, «datul de vocale» pe WhatsApp poate fi un exemplu.” Situația la OpenAI, deocamdată, s-a calmat. Au sau n-au AGI? Suntem pe fast track spre matrix? Întrebări la care poate fi găsit un răspuns sau nu au tot fost ridicate în ultima lună, ultimul an sau chiar ultimul secol.
Noua tehnologie extraordinară de discutată și analiză e AI. Acum două sau trei mii de ani era textul scris despre care unii spuneau că distruge lumea, că nimeni nu va mai avea interes să țină minte ceva. Nu e loc aici de-o concluzie: AI e bună sau rea. E o unealtă. Când vorbește de AGI, IBM folosește descrierea „strong AI”.
Pentru cei mai mulți dintre noi nu înseamnă nimic și așa va fi oricând. Trăim continuu în paradoxul tehnologic de-a avea și cele mai noi tehnologii, dar și probleme care par eterne.
Putem încerca să ținem pasul, că nu strică și face bine și la creier. Nu e însă cazul de furci și topoare contra serverelor. Nu de alta, dar încă avem probleme de rezolvat la care diverși algoritmi se pot descurca mai bine, de la cele din interiorul nostru până la cele din jurul nostru.
INTERVIURILE HotNews.ro