Era AI: Întrebarea pe care rareori o punem

Integrarea tehnologiei în societate nu este o problemă de stânga sau de dreapta, de tineri sau de vârstnici, de ingineri sau de umaniști. Este o provocare care ne unește tocmai prin faptul că ne privește pe toți. Iar cel mai riscant lucru pe care îl putem face nu este să adoptăm tehnologia prea încet, ci să lăsăm un grup îngust de oameni să decidă în locul nostru cum o facem, scrie Răzvan Rughiniș, profesor la Universitatea Politehnica din București, într-un articol de opinie publicat astăzi de HotNews.

Trăim într-o perioadă în care tot mai multe dintre activitățile noastre sunt mediate de tehnologie. Comunicăm, ne informăm, cumpărăm, ne distrăm, căutăm parteneri, aplicăm la locuri de muncă, toate prin ecrane și formulare. Această transformare are efecte bune și rele, așteptate, dar și surprinzătoare, și ne privește pe toți. Și, tocmai de aceea, nu poate fi lăsată doar pe mâna celor care o produc.

„Fiecare sistem a fost proiectat pe baza unor alegeri. Cine participă la aceste alegeri”

Un impact subtil al tehnologiei este că reduce o lume plină de grade, nuanțe și excepții la un registru finit de opțiuni, adesea binare. Tinder a transformat căutarea partenerului într-un gest de swipe stânga sau dreapta: da sau nu, în fracțiuni de secundă, pe baza unei fotografii.

Algoritmii rețelelor sociale decid pentru noi ce vedem și ce nu vedem. Sistemele automate de recrutare filtrează CV-uri după cuvinte-cheie: dacă nu am scris exact termenul căutat, pot deveni invizibil. Interfața nu doar organizează informația. Ea decide și ce fel de informație mai merită să existe. Fiecare dintre aceste sisteme a fost proiectat de cineva pe baza unor alegeri.

Întrebarea este: cine participă la aceste alegeri și cine le suportă efectele? Răspunsul, deocamdată, este că cei care proiectează sistemele și cei care le folosesc zilnic trăiesc în lumi diferite.

Un algoritm de recrutare poate procesa mii de aplicații pe secundă, dar nu înțelege că un candidat care a trecut de la inginerie la educație la 40 de ani nu are un CV incoerent, ci o biografie care poate spune ceva despre adaptare, curaj și judecată. Modelarea tehnică este o formă utilă de cunoaștere. Dar nu este singura și nu este suficientă. Când decidem cum să integrăm tehnologia în educație, în muncă, în relațiile sociale, avem nevoie de toată inteligența pe care o avem la dispoziție, nu doar de cea computațională.

„Suntem puși în fața unei alegeri aparent binare”

Companiile care dezvoltă aceste tehnologii operează după o logică a competiției și a creșterii. „Move fast and break things” a fost motto-ul intern al Facebook în primii săi ani, iar mentalitatea a rămas un model cultural în industria tehnologică. Merită să ne oprim o clipă asupra formulării. Când spunem „break things”, ale cui sunt acele lucruri? De regulă, nu ale celor care le sparg. Iar uneori nu e vorba despre lucruri, ci despre oameni: relații și cariere reorganizate peste noapte, comunități desființate, sisteme de încredere erodate. „Move fast and break people” ar fi uneori mai fidel realității, dar mai puțin inspirațional pentru investitori.

Ceea ce lipsește din această ecuație nu este mai multă tehnologie, ci mai multe voci. Cu cât mai mulți oameni participă la decizia de a introduce o tehnologie într-un domeniu, cu atât mai mari sunt șansele ca efectele asupra celorlalți să fie luate în considerare.

Apariția inteligenței artificiale generative a amplificat aceste dinamici. Ne confruntăm cu o presiune de a adopta aceste sisteme urgent și la scară largă, sub amenințarea că alternativa este să pierdem competiția geopolitică. Suntem puși în fața unei alegeri aparent binare: fie acceptăm AI-ul așa cum vine, fie ne condamnăm copiii la o societate în declin, dominată de autoritarianismul chinez. E o alegere forțată pe care filosofii o studiază sub numele de „dilema tramvaiului” (trolley problem): alegi între două variante, ambele cu costuri, fără ieșire.

Dar dilema tramvaiului este un experiment mental, nu o descriere a realității. În lumea reală, nu suntem blocați pe două șine. Putem construi alte șine, putem îmbunătăți sistemul de frânare, putem preveni situațiile în care oamenii ajung în fața tramvaiului. Iar în cazul AI, putem decide ritmul adoptării, gradul de supraveghere umană, domeniile în care automatizarea are sens și cele în care nu are. Dar numai dacă suntem destui la masa la care se iau aceste decizii.

„O promisiune comercială”

Ideea că AI va înlocui munca umană este, în mare parte, o strategie de vânzare adresată managerilor care caută economii la bugetele de salarii. Că produsul sau serviciul se va degrada în absența discernământului uman este o problemă care va apărea mai târziu, când altcineva va fi responsabil.

E ca și cum ai concedia toți bucătarii unui restaurant și ai instala un sistem automat de gătit, iar apoi, când clienții încep să plece, ai cumpăra un al doilea sistem automat pentru a gestiona reclamațiile. Inevitabilitatea înlocuirii nu este o lege a naturii. Este o promisiune comercială. Iar o promisiune comercială poate fi evaluată, negociată și, când e cazul, refuzată.

O întrebare pe care rareori o punem este: în cât timp să integrăm o nouă tehnologie în societate? Ritmul contează, pentru că doar timpul ne permite să vedem cine și ce pierde, cine și ce câștigă. În orice organizație, o parte din munca cea mai valoroasă este și cea mai discretă: angajatul care rezolvă cazurile limită, care preîntâmpină anomaliile, care știe din experiență ce poate merge prost. Tocmai pentru că nu generează crize, contribuția lui rămâne invizibilă în orice tabel de performanță. Când dispare, nimeni nu observă imediat. Iar dacă tranziția e prea rapidă, nu avem timp să descoperim ce anume lipsește până când lipsurile devin crize.

„Avem la dispoziție nu două opțiuni, ci nenumărate combinații”

Fiecare generație a avut de negociat cu tehnologiile timpului ei. Am integrat electricitatea, antibioticele, energia nucleară, editarea genetică, internetul, de fiecare dată cu perioade de ajustare în care am învățat să distingem între utilizările care ne fac bine și cele care ne fac rău.

Această experiență acumulată este un atu. Trăim într-o societate a abundenței, cu mai multe resurse intelectuale, mai multe instrumente și mai mulți oameni educați decât în orice moment anterior.

Avem la dispoziție nu două opțiuni, ci nenumărate combinații de efort uman și asistență tehnologică. Întrebarea este dacă vom participa la aceste alegeri. Integrarea tehnologiei în societate nu este o problemă de stânga sau de dreapta, de tineri sau de vârstnici, de ingineri sau de umaniști. Este o provocare care ne unește tocmai prin faptul că ne privește pe toți. Iar cel mai riscant lucru pe care îl putem face nu este să adoptăm tehnologia prea încet, ci să lăsăm un grup îngust de oameni să decidă în locul nostru cum o facem.

Articolul de opinie a fost publicat inițial în Contributors.ro