Istoricul avertizează asupra unei lumi în care inteligența artificială va crea regulile – iar oamenii nu vor putea să le înțeleagă.
- Potrivit lui Yuval Noah Harari, s-ar putea să pierdem controlul cu mult înainte de a ne da seama că nu mai înțelegem regulile
„O vacă poate vedea persoana care o hrănește. Dar nu poate percepe tranzacția bancară prin care ea își schimbă proprietarul. Viața ei este determinată de un sistem care îi rămâne invizibil. Așa este probabil relația noastră cu inteligența artificială , avertizează Yuval Noah Harari.
„Suntem vacile viitorului”, spune istoricul și autorul cărții „Sapiens” într-un interviu acordat lui Daniel Stach în cadrul emisiunii Hyde Park Civilizace, difuzată de televiziunea publică cehă.
Comparația descrie pericolul de a continua să trăim în cadrul sistemelor economice și juridice, pierzând capacitatea de a înțelege cum funcționează acestea – și cine decide pentru noi.
Jurnalistul Dan Popa trimite în fiecare joi dimineață newsletterul „EconoMix”. Dacă te interesează finanțele personale și vrei să primești recomandări legate de bani și economie , te poți abona aici:
De la instrument la agent autonom
În centrul gândirii sale se află o distincție: tehnologiile anterioare luau decizii umane. Inteligența artificială, susține el, poate lua decizii și genera idei noi.
Chiar și bomba atomică, în ciuda puterii sale distructive, nu alege singură dacă să o folosească sau care va fi ținta sa. Decizia este luată de un om.
În mod similar, așa cum a explicat într-un interviu acordat Wired, tipografia nu scrie cărți și nici nu alege pe care să le tipărească. Inteligența artificială poate crea conținut și poate alege ce idei să disemineze. De aceea, Harari o vede ca pe un agent al acțiunii, cu potențialul de a schimba lumea fără îndrumare umană la fiecare pas.
Puterea trece prin birocrație
Scenariul său nu necesită prezența unor armate de roboți pe străzi. El ocolește băncile, mecanismele administrative și regulile.
Avertismentul său este pentru următorii zece sau douăzeci de ani: sistemele create de inteligența artificială ar putea deveni atât de complexe încât oamenii nu ar putea să le înțeleagă. Dependența noastră ar crește, în timp ce capacitatea noastră de a interveni s-ar micșora.
Cine este responsabil pentru luarea unei decizii?
Într-un interviu anterior acordat Vox, Harari oferă un exemplu cotidian: aplici pentru un credit bancar, ești respins, iar când întrebi de ce, nimeni nu poate explica decizia algoritmului.
Pentru el, aici apare o problemă a democrației. Responsabilitatea presupune că putem înțelege și pune la îndoială deciziile care ne privesc.
El nu prezintă acest rezultat ca fiind inevitabil. El insistă că proiectarea și controlul sistemelor sunt încă o responsabilitate umană. Dar avertismentul său este clar: s-ar putea să pierdem controlul cu mult înainte de a ne da seama că nu mai înțelegem regulile.
