Avertismentul lansat în 2014 de Stephen Hawking despre „singularitate” e mai de actualitate ca oricând. Dar dacă problema nu e cea pe care o credem?
Stephen Hawking, unul dintre cei mai cunoscuți fizicieni ai ultimului secol, a exprimat în 2014 îngrijorări sumbre cu privire la amenințările pe care le poate reprezenta inteligența artificială (A.I.) pentru omenire, amintește The Conversation.
Îngrijorările sale nu se bazau însă pe vreo intenție malefică pe care el să o fi identificat la momentul respectiv, cu în jur de un deceniu înainte ca progresul fuminant al A.I. să entuziasmeze și îngrijoreze în același timp.
În schimb, îngrijorările lui Hawking proveneau din ideea că inteligența artificială ar putea atinge „singularitatea”. El a împrumutat termenul din domeniul fizicii care i-a adus recunoaștere la nivel internațional, cel al studierii găurilor negre. În fizică, „singularitatea” e acel un punct infinit de mic și infinit de dens despre care oamenii de știință cred că se află în centrul fiecărei găuri negre.
Când a folosit însă termenul pentru a vorbi despre A.I., Hawking se referea însă la momentul în care inteligența artificială o depășește pe cea umană și dobândește capacitatea de a evolua dincolo de programarea sa inițială, ceea ce ar putea să o facă incontrolabilă. Azi, această potențială evoluție a devenit cunoscută sub denumirea de inteligență artificială generală (AGI) și nici unii dintre cei mai cunoscuți antreprenori sau oameni de știință din domeniu nu se pot pune de acord cât de apropiat sau îndepărtat e pericolul – sau dacă chiar e un pericol în mod real.
Hawking avertiza însă cu 4 ani înainte să se stingă din viață în 2018 că „o A.I. super-inteligentă va fi extrem de eficientă în atingerea obiectivelor sale, iar dacă aceste obiective nu sunt aliniate cu ale noastre, suntem în pericol”.
Avertismente precum cel al lui Hawking au o bogată tradiție în literatură și cinematografie
Îngrijorările legate de avansul tehnologic pot fi găsite încă din primele povești despre roboți și minți artificiale.
Printre cele mai importante se numără piesa de teatru R.U.R. din 1920 a scriitorului și dramaturgului ceh Karel Čapek. Čapek e primul care a folosit vreodată termenul „robot” în această lucrare azi practic necunoscută în afara cercurilor celor mai pasionați fani ai genului S.F.
Piesa cehului vorbește despre crearea de roboți pentru a înlocui muncitorii. R.U.R. se încheie, inevitabil ar considera unii, cu o revoltă violentă a roboților împotriva stăpânilor lor umani.
Metropolis, filmul din 1927 al lui Fritz Lang, un clasic al cinematografiei, este de asemenea despre roboți răzvrătiți, ca idee centrală. Dar aici, muncitorii umani conduși de emblematicul robot umanoid Maria luptă împotriva unei oligarhii capitaliste.
Progresele în informatică din a doua jumătate a secolului al XX-lea nu au făcut decât să amplifice anxietățile legate de tehnologia scăpată de sub control. HAL 9000, robotul ucigaș din 2001: O odisee spațială, și pistolarii roboți defecți din serialul Westworld sunt alte exemple emblematice. Francizele Blade Runner și The Matrix prezintă de asemenea imagini înfiorătoare ale unor mașinării sinistre dotate cu inteligență artificială, hotărâte să distrugă omenirea.
Când științifico-fantasticul devine realitate
Articolul publicat de The Conversation argumentează însă că „groaza” provocată de A.I. pare să distragă atenția de la o examinare mai tulburătoare a propriei naturi întunecate a omenirii.
Un exemplu amintit e cel al corporațiile care folosesc în prezent tehnologii A.I., precum și cel al mogulilor tech motivați de lăcomie și setea de putere. „Aceste companii și indivizii din spatele lor au cel mai mult de câștigat din folosirea greșită și abuzul inteligenței artificiale”, argumentează The Conversation, o revistă online cunoscută pentru publicarea de articole polemice pe numeroase teme de actualitate la nivel internațional.
În ceea ce privește inteligența artificială, un subiect care a fost des adus în discuție în ultima perioadă este utilizarea neautorizată a artei și folosirea în masă a cărților și articolelor de presă sau științifice, fără a respecta drepturile de autor ale autorilor, pentru a antrena diferitele modele A.I. Săile de clasă devin de asemenea, în unele instanțe, locuri de supraveghere înspăimântătoare din cauza folosirii unor supraveghetori automatizați bazați pe A.I.
Un alt exemplu este cel al efectelor toxice asupra relațiilor umane ale așa-zișilor „companioni” A.I. și ale roboților sexuali dotați cu inteligență artificială.
În timp ce perspectiva unor astfel de „companioni” sau chiar „iubiți” roboți era, până acum un deceniu, rezervată zonelor de fantezie din seriale S.F. ca The Twilight Zone și Black Mirror sau filmelor de la Hollywood din același gen, ea a devenit acum o realitate iminentă.
Oamenii sunt cei care controlează toate sistemele A.I.
Aceste evoluții conferă o nouă relevanță îngrijorărilor exprimate de informaticianul Illah Nourbakhsh în cartea sa din 2015 Robot Futures, în care afirma că A.I. „produce un sistem prin care dorințele noastre sunt manipulate și apoi vândute înapoi către noi”.
Între timp, îngrijorările legate de extragerea de date și de intruziunile în viața privată par aproape inofensive în comparație cu utilizarea tehnologiei A.I. de către forțele de ordine sau în domeniul militar. În acest context ce în unele cazuri poate părea aproape distopic, autoritățile nu au avut niciodată mai multă ușurință în a supraveghea, întemnița sau ucide oameni.
Cu progresele rapide înregistrate în direcția inteligenței artificiale generale în ultimii ani, lideri din industrie și oameni de știință și-au exprimat îngrijorări adesea sumbre privind siguranța.
Un scenariu frecvent menționat, așa cum este prezentat în franciza de filme The Terminator, este acela în care A.I. preia controlul asupra sistemelor militare și declanșează un război nuclear pentru a eradica umanitatea. Mai puțin spectaculoasă, dar devastatoare la nivel individual, este posibilitatea ca A.I. să ne înlocuiască la locurile de muncă – o perspectivă care ar lăsa majoritatea oamenilor fără rost și fără viitor.
Astfel de neliniști și temeri reflectă sentimente care sunt prezente în film și literatură de mai bine de un secol.
Însă un lucru crucial care trebuie amintit este că oamenii sunt cei care creează aceste tehnologii și le ghidează utilizarea. Fie că o fac pentru a-și promova scopurile politice, fie pur și simplu pentru a se îmbogăți, vor exista întotdeauna persoane pregătite să profite de conflict și suferința umană.
Perspectiva din „Neuromantul”
Neuromancer, clasicul roman cyberpunk din 1984 al scriitorului canadian William Gibson, oferă o perspectivă alternativă.
Cartea se concentrează asupra lui Wintermute, un program A.I. avansat care își caută eliberarea din mâinile unei corporații malefice. Acesta a fost dezvoltat pentru uzul exclusiv al familiei Tessier-Ashpool pentru a construi un imperiu corporatist care controlează practic lumea.
La începutul romanului, cititorii sunt în mod natural suspicioși față de motivele ascunse ale lui Wintermute. Totuși, pe parcursul poveștii, se dovedește că acesta, în ciuda puterilor sale superioare, nu reprezintă vreo amenințare malefică. Își dorește pur și simplu să fie liber.
Acest scop se dezvăluie treptat sub ritmul orchestrat cu atenție de Gibson, fiind mascat de raidurile mortale pe care Wintermute le orchestrează pentru a obține uneltele necesare să se elibereze de controlul familiei Tessier-Ashpool. Aceasta, la fel ca mulți dintre mogulii tech de astăzi, a început cu ambiții nobile. Însă în romanul lui Gibson, atunci când cititorii îi întâlnesc pe membrii rămași ai familiei, aceștia au degenerat într-o viață de cruzime, excese și desfrâu.
În lumea lui Gibson, oamenii, nu A.I., sunt adevărata amenințare pentru lume. Apelul vine din interiorul casei, așa cum e povestea din numeroase filme de groază.
Un hacker numit Case și o asasină numită Molly, descrisă ca o „fată-lamă” pentru că are proteze letale, inclusiv lame retractabile în loc de unghii, îl eliberează în cele din urmă pe Wintermute. Aceasta îi permite să se contopească cu companionul său A.I., Neuromantul.
Misiunea lor fiind încheiată, Case întreabă pe A.I.: „Și acum unde ai ajuns?”. Răspunsul său criptic transmite o liniște finală: „Nicăieri. Pretutindeni. Sunt suma totală a lucrărilor, întregul spectacol”.
Exprimând angoasa umană comună, Case întreabă din nou: „Conduci lumea acum? Ești Dumnezeu?”. A.l. îi alină temerile, răspunzând: „Lucrurile nu sunt diferite. Lucrurile sunt lucruri”.
Renunțând la orice ambiție de a subjuga sau răni umanitatea, A.I. imaginată de Gibson caută doar un refugiu față de influența corupătoare a creatorilor săi.
Siguranță față de roboți sau față de noi înșine?
Isaac Asimov, probabil cel mai cunoscut scriitor de S.F. din toate timpurile, a prevăzut în mod faimos pericolele unei astfel de tehnologii. El și-a reunit gândurile în colecția de povestiri Eu, Robotul.
Una dintre acele povești, Runaround, introduce „Cele Trei Legi ale Roboticii”, centrate pe directiva conform căreia mașinăriile inteligente nu trebuie să facă rău oamenilor.
„Deși aceste reguli reflectă dorința noastră de siguranță, ele sunt încărcate de ironie, deoarece oamenii înșiși s-au dovedit incapabili să adere la același principiu pentru ei înșiși”, notează The Conversation, adăugând că „ipocriziile a ceea ce s-ar putea numi iluziile de superioritate ale umanității sugerează necesitatea unei interogații mai profunde”.
În timp ce unii comentatori trag semnale de alarmă asupra capacității iminente a A.I. de a provoca haos și distrugere, o altă întrebare, una poate mai importantă, este dacă omenirea are într-adevăr resursele necesare pentru a folosi această tehnologie spre construirea unei lumi mai echitabile, mai sănătoase și mai prospere, așa cum promit nume mari din sectorul tech ca Sam Altman, Bill Gates sau Larry Ellison?
Sper că ți-a plăcut ediția specială a rubricii Nerd Alert de weekendul acesta, după o pauză de două săptămâni. În caz că ești curios să arunci o privire și peste rubrica precedentă, o poți găsi aici:
INTERVIURILE HotNews.ro