Un cercetător avertizează că OpenAI va deveni cea mai „orwelliană” companie din toate timpurile: „Masca a căzut cu adevărat”

OpenAI, compania care a creat popularul „chatbot” ChatGPT, este creditată cu declanșarea entuziasmului uriaș față de tehnologia inteligenței artificiale. Însă tot mai multe voci pun sub semnul îndoielii bunele sale intenții și un cercetător afirmă chiar că ea este pe cale să devină cea mai „orwelliană” companie din istorie, relatează futurism.com.

Luna aceasta OpenAI a strâns 6,6 miliarde de dolari într-o nouă rundă de finanțare de la investitori, ajungând la o evaluare de 157 de miliarde de dolari. Pentru o companie care nu este listată pe bursă este o capitalizare uriașă, apropiată de cele ale unor companii uriașe ca Disney (169 de miliarde), Raytheon (164 de miliarde), Comcast (160 de miliarde), Goldman Sachs (159 de miliarde) sau Siemens (158 de miliarde).

Însă fundația din spatele OpenAI afirmă în continuare că este una non-profit și că efectuează cercetări în beneficiul umanității. Însuși Sam Altman a publicat recent un manifest despre viitorul A.I. și al umanității, promițând că inteligența artificială ne va ajuta să rezolvăm cele mai stringente probleme cu care omenirea și planeta se confruntă în prezent.

Altman, care a devenit miliardar în cursul acestui an, spune că în viitor oamenii vor putea ajunge „la o prosperitate comună care pare de neimaginat astăzi” și că „în viitor, viețile tuturor pot fi mai bune decât este viața oricui acum“.

În același timp, tot mai multe persoane sunt sceptice față de intențiile OpenAI în condițiile în care ea a fost recent în centrul mai multor controverse, de la ignorarea impactului cercetărilor A.I. asupra mediului din cauza consumului uriaș de energie, la practicile sale privind dezvoltarea în condiții de siguranță a modelelor de inteligență artificială.

Iar în condițiile în care OpenAI se confruntă acum cu o concurență tot mai puternică pe piață, unii sunt îngrijorați că ea ar putea recurge inclusiv la soluții cu potențial nociv pentru a continua să genereze venituri.

Cercetătorul spune că se gândește la OpenAI în termenii cărții „1984”

Gary Marcus, un cercetător cunoscut pentru munca sa de avangardă, de la granița dintre științele cognitive, neuroștiințe și inteligența artificială, susține că viitorul OpenAI nu e ceva de așteptat cu entuziasm, ci că acesta va fi mai degrabă unul de natură să amintească de celebra carte „1984” a autorului britanic George Orwell.

„Presupunerea mea este că OpenAI va deveni cea mai orwelliană companie din toate timpurile”, a declarat Marcus zilele trecute, în timpul unei conferințe organizate la Universitatea Stanford pe tema inteligenței artificială și a repercusiunilor dezvoltării acesteia pentru societate.

„Ceea ce se va întâmpla cu ei (n.r. cei de la OpenAI) este că vor fi puși sub presiune să devină o companie de supraveghere”, a declarat acesta, citat de Business Insider. Marcus spune că explicația este una foarte simplă: OpenAI nu se poate aștepta la nesfârșit la finanțări din partea investitorilor și că va trebui să facă bani.

„OpenAI a vândut visul A.I. universal pentru toate scopurile, iar în 2023 practic fiecare companie mare a desfășurat studii pilot în baza acestei premise”, și-a detaliat el poziția în comentarii făcute ulterior pentru Business Insider.

„Dar în 2024, multe rapoarte din domeniu sunt despre dezamăgire: tehnologia nu este încă suficient de fiabilă pentru producție fiindcă este măcinată de probleme ca halucinațiile și erori tâmpite”, a adăugat el, subliniind că „prin urmare, multe afaceri încep să fie precaute” față de promisiunile A.I.

Șeful Oracle a vorbit despre un viitor al supravegherii în care toată lumea se va comporta „cât mai frumos”

Comentariile lui Gary Marcus pe acest subiect amintesc de unele făcute de anumiți analiști financiari, care consideră că bursa americană este într-o „bulă” cauzată tocmai de entuziasmul uriaș față de tehnologia A.I., unul care nu s-ar justifica, date fiind aplicațiile sale din prezent și potențialul de dezvoltare pentru viitorul apropiat.

În ceea ce privește potențialul ca A.I. să fie folosită pentru supravegherea în masă a cetățenilor, indicii în acest sens au fost oferite de Larry Ellison, miliardarul american care a fondat gigantul tech Oracle.

„Vom avea supraveghere”, a declarat el în timpul unei ședințe organizate în septembrie pentru a discuta cu investitorii Oracle despre ultimele rezultate financiare ale companiei. „Fiecare polițist va fi supravegheat permanent și, dacă va exista o problemă, A.I. va raporta acea problemă și o va raporta persoanei adecvate”, a declarat el, printre altele.

Însă, după cum subliniau la momentul respectiv atât Business Insider, cât și site-ul specializat pe tehnologie The Register, miliardarul american nu se așteaptă ca sistemele ce folosesc A.I. să fie folosite doar pentru tragerea la răspundere a polițiștilor sau urmărirea infractorilor.

„Cetățenii se vor comporta cât mai frumos cu putință deoarece noi înregistrăm și raportăm constant”, a spus el, deși nu a explicat cum își imaginează că vor fi făcute aceste înregistrări, cu camerele de umăr ale polițiștilor sau cu camere CCTV montate în spațiile publice.

Îngrijorări legate de viitorul companiei conduse de Sam Altman

Jurnaliștii de la futurism.com amintesc în schimb că supravegherea, într-o formă sau alta, reprezintă o sursă secundară de venituri pentru numeroase companii tech majore. Platformele social media, de exemplu, vând date legate de utilizatorii lor unor terțe părți.

Deși în majoritatea cazurilor este vorba de companii de publicitate interesate să creeze reclame cât mai țintite, unele sunt firme de supraveghere care apoi își vând serviciile unor agenții guvernamentale.

Unii au văzut un semn că OpenAI face un pas în această direcție în vara acestui an, când compania condusă de Altman l-a numit în Consiliul său de Administrație pe Paul Nakasone, un fost director al Agenției Naționale de Securitate a SUA.

Cercetătorul Gary Marcus susține că a sperat că OpenAI își va respecta obiectivul declarat privind cercetările în beneficiul umanității, dar că a devenit tot mai cinic față de modul în care e condusă de Sam Altman. El spune că acest lucru s-a întâmplat mai ales de când OpenAI a început să arate că nu mai e o organizație non-profit.

„În ultimele luni masca a căzut cu adevărat și eu mă îndoiesc serios că [Altman] se va întoarce vreodată la obiectivul declarat. Promisiunea făcută investitorilor că se va obține profit înseamnă practic că trenul acela a plecat”, a declarat el pentru BI.