„Pericol pentru umanitate”: Angajații OpenAI și-au avertizat șefii că au obținut un salt tehnologic major în domeniul inteligenței artificiale / Ce știm despre proiectul secret Q*

Înainte ca Sam Altman să fie, timp de patru zile, înlăturat de la șefia OpenAI, câțiva cercetători din companie au trimis board-ului de conducere o scrisoare despre o descoperire capitală în AI care ar putea fi un „pericol pentru umanitate”, scrie Reuters, citând două surse apropiate discuțiilor. Proiectul se numește Q*.

Este vorba despre o descoperire în cadrul unui proiect derulat de OpenAI și numit Q*, pronunțat Q-Star. Această descoperire este, se pare, importantă în țelul OpenAI de a dezvolta o super-inteligență, ceea ce în termeni de specialitate se numește artificial general intelligence (AGI).

Sam Altman și „telenovela” de la OpenAI. Cine pierde, cine câștigă?

Știm că acest nou model a putut rezolva probleme complexe de matematică pe care modele anterioare – și foarte sofisticate – dezvoltate de OpenAI nu le-a putut rezolva, scrie Reuters. Cercetătorii care lucrau la Q*’ erau foarte optimiști, pornind de la descoperirile făcute, dar și fiindcă OpenAI are resurse mari de computing, dat fiind că a primit multe fonduri. Nu știm exact care este partea cu „pericolul pentru umanitate”, fiindcă nu se cunosc multe detalii despre proiect.

De ce sistemele de inteligență artificială se perfecționează așa de rapid și de ce creatorii acestor sisteme se tem de cum va fi folosită tehnologia pe viitor

Sam Altman declarase că OpenAI vrea să ajungă să dezvolte o „superinteligență”. AGI (Inteligenta Artificială Generală), care se referă la un nivel de dezvoltare în domeniul inteligenței artificiale în care un sistem este capabil să desfășoare orice sarcină intelectuală pe care o poate realiza un om.

Sam Altman a condus „cu mână de fier” eforturile de a face din ChatGPT una dintre aplicațiile software cu cea mai rapidă creștere din istorie și a atras investițiile – și resursele de calcul – necesare pentru a se apropia de țelul suprem: AGI.

Pe lângă faptul că a anunțat o mulțime de instrumente și funcționalități noi într-o demonstrație din noiembrie, Sam Altman a lăsat de înțeles că ne apropiem de progrese extrem de importante.

„De patru ori în istoria OpenAI – iar cel mai recent moment a fost chiar în ultimele săptămâni – s-a întâmplat să mă aflu în cameră exact când împingem înapoi într-un fel vălul ignoranței și frontiera descoperirii merge înainte. Un astfel de moment este onoarea profesională a vieții”, spunea Altman la summitul Cooperării Economice Asia-Pacific.

Altman spunea că își dedică timpul pentru două categorii: „cercetări despre cum să construiască o superinteligență” și modul de a aduna suficient de multă putere de computing în acest scop. „Viziunea noastră este de a construi o AGI, de a vedea cum o putem face să fie sigură și să ne dăm seama care sunt beneficiile”, spunea el, pentru Financial Times, pe 12 noiembrie.

Șeful companiei care a dezvoltat ChatGPT vrea să atragă mai mulți bani de la Microsoft, pentru a construi o „superinteligență”

AGI (Inteligenta Artificială Generală) se referă la un nivel de dezvoltare în domeniul inteligenței artificiale în care un sistem este capabil să desfășoare orice sarcină intelectuală pe care o poate realiza un om. În timp ce majoritatea sistemelor de inteligență artificială dezvoltate până în prezent sunt specializate în anumite sarcini sau domenii (de exemplu, recunoașterea vocală, procesarea limbajului natural, jocurile de strategie), AGI ar trebui să fie capabil să abordeze o gamă largă de sarcini, să învețe din experiență și să se adapteze la noi contexte într-un mod similar cu o minte umană.

Este important de menționat că, în momentul actual, majoritatea sistemelor de inteligență artificială sunt încă departe de a atinge nivelul AGI. Acestea sunt adesea cunoscute sub numele de IA limitată sau AI specializată, deoarece sunt proiectate să abordeze sarcini specifice și nu sunt capabile să efectueze activități diverse și generalizate într-un mod similar cu o minte umană.

Cum a crescut OpenAI, compania care a creat ChatGPT

OpenAI a fost înființată în 2015 și ideea era să fie o companie non-profit de cercetare, un „laborator”, care să încerce să creeze ceea ce se numește „superinteligență” sau AGI (Inteligenta Artificială Generală).

Când a fost creată acum opt ani, compania NU își propunea să aibă mega-succes comercial. Oamenii care au crezut în misiunea companiei spuneau că NU vor ca OpenAI să devină un gigant tech în genul Google sau Amazon. Asta deja spune multe despre cât de diferită este OpenAI, fiindcă 99,9% dintre companii sunt gândite să genereze profit cât mai mare.

Compania și-a schimbat viziunea și a privit spre profit(și) datorită lui Sam Altman, care a atras în 2018 o investiție de un miliard de dolari de la Microsoft. Cu astfel de investiții s-au putut angaja cei mai buni ingineri de AI și a putut fi creat ChatGPT. Tot cu ajutorul acestor fonduri au fost aduși în 2021 și 2022 ingineri extrem de buni, unii dintre ei convinși să părăsească Google, unde (deja) erau plătiți „regește”.

La puțin timp după lansarea ChatGPT, OpenAI a ajuns să valoreze 29 miliarde dolari, iar în ultima lună se vorbea despre o evaluare de peste 80 miliarde dolari, mai ales că se lucrează la noi versiuni de ChatGPT.

OpenAI era o companie mică ce a devenit numărul 1 mondial în dezvoltarea de produse de AI și Altman a devenit o celebritate invitată să vorbească la cele mai mari conferințe de tehnologie.