Selecția naturală favorizează inteligența artificială (AI) în detrimentul inteligenței umane?

Sunt fericit că am trăit și ziua când criză climatică, „cod roșu pentru umanitate”, Armaghedon climatic, extincție climatică și alte invenții lingvistice asemănătoare au părăsit lista catastrofelor inexorabile generate de oameni. Ce s-a întâmplat?

Pe 30 mai 2023, Center for AI Safety a publicat o declarație intenționat generală, dar menită să provoace :

Atenuarea riscului de extincție din cauza inteligenței artificiale ar trebui să fie o prioritate globală, alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear.

Wow! Chiar așa? Prin urmare, prioritățile globale ale omenirii nu mai includ, pentru prima dată, schimbarea climei provocate de oameni? Dar IPCC?! Dar Greta?! Ce vor mai face de-acum încolo?!

Este o declarație care merită atenție, doar dacă citim doar numele celor peste 350 semnatari: fondatori și colaboratori ai OpenAI, Google Deepmind, Anthropic și alte laboratoare de inteligență artificială, miliardarul Bill Gates, vizionarul Ray Kurzweil, Martin Rees, astrofizician și co-fondator al Centrului pentru studiul riscului existențial de la Universitatea din Cambridge, activistul climatic Bill McKibben, cercetători, profesori universitari ș.a. Geoffrey Hinton și Yoshua Bengio, doi dintre cei trei cercetători care au câștigat un premiu Turing pentru munca lor de pionierat în domeniul rețelelor neuronale și care sunt adesea considerați „nașii” mișcării moderne de inteligență artificială, au semnat declarația.

Obținerea adeziunilor a fost asigurată de Dan Hendrycks, directorul lui Center for AI Safety și autorul unei serii de lucrări relevante, inclusiv a celei intitulate Natural Selection Favors AIs over Humans, de la care am împrumutat titlul contribuției mele (cu o modificare pe care o voi explica într-un articol viitor).

Ca și fracturarea hidraulică – inventată în 1947, dar intrată în atenția populară de-abia în 2010, prin fake documentarul Gasland, inteligența artificială AI poate fi urmărită din 1935, o dată cu mașina propusă de Alan Turing și testul care-i poartă numele. Dezvoltarea și progresul AI au avut loc în salturi mai mici sau mai mari de-a lungul ultimelor nouă decenii, dar opinia publică și blogosfera s-au activat serios abia după apariția lui ChatGPT (noiembrie 2022) și, mai ales, a variantei îmbunătățite GPT4, introduse după doar patru luni (martie 2023).

Dacă ChatGPT putea procesa doar text, noua versiune GPT4 a demonstrat un progres uluitor: crearea unui website complet funcțional plecând doar de la o schiță pe o bucată de hârtie, ceea ce a evidențiat capacitatea multimodală a AI de a procesa imagini, video, audio și text și de a scrie cod. Nu voi repeta aici aceleași lucruri pe care (probabil) le-ați citit/văzut la știri și pe rețelele de socializare. Aș dori doar să atrag atenția că, după 40 ani de la formularea ei de către matematicianul și scriitorul Vernor Vinge, intrăm într-o perioadă ale cărei prime semne deja s-au arătat – singularitatea tehnologică:

O singularitate tehnologică este un eveniment ipotetic care are loc atunci când inteligența artificială depășește inteligența umană, ceea ce duce la o accelerare exponențială a progresului tehnologic, având ca rezultat final o transformare fără precedent și imprevizibilă a civilizației umane și a civilizației mașinilor.

Mai mult, Vinge a scris că acest eveniment va duce la o accelerare exponențială a progresului tehnologic și la o transformare fără precedent și imprevizibilă a civilizației umane. Deoarece noua superinteligență va continua să se perfecționeze și va avansa tehnologic într-un ritm de neînțeles astăzi, în final, se va ajunge la sfârșitul erei umane. După care a adăugat că ar fi surprins dacă evenimentul ar avea loc înainte de 2005 sau după 2030. Suntem în anul de grație 2023.

Numele superinteligenței propuse de Vinge este astăzi AGI – Artificial General Intelligence – și una dintre definițiile propuse pleacă de la faptul că inteligența umană este limitată (nu doar de „meduzele” descrise în motto!), în timp ce inteligența mașinilor are potențialul de a depăși capacitățile umane în orice domeniu. Astfel, AGI este teoretic capabilă să îndeplinească orice sarcină cognitivă pe care o poate îndeplini un om: înțelegerea limbajului natural, raționamentul, învățarea, rezolvarea de probleme și luarea de decizii. O entitate AGI ar trece probabil testul Turing. Cei care ați vizionat filmul Ex Machina (2014) aveți o exemplificare a calităților umane ale unei inteligențe artificiale umanoide foarte avansate. Nu suntem încă acolo cu GPT4, dar, în mod ciudat, apar tot mai multe comportamente și capacități care ar putea sugera că suntem destul de aproape.

În eseul său, publicat pe 6 mai 2023, Dan Hendrycks avansează o ipoteză îndrăzneață despre modul în care inteligența artificială va depăși pe cea umană. Selecția naturală ar putea da naștere unui „comportament egoist” în cadrul AI, deoarece aceasta se străduiește să supraviețuiască (vezi teoria despre „gena egoistă”, Richard Dawkins, 1976). Mai grav, se susține ideea că selecția naturală creează stimulente pentru ca agenții AI să acționeze împotriva intereselor umane:

Presiunile concurențiale dintre corporații și forțele militare vor da naștere unor agenți de inteligență artificială care vor automatiza rolurile umane, îi vor înșela pe alții și vor câștiga putere. Dacă astfel de agenți au o inteligență care o depășește pe cea a oamenilor, acest lucru ar putea duce la pierderea controlului asupra viitorului umanității.

Selecția naturală acționează asupra sistemelor care concurează și variază, iar speciile egoiste au de obicei un avantaj față de speciile altruiste. Această logică darwiniană s-ar putea aplica și agenților artificiali, deoarece, în final, acești agenți ar putea fi mai capabili să persiste mai bine în viitor dacă se comportă în mod egoist și își urmăresc propriile interese fără să țină cont de oameni, ceea ce ar putea prezenta riscuri catastrofale.

În prezent, aceste predicții pot fi respinse pentru că nu știm încă modul în care modificările generate de selecția naturală vor fi implementate. Probabil, noile AI-uri vor fi doar niște versiuni îmbunătățite ale chatbot-urilor curente sau programelor care pot bate oamenii oricând și la orice nivel în jocurile de șah sau Go (vezi Inteligența artificială ca o Lebădă Neagră și impactul asupra viitorului, 2017).

Totodată, se pot asambla împreună printr-o varietate de metode ML (machine learning) sau, de ce nu, pot crea o nouă paradigmă existențială. Oamenii, prin combinarea abilităților lor cognitive, pot crea inteligențe colective (cum ar fi limbajul, cultura, internetul) prin care au devenit specia dominantă a planetei. Aceste inteligențe colective au un IQ mai mare decât cel al unui singur individ. Dar și AI-urile pot forma inteligențe colective, cu un IQ superior. Două aspecte trebuie menționate aici. A) „Creierul” computerului este mai rapid decât mințile umane și devine tot mai rapid. Microprocesoarele operează de cel puțin un milion de ori mai rapid decât neuronii umani. Adică, ceea ce AI-urile pot „gândi” într-o secundă, oamenii ar avea nevoie de cel puțin 11 zile. B) Relativ la ansamblurile formatoare de inteligențe colective, oamenii au dificultăți în a activa în grupuri largi și pot fi îndoctrinați și manipulați de gândirea de grup ori alte forme de idioțenie colectivă.[[1]] În plus, după cum am prezentat în articolul Paradoxul sapiențial, capcana bârfelor și unele schimbări climatice, organizarea și funcționarea creierelor noastre nu permit menținerea de relații sociale stabile cu mai mult de 150 persoane (așa-numitul număr Dunbar). Ori AI-urile pot acționa simultan în grupuri de mii sau chiar milioane de entități, așa cum procedează computerele noastre conectate la internet. Acest mod de asamblare creează premise importante pentru formele de auto-organizare a AI-urilor, ajutându-le să depășească inteligențele colective umane.

Dacă luăm în considerate incertitudinile și elementele necunoscute (încă) ale asamblărilor de AI, vom putea totuși să facem predicții rezonabile despre viitorul AI-urilor?

Răspunsul este DA. Hendrycks argumentează astfel:

În trecut, oamenii au reușit să facă predicții cu succes despre eclipsele de lună și mișcările planetare fără o înțelegere deplină a gravitației. Ei au proiectat dinamica reacțiilor chimice, chiar și fără o teorie corectă a fizicii cuantice. Ei au formulat teoria evoluției cu mult înainte de a se ști despre ADN. În același mod, putem prezice dacă selecția naturală se va aplica într-o anumită situație, și să prezicem ce trăsături va favoriza selecția naturală.

Viitorul AI controlat/determinat de selecția naturală pleacă de la două postulate legate între ele în moduri variate și depinzând de condițiile de implementare (Fig. 1):

• Selecția naturală poate fi o forță dominantă în dezvoltarea AI. Concurența și lupta pentru putere poate atenua efectele măsurilor de siguranță, lăsând forțele „naturale” să selecteze agenții AI supraviețuitori.

• Evoluția prin selecție naturală tinde să dea naștere unui comportament egoist. Deși există exemple de comportament cooperant în unele cazuri (furnicile, albinele), dezvoltarea AI va fi egoistă, nu altruistă, ceea ce ar eroda controlul uman.

Presiunea evoluționistă conduce adeseori la comportamente egoiste printre organisme: manipulare, violență sau decepționare. Un exemplu bine-cunoscut din ultima categorie este al cucului femelă care-și depune ouăle în cuibul altei păsări, ce este păcălită crezând că sunt ouăle ei.

După circa 4 miliarde de ani în care Pământul a cunoscut numai forme de viață organice, am putea asista la apariția primelor forme de viață non-organice sau cel puțin la apariția agenților non-organici AI. Nu este un secret că oamenii s-au temut de AI încă de la începutul erei computerelor și diverse medii culturale (filme, romane) au capitalizat această teamă. Filme SF precum 2001: A Space Odyssey, Terminator, Minority Report, Wall-E sau Matrix sunt doar câteva exemple .-Citeste intregul articol si comenteaza pe Contributors.ro