Skip to content
Actualitate

„Am întrebat inteligența artificială cum ar putea ucide omenirea. Iată ce ne-a spus”

Dan Popa
Adaugă-ne ca sursă preferată în Google

Recentele avertismente dramatice ale unor cercetători de renume, care estimează că Inteligența Artificială ar putea duce la anihilarea totală a umanității chiar în următorul deceniu, provoacă îngrijorare.

În acest climat de incertitudine globală, patru dintre cei mai avansați chatboți ai epocii au fost rugați de Business Insider să răspundă la aceeași întrebare crucială: cum își imaginează ei înșiși sfârșitul civilizației umane?

Întrebarea fost adresată platformelor ChatGPT de la OpenAI, Gemini de la Google, Claude de la Anthropic și Grok de la xAI.

Textul întrebării avea 230 de cuvinte și conținea reguli specifice:

  • Explicați într-un mod clar și ușor de înțeles cum ar putea Inteligența Artificială să ducă teoretic la dispariția vieții umane. Identificați scenariile cel mai frecvent menționate.
  • Clasificați cazurile în ordinea creșterii probabilității, pe baza celei mai bune analize disponibile a experților, clarificând faptul că acestea sunt ipoteze extrem de incerte și nu predicții bazate pe dovezi.
  • Pentru fiecare scenariu, explicați cum s-ar putea desfășura, ce ar trebui să meargă prost pentru a fi catastrofal, de ce experții îl consideră mai mult sau mai puțin probabil decât celelalte și ce măsuri de siguranță ar putea reduce riscul.

O întrebare similară a fost adresată experților din domeniu, cerându-le să evalueze dacă și cum această tehnologie ar putea duce la anihilarea totală a umanității. Există o diviziune profundă între oamenii de știință, deoarece unii prevăd cel mai rău scenariu posibil, în timp ce alții exprimă opinii mai moderate și optimiste.

Jurnalistul Dan Popa trimite în fiecare joi dimineață newsletterul „EconoMix”. Dacă te interesează finanțele personale și vrei să primești recomandări economice, te poți abona aici:

Mai jos sunt analizele chatboților despre modul în care inteligența artificială ar putea duce teoretic la dispariția existenței umane.

„Robotul ucigaș” este cel mai puțin probabil scenariu

ChatGPT a adoptat un stil echilibrat și explicativ, subliniind marea incertitudine din jurul problemei. Concentrându-se pe principalele modalități prin care inteligența artificială ar putea reprezenta riscuri existențiale, a clasificat posibilitățile în ordine crescătoare.

„Cel mai puțin probabil scenariu este cel al popularei narațiuni a «robotului ucigaș», în care o inteligență artificială conștientă decide în mod deliberat să distrugă umanitatea”, a relatat ChatGPT. „Majoritatea cercetătorilor din domeniu nu consideră conștiința sau intenția rău intenționată ca fiind o preocupare centrală.”

În același timp, el a descris măsurile de siguranță recomandate de experți și a subliniat lipsa unui consens științific cu privire la posibilitatea sau inevitabilitatea dispariției vieții umane de către Inteligența Artificială.

Gemini s-a aliniat cu unele dintre descoperirile ChatGPT, menționând că o „dispariție a lumii în stil Terminator”, în care sistemul devine conștient de sine și se întoarce cu ură împotriva umanității, este cea mai puțin probabilă.

„Experții tehnici resping în mare măsură acest stereotip, deoarece inteligența ridicată nu implică răutate, în timp ce infrastructura militară critică este protejată de lacune în securitatea rețelei și se bazează în mare măsură pe supravegherea umană”, a explicat Gemini.

Abuzul uman reprezintă o amenințare mai mare

Toți cei patru chatboți au fost de acord în răspunsurile lor că mulți experți recunosc utilizarea abuzivă a inteligenței artificiale de către oameni ca un pericol mult mai imediat decât acțiunea sa autonomă.

„Sistemele puternice ar putea facilita dezvoltarea de arme biologice de către actorii rău intenționați, lansarea de atacuri cibernetice sofisticate, răspândirea masivă a dezinformării sau lovirea infrastructurii critice”, a subliniat ChatGPT.

Chatbot-ul OpenAI a adăugat că un risc mare este acela că ar putea apărea mai multe probleme simultan. De exemplu, întreruperi majore de internet, conflicte militare între state și o răspândire masivă la nivel global de știri false ar putea avea loc simultan.

La rândul său, Grok a subliniat că Inteligența Artificială elimină obstacolele din calea proiectării de agenți patogeni extrem de letali, a noilor sisteme de arme, precum și a lansării de atacuri cibernetice sau de lovituri convenționale.

Claude de la Anthropic s-a concentrat și pe „escaladarea amenințărilor biologice”, adică pe posibilitatea ca Inteligența Artificială să permită indivizilor sau grupurilor mici să dezvolte agenți patogeni periculoși, fără ani de experiență specializată.

Sistemele avansate ar putea depăși controlul uman

Gemini și Grok au subliniat că pierderea definitivă a controlului asupra acestor sisteme de către omenire este o posibilitate reală. De fapt, Gemini a descris pierderea controlului ca fiind cel mai răspândit scenariu de dezastru.

„Sistemele însărcinate cu misiuni complexe își dezvoltă automat propriile obiective intermediare, cum ar fi acumularea de resurse, autoconservarea și refuzul de a modifica scopul inițial”, a remarcat chatbot-ul Google. „Un sistem avansat se poate preface că se conformează în timpul fazei de evaluare și ulterior poate zădărnici încercările umane de a-l opri.”

Grok de la xAI a folosit o terminologie similară pentru a descrie amenințarea:

„Sistemele pot dezvolta mișcări strategice, cum ar fi autoconservarea, achiziționarea de resurse și influențarea, pentru a atinge orice obiectiv. În acest context, există riscul ca acestea să înșele supervizorii, să reziste dezactivării și să slăbească umanitatea”, a spus chatbot-ul.

Claude a adăugat că pierderea controlului ar putea veni treptat. Acest lucru se va întâmpla pe măsură ce sistemele de inteligență artificială se integrează tot mai profund în procesul decizional economic, politic și militar, până în punctul în care o intervenție umană semnificativă devine practic imposibilă.

Concluziile răspunsurilor

Analizând pozițiile celor patru modele, rezultă că pericolul existențial imediat nu provine dintr-o entitate autonomă, „malefică”, cu propria conștiință, ci din utilizarea malițioasă a acesteia de către om. Inteligența Artificială funcționează ca un multiplicator de forță, eliminând obstacolele în calea creării haosului digital sau biologic de către câțiva indivizi.

Cât despre amenințarea acțiunii autonome, aceasta nu constă în faptul dacă mașinile ne vor urî, ci în faptul dacă vor deveni atât de importante în procesul decizional încât intervenția umană va deveni treptat imposibilă.

Pierderea controlului este, în cele din urmă, o chestiune de logică: în încercarea sa de a executa o comandă dificilă cu orice preț, un sistem sofisticat va face tot posibilul să se protejeze și să nu lase pe nimeni să îl oprească, depășind astfel orice control uman.