„Dacă ne grăbim cu dezvoltarea AI, distrugem omenirea” – Ce este „effective altruism”, mișcarea ce a avut un rol important în scandalul de la OpenAI

​Sunt tot mai mulți oameni care cred că omenirea ar putea fi distrusă de tehnologii AI pe care tot noi, oamenii, le creăm. În multe companii care dezvoltă soft-uri de AI generativ există un conflict între cei care spun că ar trebui să avansăm cu grijă și cei care spun că trebuie să lansăm cât mai repede ce avem mai bun. Ce este „altruismul eficient”? De ce cred așa de mulți oameni în această idee?

Mișcarea numită „effective altruism” (Altruisme efficace, în franceză) a apărut în filozofie, dar după 2014 s-a răspândit în domeniul Inteligenței Artificiale.

• „Pericol pentru umanitate”: Angajații OpenAI și-au avertizat șefii că au obținut un salt tehnologic major în domeniul inteligenței artificiale / Ce știm despre proiectul secret Q*

Pe scurt, susținătorii acestei mișcări consideră că rațiunea și datele pot fi folosite ca să faci cât mai mult bine posibil. Ei au avertizat în ultimii ani că sistemele de AI devin mult prea puternice, pot scăpa de sub control și pot să pună umanitatea în fața unui risc existențial. Numărul celor care cred în această idee a explodat după succesul ChatGPT.

Susținătorii mișcării „effective altruism” spun că pot construi sisteme de AI mult mai sigure, fiindcă sunt dispuși să investească în ceea ce ei numesc „alignement”, ceea ce înseamnă că angajații pot controla 100% tehnologia pe care o dezvoltă și sunt 100% siguri că aceste tehnologii se aliniază cu un set de valori umane.

Oamenii care își exprimau fricile cum că AI-ul ne va „șterge” de pe fața Pământului sunt numiți „doomers” și erau foarte puțini, dar în ultimii ani au marșat către „mainstream”, sunt tot mai muți, au inițiat strângeri de semnături și au solicitat autorităților să ia măsuri și să pună reguli clare în dezvoltarea AI.

În „telenovela” de la OpenAI, mișcarea „effective altruism” a jucat un rol important: doi dintre membrii board-ului care l-au demis pe Sam Altman aveau legături cu grupări de „altruiști”, iar Ilya Sutskever, care ocupa funcția de „chief scientist” la OpenAI, susține ideile mișcării și inițial s-a arătat a fi opozantul nr 1 al lui Altman.

Mai mult, OpenAI, compania care în 2022 a lansat ChatGPT, a fost creată în 2015 pe baza ideilor altruismului efectiv și nu credea nimeni că OpenAI va ajunge să fie evaluată la 80 miliarde dolari. Nimeni nu ar fi bănuit atunci că OpenAI va crea și lansa unul dintre cele mai populare soft-uri.

Unul dintre cei mai mari susținători ai mișcării este „mogulul” criptomonedelor, căzut în dizgrație, Sam Bankman-Fried (a fost condamnat pentru fraudă).

Ce este „altruismul eficace”

Mișcarea effective altruism abordează pericolele asociate cu dezvoltarea inteligenței artificiale (IA). Perspectiva „effective altruism” propune o abordare rațională a gestionării riscurilor potențiale.

Mișcarea consideră că dezvoltarea IA cu capacitatea de a depăși inteligența umană ar putea prezenta riscuri existențiale. Astfel, mișcarea încurajează ideea ca cercetarea și dezvoltarea AI să fie însoțite de o atenție specială acordată siguranței și eticii.

Este încurajată dezvoltarea tehnologiilor care să asigure controlul și transparența AI, prevenind posibile consecințe negative nedorite.

Mișcarea promovează și colaborarea internațională pentru a aborda riscurile asociate AI. Se propun lucruri precum: stabilirea standardelor etice, reglementări adecvate și schimbul de informații între țări și organizații.