„Lumea este în pericol” – Avertismentul unui director care a părăsit o mare companie din domeniul inteligenței artificiale

Un cercetător în domeniul inteligenței artificiale de la Anthropic, companie faimoasă pentru chatbotul Claude, a scris o scrisoare în care își anunță plecarea, spune că a realizat tot ce și-a dorit, dar avertizează și că „lumea este în pericol” nu doar din cauza AI-ului sau a armelor biologice, ci din cauza unei serii de crize care sunt legate între ele și care ne afectează simultan.

Mrinank Sharma a condus echipe care se ocupau de domeniul siguranței tehnologiilor de AI la Anthropic, scrie Business Insider, iar într-o scrisoare în care își anunță plecarea, vorbește despre un context mondial complicat. Despre scrisoare a scris și publicația Forbes.

„Îmi este clar că a venit momentul să merg mai departe. Lumea este în pericol. Și nu doar din cauza AI-ului sau a armelor biologice, ci și din cauza unei întregi serii de crize interconectate care se desfășoară chiar în acest moment. Pare că ne apropiem de un prag în care înțelepciunea noastră trebuie să crească în aceeași măsură cu capacitatea noastră de a influența lumea, fiindcă altfel vom suporta consecințele. Mai mult, pe parcursul timpului petrecut aici, am văzut în mod repetat cât de greu este să lăsăm cu adevărat valorile să ne guverneze acțiunile”.

„Am realizat aici tot ce mi-am propus”, a mai scris Sharma, oferind câteva proiecte exemple, cum ar fi dezvoltarea unor mecanisme de apărare pentru reducerea riscurilor de bioterorism asistat de AI, dar și un proiect pentru înțelegerea efectelor AI asupra umanității.

Compania este în discuții avansate pentru obținerea undei runde de finanțare de 20 miliarde dolari, care ar duce-o la valoarea de piață de 350 miliarde dolari.

Câțiva directori au anunțat în ultimul timp că vor părăsi Anthropic, unii au invocat și motive legate de etică, însă compania a anunțat și venirea unor oameni noi.

Sursa foto: Dreamstime.com