În prima reacție de la demisia unui om-cheie din elita firmelor AI, care a dus la o dezbatere globală, șeful OpenAI, Sam Altman, a spus marți, la San Francisco, că înțelege de ce sunt oamenii îngrijorați.
- Dacă vă faceți în septembrie un abonament anual la HotNews Premium, un profesor primește gratuit un abonament pe 12 luni.
- Abonamentele dascălilor sunt distribuite prin două organizații de educație care investesc în profesori.
Marți, în timpul unei conferințe la San Francisco, Altman a remarcat că temerile oamenilor legate de inteligența artificială sunt justificate, deoarece capacitatea instrumentelor AI a progresat rapid.
„Nu este nevoie de multă imaginație ca să-ți imaginezi cum ar putea merge prost lucrurile”, a spus el. „Cred că lumea are dreptate să se teamă de asta.” Dar el a adăugat că firmele „mențin alinierea și siguranța cu mult înaintea capacităților” relatează siteul BBC. El a adăugat că firmele vor „încetini sau se vor opri”, dacă oamenii vor fi puși în pericol.
Primul său discurs de la pornirea disputei publice
A fost prima dată când Altman a vorbit public de când o postare a unui cercetător care a părăsit firma de inteligență artificială Anthropic a devenit virală săptămâna trecută. Cercetătorul a susținut că inteligența artificială ar putea ucide toți oamenii până la sfârșitul deceniului dacă nu este controlată.
O mână de alți directori și experți în domeniul inteligenței artificiale au răspuns spunând că sunt de acord cu evaluarea, deși nu au explicat cum au ajuns la concluziile lor sau cum anume ar putea IA să facă așa ceva.
Fervoarea legată de aceste afirmații a dus la o examinare mai atentă a dezvoltării inteligenței artificiale în ultimele zile, iar ca răspuns, directorul executiv al Anthropic, Dario Amodei, a cerut încetinirea ritmului întregii dezvoltări a inteligenței artificiale și a îndemnat guvernele să reglementeze industria.
Jurnalistul Dan Popa trimite în fiecare joi dimineață newsletterul „EconoMix”. Dacă te interesează finanțele personale și vrei să primești recomandări economice, te poți abona aici:
Postarea executivului demisionar a fost aprobată de Altman, precum și de Demis Hassabis, cofondator al DeepMind de la Google, și de Elon Musk, proprietarul site-ului de socializare X și asistentul de inteligență artificială Grok.
Până marți, tot mai mulți lideri din domeniul inteligenței artificiale își exprimau sprijinul pentru autoreglementare, mai degrabă decât pentru implicarea guvernului.
Altman a spus că simte că firmele de inteligență artificială sunt capabile să se auto-reglementeze.
„Vom face lucrurile bine, am mare încredere în capacitatea companiei noastre și a industriei de a face acest lucru în siguranță”, a spus Altman, adăugând că este sigur că vor „menține alinierea și siguranța cu mult înaintea capacităților” și, dacă nu vor putea, vor „încetini sau se vor opri”.
OpenAI este lider în industria inteligenței artificiale
După comentariile lui Altman, șeful Meta, Mark Zuckerberg, a scris pe X că fiecare laborator de inteligență artificială are capacitatea și stimulentul „să ia propriile măsuri” pentru a crea instrumente și modele de inteligență artificială concepute pentru siguranță.
„Orice laborator care nu se concentrează pe aliniere va rămâne în urmă”, a scris Zuckerberg. „Laboratoarele se confruntă cu o răspundere semnificativă dacă modelele lor provoacă daune, așa că au un stimulent puternic să prevină și acest lucru.”
Jensen Huang, șeful Nvidia, a declarat, de asemenea, la aceeași conferință de marți, că firmele de inteligență artificială ar trebui să decidă dacă noile versiuni ale tehnologiei ar trebui lansate și nu ar trebui gestionate de forțe externe.
„Nu avem nevoie de legi sau reglementări noi”, a spus Huang, adăugând că nu ar trebui să existe o „alegere falsă” între viteza inovației și siguranța produselor de inteligență artificială.
Nvidia este cea mai mare companie din lume ca evaluare, profiturile sale crescând vertiginos ca urmare a cererii mari pentru cipurile de calcul cu inteligență artificială pe care le produce.
„Siguranța este primordială. Cu toate acestea, siguranța este o problemă de inginerie”, a spus Huang.
El a adăugat că, dacă un lider al unei companii de inteligență artificială nu are încredere în produsul său, ar trebui să aleagă să nu îl lanseze.
„E un lucru foarte evident”, a spus Huang. „Fugi cât de repede poți, dar dacă simți în orice moment că instituția nu deține controlul, ia o pauză.”
Unele personalități din industrie au susținut că temerile reapariției inteligenței artificiale au fost exagerate și exploatate pentru a genera entuziasm pentru industrie.
În timpul conferinței, Altman s-a adresat unei mulțimi de sute de oameni de afaceri, spunându-le că ar trebui să utilizeze instrumente de inteligență artificială pentru a-și ajuta în muncă, dar că au nevoie și de ele pentru a-și proteja afacerile de potențiale atacuri cibernetice bazate pe inteligență artificială.
Ideea ca directorii din domeniul inteligenței artificiale să fie lăsați să se autoreglementeze în întregime a fost considerată o idee proastă pentru unii din industrie.
Jack Clark, director executiv și cofondator al Anthropic, a declarat luni pentru BBC că a lăsa inteligența artificială într-o „industrie total nereglementată” înseamnă a „juca zaruri”.
Patrick Hillman, directorul operațional al Logical Intelligence, organizație prezidată de Yann LeCun, un expert în industria inteligenței artificiale, a remarcat marți cât de puțină încredere au oamenii în companiile de tehnologie că lucrează în interesul public.
Liderii OpenAI și Anthropic au declarat că au început să lucreze la un fel de acord la nivelul întregii industrii privind siguranța.
Amodei, într-o intervenție la conferința de marți, a declarat că Anthropic este acum într-un „dialog cu restul industriei” despre angajamentul față de standarde de siguranță mai bune și verificări ale instrumentelor și dezvoltării de inteligență artificială.
El a mai spus că una dintre cele mai mari surprize ale boom-ului inteligenței artificiale nu a fost modul în care tehnologia în sine a avansat, ci impactul său.
.
