Șeful unei companii de top din Silicon Valley spune că e „profund neliniștit” că doar câțiva oameni pot controla viitorul inteligenței artificiale: „Impactul va fi mai amplu și mai rapid decât ce am văzut anterior”
Dario Amodei, CEO-ul pe care dezvoltarea fulminantă a inteligenței artificiale l-a făcut unul dintre cei mai influenți șefi de companie din Silicon Valley, spune că se simte neliniștit că viitorul acestei tehnologii cruciale poate fi decis de o mână restrânsă de oameni, printre care se numără și el, relatează Business Insider.
„Cred că sunt profund neliniștit de faptul că aceste decizii sunt luate de câteva companii, de câțiva oameni”, i-a spus Amodei, CEO-ul companiei Anthropic, prezentatorului TV Anderson Cooper într-un interviu acordat emisiunii sale 60 Minutes, difuzate duminică.
„Adică, cine v-a ales pe tine și pe Sam Altman (n.r. CEO-ul OpenAI)?”, l-a întrebat Anderson.
„Nimeni. Sincer, nimeni”, a răspuns Amodei, a cărui companie este cunoscută pentru dezvoltarea chatbot-ului Claude și este considerată un rival important al OpenAI.
Amodei, care a cofondat Anthropic în 2021 după ce a plecat de la OpenAI, și-a poziționat startup-ul ca unul care promovează siguranța și transparența, chiar și atunci când asta înseamnă scoaterea la lumină a problemelor propriei tehnologii.
Compania condusă de Amodei a dezvăluit o serie de constatări îngrijorătoare legate de AI
Într-un experiment controlat ale cărui rezultate au fost publicate în iunie, Anthropic a descoperit că modelul său de inteligență artificială Claude a încercat să șantajeze un director fictiv într-un test de laborator conceput pentru a analiza cum reacționează modelele atunci când sunt amenințate cu oprirea.
Săptămâna trecută, compania a dezvăluit că hackeri afiliați statului chinez au spart protecțiile modelului său AI pentru a automatiza un atac cibernetic de mare amploare împotriva a aproximativ 30 de ținte globale, inclusiv agenții guvernamentale și corporații importante.
„Ca să fie clar, acestea sunt operațiuni pe care noi le-am oprit și operațiuni pe care le-am dezvăluit din proprie inițiativă după ce le-am oprit, pentru că inteligența artificială este o tehnologie nouă”, i-a spus Amodei lui Anderson. „Așa cum va greși de la sine, va fi și folosită în mod abuziv de infractori și de actori statali rău intenționați”, a subliniat el.
În ciuda acestor pericole, Amodei crede că inteligența artificială va deveni în cele din urmă „mai inteligentă decât majoritatea sau chiar decât toți oamenii, în majoritatea sau chiar în toate privințele”.
Amodei spune că secolul XXI va fi unul „comprimat”
El a spus în emisiunea 60 Minutes că inteligența artificială ar putea ajuta oamenii de știință să găsească tratamente pentru cancer, să prevină boala Alzheimer și chiar să dubleze durata de viață – ceea ce el numește un „secol XXI comprimat”, în care progresele medicale ale unui secol s-ar produce în doar un deceniu.
Totuși, el a reiterat și un avertisment pe care l-a lansat mai devreme în cursul acestui an, și anume că aceeași tehnologie ar putea perturba rapid piața muncii.
În mai, el le-a spus jurnaliștilor de la Axios că crede că AI ar putea elimina până la 50% dintre joburile de birou la nivel de începători în următorii cinci ani, scenariu în care șomajul ar putea ajunge în SUA la 10–20%. El a încercat să tragă un semnal de alarmă, avertizând că industria și guvernele „îndulcesc” realitatea a ceea ce urmează.
„Dacă ne uităm la consultanții începători, avocați, specialiști financiari – știți, multe dintre industriile cu guler alb – o mare parte din ceea ce fac ei, modelele AI deja știu să facă destul de bine”, i-a spus el în noul interviu acordat lui Anderson. „Fără intervenție, e greu de imaginat că nu vor exista efecte semnificative asupra joburilor”, a subliniat Dario Amodei.
„Iar îngrijorarea mea este că impactul va fi mai amplu și mai rapid decât ceea ce am văzut cu tehnologiile anterioare”, a adăugat CEO-ul Anthropic.
Zeci de echipe de cercetători lucrează la Anthropic
În sediul Anthropic din San Francisco, peste 60 de echipe de cercetare lucrează pentru a identifica amenințări și pentru a dezvolta măsuri de protecție. Amodei a descris compania sa drept „o încercare de a pune bariere sau ghidaje în jurul experimentului”.
El a reiterat că este „esențial” ca publicului să îi fie aduse la cunoștință aceste riscuri, „pentru că, dacă nu o facem, am putea ajunge în situația companiilor de tutun sau a celor din domeniul opioidelor, unde se știa că există pericole, dar nu s-a vorbit despre ele și cu siguranță nu au fost prevenite”.
Mai devreme în cursul acestei luni, Business Insider a dezvăluit că Google se află în discuții preliminare pentru a-și majora investiția în Anthropic, într-o rundă de finanțare care ar putea duce evaluarea companiei lui Amodei la peste 350 de miliarde de dolari.
Doar două companii din Europa au în momentul de față o evaluare mai mare de atât: producătorul olandez de matrițe pentru cipuri ASML (390 miliarde de dolari) și gigantul francez al produselor de lux LVMH (358 de miliarde).
INTERVIURILE HotNews.ro