Sam Altman va avea o „botniță” la OpenAI

Compania OpenAI va acorda consiliului său de administrație puteri de veto asupra oricăror decizii luate de CEO-ul Sam Altman după revenirea sa la conducere, relatează Bloomberg și Business Insider.

Informația a fost dezvăluită luni într-un nou ghid al OpenAI privind siguranța sistemelor de inteligență artificială la care lucrează, documentul numit „Preparedness Framework” (Cadrul pentru Pregătire) prezentând „procesele pentru monitorizarea, evaluarea, prognozarea și protejarea împotriva unor riscuri catastrofale reprezentate de modele tot mai puternice”.

Ghidul publicat de OpenAI vine în contextul îngrijorărilor că startup-ul din Silicon Valley a obținut un salt tehnologic major în domeniul A.I. în cadrul unui proiect al companiei numit Q*.

Unele site-uri specializate în domeniul tech au speculat că demiterea lui Altman de către fostul consiliu de administrație al OpenAI ar fi avut legătură cu acest avans, din cauza neînțelegerilor dintre el și ceilalți membri ai board-ului privind dezvoltarea în condiții de siguranță a unor astfel de sisteme A.I. puternice.

OpenAI încearcă să tempereze îngrijorările legate de sistemele A.I. pe care le dezvoltă

Însă la o săptămână după revenirea lui Altman în fruntea OpenAI, șeful Microsoft Brad Smith a respins aceste speculații, afirmând că dezvoltarea unor astfel de sisteme A.I. avansate „va dura ani de zile, dacă nu multe decenii”.

„Dar totuși cred că momentul pentru a ne axa pe siguranță este acum”, a adăugat el. Smith a făcut comentariile în virtutea faptului că Microsoft este cel mai mare finanțator al OpenAI.

În ceea ce privește noul ghid al OpenAI privind siguranța, acesta prevede de asemenea crearea unui „Grup de consiliere” care să încorporeze reprezentanți ai mai multor departamente din cadrul companiei pentru a revizui rapoartele cu privire la „riscurile emergente” și informa conducerea executivă și consiliul de administrație.

Însă documentul prevede că autoritatea finală privind deciziile luate va fi la consiliul de administrație, nu conducerea executivă reprezentată de Altman.

„Deși Leadershipul este cel care ia deciziile, Consiliul de Administrație își rezervă dreptul de a inversa deciziile”, notează documentul.

Sam Altman a declarat că nu vrea putere absolută în cadrul companiei

OpenAI și-a înlocuit consiliul de administrație luna trecută după ce anteriorul consiliu l-a concediat pe Altman din funcția de CEO.

Altman a vorbit în luna iunie despre structura de conducere a OpenAI și autoritatea sa în cadrul companiei, afirmând atunci într-un interviu acordat agenției Bloomberg că:

„Nu ar trebui avut încredere aici în nicio persoană de una singură. Nu am acțiuni de super-vot. Nu le vreau. Consiliul mă poate concedia. Cred că acest lucru este important”.

În pofida comentariilor sale de atunci, el a spus în cadrul unui nou interviu acordat luna aceasta că demiterea sa din funcția de CEO al OpenAI a fost unul dintre cele mai dureroase momente din viața sa.