„Acesta va fi un job stresant”: Postul pentru care OpenAI oferă un salariu de peste jumătate de milion de dolari
„Acesta va fi un job stresant și vei intra direct în pâine aproape imediat”, a scris Sam Altman, CEO-ul OpenAI, într-un mesaj în care a anunțat pe rețelele de socializare că firma care a creat ChatGPT angajează un director pentru anticiparea și prevenirea riscurilor („head of preparadness”), relatează Gizmodo.
În schimbul a 555.000 de dolari pe an, persoana care va ocupa poziția ar urma să „extindă, consolideze și coordoneze” programul de pregătire deja existent în cadrul Departamentului pentru sisteme de siguranță al OpenAI.
Această divizie a companiei construiește mecanismele de protecție care, în teorie, fac ca modelele OpenAI să „se comporte conform intențiilor în contexte reale”.
Însă nu susține chiar OpenAI că modelele sale de inteligență artificială se comportă deja conform intențiilor dezvoltatorilor? Site-ul tech Gizmodo amintește că anul acesta ChatGPT a continuat să halucineze în documente juridice, a fost vizat de sute de plângeri depuse la autoritățile de reglementare din SUA, a fost acuzat inclusiv în instanțe de provocarea sau exacerbarea unor crize de sănătate mintală grave în rândul utilizatorilor și, aparent, transformarea unor imagini cu femei îmbrăcate în „deepfake”-uri cu ele în costum de baie.
Sora, modelul OpenAI de generare a imaginilor pe bază de instrucțiuni scrise, a trebuit să-și piardă capacitatea de a genera videoclipuri cu figuri precum Martin Luther King Jr., deoarece utilizatorii abuzau de această funcționalitate pentru a face personalități istorice respectate să spună practic orice.
OpenAI se confruntă cu tot mai multe probleme juridice
Atunci când cazuri legate de problemele produselor OpenAI ajung în instanță, există un argument juridic potrivit căruia utilizatorii ar fi abuzat de produsele companiei. În noiembrie, un document depus în instanță de avocații OpenAI a invocat încălcări ale regulilor ChatGPT drept cauză potențială a morții lui Adam Raine, un adolescent în vârstă de 16 ani care s-a sinucis după ce a cerut sfaturi chatbot-ului despre acest lucru.
Altman a admis în mesajul publicat sâmbătă pe „X” despre noul post de director pentru riscuri că modelele companiei pot afecta sănătatea mintală a oamenilor și pot descoperi vulnerabilități în sisteme de securitate.
„Intrăm într-o lume în care avem nevoie de o înțelegere și o măsurare mai nuanțate ale modului în care aceste capabilități pot fi abuzate și ale felului în care putem limita aceste efecte negative, atât în produsele noastre, cât și în lume, într-un mod care să ne permită tuturor să ne bucurăm de beneficiile uriașe”, a scris șeful OpenAI.
De ce va fi atât de dificil noul post scos la concurs de creatorul ChatGPT
Având în vedere aceste lucruri, compania condusă de Altman caută pe cineva care va trebui să meargă pe sârmă și să „facă strategia de pregătire a OpenAI de la un capăt la altul”, stabilind cum să evalueze modelele pentru capabilități nedorite și cum să proiecteze modalități de atenuare a riscurilor. Anunțul precizează că această persoană va trebui să „dezvolte cadrul de pregătire pe măsură ce apar noi riscuri, capabilități sau așteptări externe”.
„Asta nu poate însemna decât identificarea unor noi moduri potențiale prin care produsele OpenAI ar putea face rău oamenilor sau societății și elaborarea unui set de criterii care să permită existența acestor produse, demonstrând, probabil, că riscurile au fost suficient de diminuate încât OpenAI să nu fie trasă la răspundere juridică pentru ‘efectele negative’ aparent inevitabile din viitor”, consideră jurnaliștii de la Gizmodo.
Postul va fi cu atât mai dificil întrucât OpenAI trebuie să facă pași drastici pentru a atrage venituri și a lansa rapid produse de ultimă generație. Într-un interviu acordat luna trecută, Altman a sugerat că intenționează să crească veniturile companiei de la nivelul actual, de aproximativ 13 miliarde de dolari pe an, la 100 de miliarde în mai puțin de doi ani.
Altman a spus de asemenea că „afacerea noastră de dispozitive pentru consumatori va fi un lucru semnificativ și important” și că „AI care poate automatiza știința va crea o valoare enormă”.
INTERVIURILE HotNews.ro