Sam Altman, dezvăluire din interiorul OpenAI: „Spre rușinea mea”. Indicatorul care a crescut de 1 milion de ori
Sam Altman, CEO-ul OpenAI, a declarat că cel mai mare consumator de tokenuri al companiei pe care o conduce utilizează 100 de miliarde de tokenuri pe lună.
Pe măsură ce oamenii din interiorul și din afara laboratoarelor de inteligență artificială (AI) cheltuiesc din ce în ce mai mult pe tokenuri, Altman recunoaște că îngrijorările legate de costuri au devenit o „problemă majoră”, scrie publicația americană Axios.
„Liderul în utilizarea token-urilor la OpenAI consumă aproximativ 100 de miliarde de token-uri pe lună. Spre rușinea mea, acesta nu este liderul mondial în utilizarea token-urilor. Am găsit pe cineva care a consumat și mai mult”, a spus Altman, într-un stream live, despre adoptarea OpenAI de către companii.
Cifra este uluitoare când este pusă în context, notează Axios, care amintește că, în urmă cu mai bine de șase ani, cel mai mare consumator de token-uri de la OpenAI folosea aproximativ 100.000 de token-uri pe lună, după cum a dezvăluit chiar Altman.
Token-urile AI sunt unități de bază de procesare a informației folosite de modelele de limbaj mare (LLM), precum ChatGPT sau Claude, pentru a înțelege și genera text. Ele reprezintă fragmente de cuvinte (de la silabe până la cuvinte întregi) în care este descompus limbajul uman.
Cifra dezvăluită de Altman marchează o creștere de 1 milion de ori a utilizării token-urilor, ceea ce înseamnă, cu alte cuvinte, că cererea pentru AI explodează.
Acest lucru este valabil mai ales având în vedere cultura „tokenmaxxing” care a dus la apariția unor elemente precum clasamentele interne ale utilizatorilor de token-uri sau măsurarea numărului de token-uri de AI consumate de angajați.
Deși acest lucru poate să pară un aspect pozitiv pentru laboratoarele de AI care beneficiază de pe urma cheltuielilor cu token-urile, boom-ul cererii evidențiază, de asemenea, „provocarea infrastructurii care ne așteaptă”, a spus Altman.
Constrângerile de calcul pot împiedica laboratoarele de AI să poată satisface toată cererea primită, limitând creșterea potențială a veniturilor.
Tabloul de ansamblu
Altman a vorbit de mai multe ori, săptămâna aceasta, despre problema costurilor generate de AI.
CEO-ul OpenAI a spus că preocupările legate de costuri sunt a doua problemă cea mai frecventă despre care aude de la clienți, după simplificarea fluxurilor de lucru AI. Costul nu a fost niciodată o problemă înainte, dar acum a devenit „brusc o problemă uriașă”.
„Vrem ca voi toți să puteți folosi inteligența artificială fără să vă faceți griji că nu este suficient de bună sau că nu este accesibilă”, a adăugat Altman.
Găsirea unei soluții pentru a face inteligența artificială mai ieftină va fi deosebit de importantă, având în vedere ceea ce Altman a spus că urmează din partea OpenAI: „AI proactivă care funcționează constant”.
„Dacă ar fi să mă pregătesc pentru un singur lucru în următoarea fază, pe parcursul anului viitor, acesta ar fi cel pe care l-aș alege”, a spus Altman, adăugând că acest lucru va schimba modul în care companiile își planifică utilizarea și securitatea AI.
Inteligența artificială autonomă care funcționează fără să fie solicitată poate deveni rapid costisitoare, mai scrie Axios, notând că ceea ce ar trebui urmărit este modul în care OpenAI va gestiona calcularea costurilor corporative.
Anthropic, o altă companie de inteligență artificială, a depășit OpenAI în ceea ce privește cheltuielile corporative, conform datelor Ramp.
Dacă OpenAI va reuși să satisfacă cererea companiilor pentru o utilizare mai ieftină a AI, atunci acest lucru i-ar putea permite să preia cota de piață de la cel mai mare concurent al său chiar înainte ca ambele laboratoare de AI să devină publice.
ChatGPT, de la OpenAI, gata de instalare pe un telefon mobil. FOTO: © Sutihat Fadzakkir | Dreamstime.com