Șeful Microsoft, avertisment șocant pentru companiile ce folosesc AI

Dintre toate dezbaterile aprinse despre potențialele dezavantaje ale inteligenței artificiale, există o temere care provoacă cele mai multe frământări în rândul entuziaștilor AI din Silicon Valley. Ei se tem că marile laboratoare de inteligență artificială care vând modele acționează, într-un fel, ca niște cai troieni, relatează TechCrunch.

Îngrijorarea este că, pe măsură ce startup-urile și companiile folosesc modele AI dezvoltate de laboratoare precum OpenAI și Anthropic, acestea obțin acces din ce în ce mai amplu la cele mai sensibile informații de afaceri ale clienților lor.

Dezvoltatorii modelelor pot apoi folosi aceste cunoștințe în propriul beneficiu, putând să ajungă chiar să concureze cu propriii clienți pe domeniile lor de activitate. Printre cei care au lansat astfel de avertismente s-au numărat atât investitori de capital de risc, cât și directori de companii tehnologice precum Alex Karp, CEO-ul Palantir.

Satya Nadella, CEO-ul Microsoft, s-a alăturat acum acestor voci printr-un mesaj pe care l-a publicat pe blogul său. TechCrunch, un site de știri specializat în tehnologie care intervievează frecvent directori importanți din domeniu, titrează că avertismentul de acum al lui Nadella, expus public, este șocant.

Șeful Microsoft vorbește de „genul de cunoaștere pe care un concurent nu ar putea niciodată să o cumpere”

Nadella avertizează că utilizatorii AI (pe care îi numește „cumpărătorii”) plătesc de două ori. Ei achită în mod conștient costul utilizării tokenurilor AI, dar, fără să-și dea seama, cedează în același timp și date valoroase. Tokenurile AI pot fi privite cel mai simplu ca o unitate de măsură folosită de furnizorii de AI pentru a-și factura clienții în funcție de consumul lor.

„În esență, plătești pentru inteligență de două ori: o dată cu bani și încă o dată cu ceva și mai valoros – cunoștințele proprietare pe care trebuie să le dezvălui pentru ca acea inteligență să fie cu adevărat utilă. Cu cât vrei ca modelul să aibă performanțe mai bune, cu atât trebuie să îl hrănești cu mai multe dintre aceste cunoștințe!”, a notat acesta în mesaj.

Cel mai periculos aspect, susține Nadella, este că firmele învață propriu-zis acești algoritmi toate nuanțele propriilor afaceri.

„Modelele învață din «reziduuri»: din comenzile (prompt-uri) pe care le scriu oamenii, din instrumentele pe care le folosesc agenții AI și, mai ales, din corecturile pe care oamenii le fac atunci când modelul greșește. Fiecare corectură este distilată într-un ‘know-how’ instituțional”, continuă șeful Microsoft.

El scrie că acesta este „genul de cunoaștere pe care un concurent nu ar putea niciodată să o cumpere”, iar companiile o predau totuși de bunăvoie laboratoarelor de AI.

Satya Nadella, mesaj surprinzător în controversa privind „distilarea” modelelor AI

Nadella susține că, dacă firmele din domeniul AI au libertatea de a extrage informații de pe internet pentru a-și antrena modelele, atunci este firesc ca și companiile să poată studia – sau „distila” – acele modele în schimb.

„Distilarea” este practica prin care rezultatele generate de un model AI sunt folosite pentru a înțelege modul în care acesta funcționează și pentru a antrena un model nou, adesea mai ieftin, pe baza acestor informații. În februarie, Anthropic a acuzat companii din China, inclusiv gigantul Alibaba, că au trimis milioane de comenzi către Claude pentru a-și îmbunătăți propriile modele și a cerut guvernului SUA să înăsprească aplicarea controalelor la export.

TechCrunch subliniază că ideea lui Nadella este că dezvoltatorii modelelor nu pot avea și avantajele, și protecția în același timp. Este ipocrit, spune el, ca aceștia să își antreneze liber modelele pe datele întregii lumi, dar să le interzică altora să facă același lucru cu modelele lor.

„Deși este necesar ca furnizorii de modele să beneficieze de dreptul la utilizare echitabilă («fair use») pentru a-și antrena modelele pe date publice, mi se pare ironic că, ulterior, impun condiții restrictive privind distilarea”, scrie Nadella în condițiile în care Microsoft este cel mai mare finanțator al OpenAI, compania din spatele ChatGPT.

Soluția propusă de directorul general al Microsoft

Nadella este deosebit de îngrijorat de situațiile în care dezvoltatorii de modele AI „își rezervă dreptul de a învăța din datele privind utilizarea și interacțiunile clienților”.

Soluția propusă de acesta este însă genul de abordare de așteptat din partea directorului unei companii gigant în domeniul serviciilor de cloud.

El dorește ca firmele să „își păstreze proprietatea” asupra propriilor date, inclusiv asupra comenzilor, feedback-ului și altor informații similare. De asemenea, el îndeamnă firmele să implementeze ceea ce numește „straturi de orchestrare” – practic, un mecanism care să le permită să treacă cu ușurință între modele AI furnizate de companii diferite, în loc să rămână captive unui singur furnizor.

„Atunci când consumi inteligență, creezi, la rândul tău, inteligență. Iar ceea ce creezi ar trebui să îți aparțină”, subliniază Nadella.