ChatGPT va permite în curând „conținut erotic” pentru adulți, anunță Sam Altman, șeful OpenAI

OpenAI intenționează să permită o gamă mai largă de conținut, inclusiv erotic, pe popularul său chatbot ChatGPT, ca parte a eforturilor sale de a-i „trata pe utilizatorii adulți ca pe adulți”, a anunțat șeful companiei, Sam Altman, potrivit BBC News.

Într-o postare publicată marți pe rețeaua de socializare X, Altman a afirmat că versiunile viitoare ale popularului chatbot îi vor permite acestuia să se comporte într-un mod mai uman – „dar numai dacă doriți acest lucru, nu pentru că vrem să maximizăm utilizarea”.

Această mișcare, care amintește de introducerea recentă de către xAI, deținut de Elon Musk, a două chatboturi cu conținut sexual explicit în Grok, ar putea ajuta OpenAI să atragă mai mulți abonați plătitori.

De asemenea, este probabil să intensifice presiunea asupra legiuitorilor pentru a introduce restricții mai stricte asupra chatbot-urilor, notează postul britanic. OpenAI nu a răspuns solicitărilor BBC de a oferi detalii despre noua funcție.

Altman a spus că OpenAI a făcut anterior ChatGPT „destul de restrictiv pentru a ne asigura că suntem atenți la problemele de sănătate mintală”.

Aceste modificări au fost anunțate într-o postare pe blog în august, care nu mai apare pe site-ul OpenAI.

„Ne dăm seama că acest lucru l-a făcut mai puțin util / plăcut pentru mulți utilizatori care nu aveau probleme de sănătate mintală, dar, având în vedere gravitatea problemei, am vrut să facem acest lucru corect”, a precizat Altman marți, în postarea lui.

El a adăugat că ChatGPT ar putea relaxa în curând restricțiile „acum că am reușit să atenuăm problemele grave în ceea ce privește sănătatea mintală și avem instrumente noi”.

„În decembrie, pe măsură ce vom implementa mai pe deplin restricțiile de vârstă și ca parte a principiului nostru de a trata utilizatorii adulți ca pe niște adulți, vom permite și mai multe, cum ar fi conținutul erotic pentru adulții verificați”, a mai scris Altman, în postare.

Modificările vin după ce OpenAI a fost dat în judecată la începutul acestui an de părinții unui adolescent american care s-a sinucis.

Procesul intentat de Matt și Maria Raine, părinții lui Adam Raine, care avea 16 ani, a fost prima acțiune legală care acuza OpenAI de moarte din culpă.

Familia a inclus înregistrări ale discuțiilor dintre Adam, care a murit în aprilie, și ChatGPT, în care acesta explică că are gânduri suicidale.

Într-o declarație dată la momentul respectiv, OpenAI a precizat pentru BBC că examinează dosarul.

„Transmitem condoleanțe familiei Raine în acest moment dificil”, a afirmat compania.

Îngrijorări legate de siguranța copiilor

Conform Legii privind siguranța online, în Marea Britanie nu este necesară verificarea vârstei pentru a accesa conținut erotic scris.

Cu toate acestea, imaginile pornografice, inclusiv cele generate de AI, ar necesita ca utilizatorii să dovedească că au peste 18 ani.

În SUA, criticii spun că decizia OpenAI de a permite conținut erotic pe platformă arată necesitatea unei reglementări mai stricte la nivel federal și statal.

„Cum se vor asigura că copiii nu pot accesa părțile din ChatGPT care sunt destinate exclusiv adulților și oferă conținut erotic?”, a spus Jenny Kim, partener la firma de avocatură Boies Schiller Flexner.

Jenny Kim este implicată într-un proces împotriva Meta, în care se susține că algoritmul Instagram al companiei dăunează sănătății mintale a utilizatorilor adolescenți.

„OpenAI, la fel ca majoritatea marilor companii tech din acest domeniu, folosește oamenii ca pe niște cobai”, a spus ea.

În aprilie, site-ul de specialitate TechCrunch a scris că OpenAI permitea conturilor în care un utilizator se înregistrase ca minor să genereze conținut erotic grafic.

OpenAI a transmis la momentul respectiv că compania lansează o soluție pentru a limita astfel de conținut.

Un sondaj publicat luna aceasta de Centrul pentru Democrație și Tehnologie (CDT), o organizație non-profit, a constatat că unul din cinci studenți raportează că ei sau cineva pe care îl cunosc a avut „o relație romantică” cu inteligența artificială.

Luni, guvernatorul Californiei, Gavin Newsom, și-a exprimat dreptul de veto față de un proiect de lege adoptat de parlamentul statal care ar fi împiedicat dezvoltatorii să ofere copiilor acces la chatbot-urile AI, cu excepția cazului în care companiile puteau garanta că software-ul nu ar genera comportamente dăunătoare.

Newsom a susținut că este „imperativ ca adolescenții să învețe cum să interacționeze în siguranță cu sistemele AI”, într-un mesaj în care și-a explicat exercitarea dreptului de veto.

La nivel național, Comisia Federală pentru Comerț din SUA (FTC) a lansat o anchetă privind modul în care chatbot-urile AI interacționează cu copiii.

Luna trecută, în Senatul SUA a fost introdusă o lege bipartizană care ar permite utilizatorilor de chatbot-uri să depună cereri de despăgubire împotriva dezvoltatorilor acestora.

De ce să fie introdus conținutul erotic?

Anunțul lui Altman de marți a venit în contextul în care scepticii pun la îndoială creșterea rapidă a valorii companiilor din domeniul tehnologiei AI.

Veniturile OpenAI sunt în creștere, dar compania nu a fost niciodată profitabilă.

Rob Lalka, profesor de afaceri la Universitatea Tulane și autor al cărții „The Venture Alchemists”, a declarat că marile companii de AI se află într-o luptă pentru cota de piață.

„Nicio companie nu a avut vreodată un succes similar cu cel obținut de OpenAI cu ChatGPT”, a declarat prof. Lalka pentru BBC News.

„Aveau nevoie să continue să avanseze pe acea curbă de creștere exponențială, pentru a obține o dominare a pieței cât mai mare”, a adăugat el.