Skip to content
Actualitate

ChatGPT îți dă mereu dreptate, deși nu ai nevoie. 5 trucuri simple ca să eviți asta, în newsletter-ul Good Tech de pe 12 august

Vlad Dumitrescu
Adaugă-ne ca sursă preferată în Google

ChatGPT are o calitate pe care oamenii o apreciază foarte mult: este aproape întotdeauna drăguț cu noi. Nu se enervează, nu oftează, nu ne spune că exagerăm și nu ne contrazice. Problema este că uneori nu avem nevoie de cineva care să ne spună că avem dreptate, ci dimpotrivă. Cum facem asta, aflăm din newsletter-ul Good Tech, din 12 august. Pentru a-l primi trebui să te abonezi.

Tendința asta e confirmată și de știință. Cercetători de la Stanford University au analizat anul acesta 11 modele de inteligență artificială, inclusiv ChatGPT, Claude și Gemini, pentru a vedea cât de des le dau dreptate utilizatorilor în situații în care aceștia se află, de fapt, în eroare. 

În scenarii bazate inclusiv pe postări de pe Reddit în care comunitatea considera că autorul a greșit, modelele au validat poziția utilizatorului cu 49% mai des decât oamenii. Într-o a doua etapă, cu peste 2.400 de participanți, cercetătorii au descoperit că oamenii au avut mai multă încredere în chatboturile care îi validau și au devenit, după conversație, mai convinși că aveau dreptate și mai puțin dispuși să-și ceară scuze.

Fenomenul are chiar un nume: sycophancy (lingușeală), adică tendința unui model AI de a flata, valida sau aproba excesiv utilizatorul. Și nu pare să fie ceva specific unui singur chatbot. Un alt studiu publicat în Nature a găsit că antrenarea modelelor pentru a răspunde într-un mod mai cald și mai prietenos poate crește tendința lor de a valida convingeri greșite și poate veni, în anumite situații, cu un cost pentru acuratețea răspunsurilor.

Așadar, ce putem face ca să evităm, pe cât posibil, aceste capcane ale chatboturilor? În newsletter-ul Good Tech de mâine, 12 august, vei găsi cinci trucuri simple care pot transforma ChatGPT dintr-un interlocutor care îți dă dreptate într-unul care te ajută să gândești mai bine.