ChatGPT vrea să îți dea mereu dreptate. Cum poți să eviți asta
Și noile dispozitive Google.
The Fix
ChatGPT are o calitate pe care oamenii o apreciază foarte mult: este aproape întotdeauna drăguț cu noi. Nu se enervează, nu oftează, nu ne spune că exagerăm și, mai ales, nu prea ne contrazice. Dacă îi povestim o ceartă cu partenerul, o problemă la la birou sau o decizie pe care vrem să o luăm, există șanse mari să înceapă prin a ne valida perspectiva. Problema este că uneori nu avem nevoie de cineva care să ne spună că avem dreptate, ci de cineva care să ne spună că s-ar putea să nu avem.
Tendința asta e confirmată și de știință. Cercetători de la Stanford University au analizat anul acesta 11 modele de inteligență artificială, inclusiv ChatGPT, Claude și Gemini, pentru a vedea cât de des le dau dreptate utilizatorilor în situații în care aceștia se află, de fapt, în eroare.
În scenarii bazate inclusiv pe postări de pe Reddit în care comunitatea considera că autorul a greșit, modelele au validat poziția utilizatorului cu 49% mai des decât oamenii. Într-o a doua etapă, cu peste 2.400 de participanți, cercetătorii au descoperit că oamenii au avut mai multă încredere în chatboturile care îi validau și au devenit, după conversație, mai convinși că aveau dreptate și mai puțin dispuși să-și ceară scuze.
Fenomenul are chiar un nume: sycophancy (lingușeală), adică tendința unui model AI de a flata, valida sau aproba excesiv utilizatorul. Și nu pare să fie ceva specific unui singur chatbot. Un alt studiu publicat în Nature a găsit că antrenarea modelelor pentru a răspunde într-un mod mai cald și mai prietenos poate crește tendința lor de a valida convingeri greșite și poate veni, în anumite situații, cu un cost pentru acuratețea răspunsurilor.
Așadar, ce putem face ca să evităm, pe cât posibil, aceste capcane ale chatboturilor? Iată cinci trucuri simple care pot transforma ChatGPT dintr-un interlocutor care îți dă dreptate într-unul care te ajută să gândești mai bine.
Nu-i da răspunsul înainte să pui întrebarea
Dacă îi spui lui ChatGPT din start ce crezi că s-a întâmplat, îi va fi foarte ușor să construiască un răspuns în jurul acelei presupuneri. De exemplu, dacă îi scrii „Cred că laptopul meu merge mai încet pentru că are prea multe aplicații instalate”, conversația pornește deja de la o explicație pe care chatbotul nu a verificat-o. În realitate, problema ar putea avea cu totul altă cauză.
Mai bine descrii situația fără să-i dai și interpretarea: „Laptopul meu a început să meargă mai încet în ultima perioadă. Care ar putea fi cauzele și cum le pot verifica?”. Același principiu funcționează și atunci când vrei să iei o decizie. În loc de „De ce este abonamentul X cea mai bună variantă pentru mine?”, întreabă „Ce avantaje și dezavantaje au aceste abonamente și care mi s-ar potrivi mai bine?”.
Dacă vrei ca AI-ul să-ți verifice o ipoteză, nu transforma ipoteza în premisă.
Cere-i explicit să te contrazică
Dacă vrei să reduci riscul ca ChatGPT să fie de acord cu tine, una dintre cele mai simple soluții este să-i ceri exact opusul. După ce îi prezinți o idee, poți să adaugi apoi: „Care sunt cele mai puternice argumente împotriva poziției mele?” sau „Presupune că mă înșel. Ce aș putea să nu văd?”
Poți merge chiar mai departe și să-i ceri să joace rolul „avocatului diavolului”: „Nu încerca să-mi confirmi opinia. Încearcă să-mi demonstrezi că este greșită”. Important este că nu îi ceri pur și simplu să fie negativ, ci să caute activ dovezi și explicații care contrazic ipoteza ta.
Asta nu garantează, totuși, că va găsi adevărul. Evident, ChatGPT poate greși și atunci când te contrazice. Dar creează o fricțiune care lipsește din conversația obișnuită și te obligă și pe tine să iei în calcul o perspectivă pe care, poate, nu voiai să o auzi.
Cere-i să pună întrebări înainte să-ți dea un răspuns
Una dintre cele mai mari probleme ale conversațiilor cu AI este că modelul poate produce un răspuns foarte convingător pe baza unor informații foarte puține. Dacă îi spui „Ar trebui să-mi dau demisia?”, poate începe imediat să-ți explice avantajele și dezavantajele, deși nu știe aproape nimic despre situația ta.
Încearcă să schimbi dinamica asta: „Înainte să răspunzi, pune-mi cinci întrebări care te-ar ajuta să înțelegi mai bine situația.” După ce răspunzi, abia atunci îi ceri analiza. Pentru decizii mai complicate, poți chiar să-i spui să continue să pună întrebări dacă încă îi lipsesc informații importante.
Cu cât îi dai mai mult context relevant înainte să-i ceri concluzia, cu atât reduci șansa ca modelul să umple singur golurile și să-ți confirme presupunerile.
Dacă îți dă dreptate, cere-i dovezi
Un „Da, ai dreptate” din partea lui ChatGPT nu înseamnă foarte mult dacă nu știi de ce ai dreptate. Când chatbotul îți confirmă o idee, nu te opri la validare. Cere-i să explice concret pe ce se bazează: „Care sunt argumentele pentru această concluzie?”, „Ce dovezi susțin afirmația?” sau „Dă-mi exemple concrete”.
De exemplu, dacă îl întrebi „Mi-am luat un scaun de birou nou, însă am luat varianta mai ieftină, e OK și așa?” și îți răspunde afirmativ, următoarea întrebare ar trebui să fie „Pe ce te bazezi?” . Dacă nu poate indica surse verificabile sau începe să formuleze explicații generale fără dovezi, ai un motiv să tratezi răspunsul cu mai multă precauție.
Ideea este să nu confunzi acordul cu argumentul. Un chatbot poate produce foarte ușor o explicație care sună convingător după ce ți-a dat dreptate. Important este dacă poate susține acea concluzie cu informații verificabile.
Cere-i o altă abordare dacă simți că vrea doar să te facă mulțumit de deciziile tale
Dacă tu îi spui că vrei să trăiești mai sănătos și îi explici că azi ai mâncat de la fast food și apoi ai mai adăugat peste asta și o prăjitură, iar chatbotul îți spune că „nu e nimic în neregulă” și că „merită să te bucuri de lucrurile care îți plac”, poate e momentul să-i ceri, concret, altă atitudine.
De exemplu, poți să-i spui: „Nu vreau să mă liniștești și nici să-mi validezi alegerile. Vreau o evaluare cât mai obiectivă. Spune-mi ce a fost o alegere proastă în situația asta și ce aș putea face diferit data viitoare.” Astfel, îi dai un criteriu diferit după care să formuleze răspunsul: nu să te facă să te simți mai bine, ci să te ajute să vezi mai clar unde ai putea greși.
Continuarea e disponibilă doar pentru membrii HotNews Premium.