Una dintre cele importante abilități cognitive pe care le avem este să știm când nu știm. Capacitatea de a spune „nu știu” nu e un semn de ignoranță, ci un mecanism prin care ne protejăm de concluzii greșite și ne recunoaștem limitele.
Un nou studiu realizat de cercetători de la Milano-Bicocca, École Normale Supérieure și Universitatea Sapienza sugerează că simplul acces la un chatbot AI poate slăbi exact acest mecanism.
În cinci experimente la care au participat peste 3.000 de persoane cercetătorii au vrut să afle dacă inteligența artificială le schimbă oamenilor criteriul după care decid dacă pot să răspundă sau nu la o întrebare.
Ce facem când nu știm, iar AI halucinează?
Participanții au primit întrebări dificile și aveau întotdeauna posibilitatea de a spune „nu știu”. O parte dintre ei au avut, însă, acces la răspunsurile unui chatbot AI.
Pentru a izola efectul psihologic al prezenței AI, cercetătorii au construit experimentul într-un mod neobișnuit.
Întrebările vizau detalii vizuale foarte specifice din filme (de exemplu culoarea echipamentului din Bend It Like Beckham), informații pe care modelele lingvistice tind să le halucineze.
Greșim, dar o facem cu încredere
Au ales intenționat un model AI care greșea aproape de fiecare dată, astfel încât orice încredere acordată răspunsurilor sale să nu poată fi explicată prin faptul că participanții apelau la o sursă, în general, mai competentă.
În lipsa AI-ului, 44% au preferat să spună că nu știu răspunsul. Atunci când au avut acces la chatbot, procentul a scăzut la doar 3%. În același timp, acuratețea răspunsurilor s-a prăbușit, iar încrederea participanților în propriile răspunsuri aproape s-a dublat. Oamenii au ales mai des să răspundă, au greșit mai mult și au fost mult mai convinși că au dreptate.
„Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”, a explicat Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și unul dintre autorii studiului.
Metacogniția
Până acum, cele mai multe cercetări despre efectele chatboturilor AI s-au concentrat pe alte probleme. Unele au arătat că oamenii ajung să externalizeze tot mai mult efortul cognitiv, lăsând inteligența artificială să gândească în locul lor pentru anumite sarcini. Altele au avertizat că folosirea frecventă a AI poate duce, în timp, la pierderea unor competențe.
Cercetătorii vorbesc în schimb, în noul studiu, despre cum AI-ul ne afectează metacogniția, adică capacitatea de a ne evalua propriile cunoștințe și de a ști când avem suficiente informații pentru a răspunde și când nu.
Metacogniția este mecanismul care ne ajută să distingem între „știu”, „cred că știu” și „nu știu”. Fără el, devenim mult mai vulnerabili la erori și la concluzii trase cu prea multă încredere.
Fără el, riscăm să facem și noi exact ce fac și chatboturile AI de prea multe ori: să „halucinăm” răspunsuri. Să răspundem greșit cu încrederea în sine pe care o are ChatGPT.
Confuzia generată de răspunsurile AI
Autorii studiului spun că oamenii nu sunt convinși de AI pentru că acesta are întotdeauna dreptate, ci pentru că răspunsurile lui sună convingător.
Un chatbot scrie fluent, coerent și fără ezitări. Iar creierul nostru pare să confunde această aparență de siguranță cu dovada că informația este și corectă. În loc să verificăm dacă un răspuns este adevărat, ajungem să-l acceptăm pentru că este bine formulat și pare plauzibil.
De ce răspund chatboturile AI chiar și când nu știu?
Un om poate să-și suspende judecata și să spună „nu știu”. Un model lingvistic, în schimb, este construit să genereze un răspuns la aproape orice întrebare. Chiar și atunci când nu are suficiente informații, el produce cea mai probabilă continuare a textului și nu poate avea o evaluare sinceră a propriilor limite.
Dacă ne obișnuim să delegăm astfel de decizii unui sistem care aproape niciodată nu se oprește pentru a admite incertitudinea, există riscul să începem să facem același lucru.
Ce ne mai arată studiul este că AI-ul i-a determinat pe oameni, în unele cazuri, să renunțe la răspunsuri pe care le-ar fi dat corect dacă s-ar fi bazat pe propria judecată.
Acceptăm mai ușor un răspuns al AI, chiar dacă e greșit
Chatbotul nu a completat doar golurile din cunoștințele lor, ci le-a înlocuit uneori propriul raționament cu unul greșit, exprimat însă cu suficientă încredere încât să pară mai credibil.
Ceea ce e fascinant pentru că oamenii tind, în mod normal, să fie destul de sceptici față de sfaturile altora.
De regulă, atunci când cineva ne contrazice, nu îi adoptăm imediat punctul de vedere, ci, în cel mai bun caz, îl cântărim și păstrăm o parte din propria judecată. În cele mai multe situații, îl respingem complet.
În experimentul de față s-a întâmplat aproape invers. Chiar și atunci când răspunsul AI intra în conflict cu ceea ce participanții credeau inițial, asta nu i-a făcut să devină mai prudenți, ci dimpotrivă: le-a crescut încrederea că răspunsul final este cel corect.
