„Problema este că are halucinații”. Inteligența artificială – pericol sau beneficiu în universități?

Este inteligența artificială un pericol pentru mediul academic? Softuri precum ChatGPT pot crea, de la zero, folosind surse de pe internet, eseuri întregi, de exemplu. Pentru a avea o perspectivă asupra fenomenului, HotNews.ro a discutat cu profesori universitari, dar și cu studenți, pentru a vedea cum abordează universitățile această provocare. Facultatea de Științe Politice, Administrative și ale Comunicării (FSPAC) a Universității Babeș-Bolyai (UBB) din Cluj-Napoca a făcut chiar un ghid cu condițiile în care studenții se pot folosi de programele de inteligență artificială.

Profesorii cu care am discutat, care predau fie în țară, fie în străinătate, spun că inteligența artificială nu ar trebui să fie privită cu teamă. În universități se discută adoptarea unor regulamente pentru a fi clar și pentru studenți care sunt limitele folosirii unor softuri.

Unii studenți recunosc că folosesc platforme precum ChatGPT pentru conceperea anumitor teme, în vreme ce alții susțin că nu pot face asta, dat fiind nivelul de complexitate al acestora.

„Ceea ce trebuie să facem noi, ca profesori, este să ne schimbăm modalitatea de evaluare”

Facultatea de Științe Politice aUBB are deja „Politica de Utilizare a Inteligenței Artificiale: Ghidul Studentului” – studenților li se explică cum se pot folosi de AI în munca lor pentru facultate.

Rectorul UBB, Daniel David, spune că inteligența artificială este o unealtă care poate fi folosită „într-un context bine definit”.

• „Eu văd inteligența artificială ca o unealtă pe care trebuie s-o folosești, însă într-un context bine definit de etică. În acest context, nu văd de ce ar fi o problemă.
• Până la urmă, cercetătorii, studenții folosesc unelte diferite. Și inteligența artificială este una dintre aceste unelte.
• Cred că ceea ce trebuie să facem noi, ca profesori, este să ne schimbăm modalitatea de evaluare. Altfel spus, să nu mai dai note pe lucrări pe care le soliciți studenților, fiindcă cu siguranță studenții pot să apeleze la inteligența artificială, deși repet, asta nu e o problemă în sine”, a afirmat, pentru HotNews.ro, profesorul Daniel David.

El spune că există un fenomen al folosirii AI în universități atât de către studenți, cât și de către angajați.

„Cu siguranță, și studenții și colegii mei folosesc inteligența artificială. Și, sigur, probabil că cei care sunt la programul de inteligență artificială și la informatică utilizează acest instrument, această unealtă, pe scară largă, dar și ceilalți colegi știu că încep să-l folosească în redactarea de granturi, în redactarea unor teme importante”, a explicat rectorul UBB.

Daniel David nu este îngrijorat cu privire la folosirea inteligenței artificiale de către studenți, pentru că, spune el, în final tot ei își asumă rezultatul acțiunilor lor.

• „Dar sigur că până la urmă, cel care își asumă acest conținut este cel care este utilizatorul inteligenței artificiale, cel care are unealta respectivă, cel care practic la final își pune numele și care-și asumă ce este acolo.
• Că dacă este un plagiat făcut de inteligență artificială, nu poți să spui . Ți-ai asumat-o tu, pur și simplu, că este o unealtă. Eu n-am emoții foarte mari legate de utilizarea inteligenței artificiale.
• Repet, doar că noi trebuie să înțelegem și să nu ne temem de ea”, a mai precizat rectorul UBB.

„Este cam aceeași situație cu Wikipedia”

Am discutat și cu Raluca Radu, profesoară la Facultatea de Jurnalism și Științele Comunicării (FJSC) a Universității București (UB). Ea este și directoarea departamentului de Jurnalism din cadrul facultății.

Cea mai mare problemă pe care o are inteligența artificială în acest moment este că inventează situații și persoane care, în realitate, nu au existat niciodată, spune Raluca Radu.

„Sigur că acum este foarte mare agitație legată de utilizarea inteligenței artificiale pentru generare de text și generare de imagini. Una dintre probleme este că inteligența artificială are, în ceea ce privește textul, <halucinații>, așa i se zic. Adică inventează situații, inventează surse. (…). Probabil că o să inventeze situații și o să inventeze surse și pe texte academice”, este de părere cadrul didactic universitar din București. </halucinații

Programele de identificare a plagiatelor se perfecționează

Universitatea din București folosește programul Turnitin pentru a verifica lucrările studenților în privința plagiatului. Acum, acest soft testează variante pentru a putea indica profesorilor și acele părți ale unui text generate de inteligența artificială.

„Există un program pe care îl folosește Universitatea din București, Turnitin, care lucrează de mai bine de 10 ani pentru depistarea similitudinilor între texte care sunt online și care sunt în baza de date și texte pe care le prezintă studenții. Acum deja au început să experimenteze identificarea textelor generate de inteligență artificială, pentru că își dau seama că este o problemă care o să lovească din plin mediul academic și e bine să tragă semnale de alarmă”, explică Raluca Radu.

Profesoara de la Universitatea din București susține că softurile precum Chat GPT pot fi similare cu Wikipedia, acolo unde recomandarea pentru studenți este să nu ia drept informații sigure lucrurile notate acolo.

„Acum sunt universități serioase în lume care discută dacă ai o recomandare de interzicere sau ai o recomandare despre cum se poate lucra cu ea. Este cam aceeași situație cu Wikipedia. Noi nu recomandăm studenților să folosească Wikipedia ca sursă, dar sigur că toată lumea folosește Wikipedia ca punct de plecare, adică te uiți pe Wikipedia, câteodată sunt texte foarte deștepte, scrise de oameni care sunt interesați de un subiect și sunt experți pe subiectul respectiv. Te uiți pe Wikipedia ca să ai un punct de plecare, să vezi ce s-a mai scris pe subiectul tău, ce se știe pe subiectul tău și eventual care sunt sursele lor. Dar asta nu înseamnă că Wikipedia este sursa finală și că nu mai folosești nimic în afară de Wikipedia și nici să interzici Wikipedia. E ca și cum ai interzice un dicționar. Sigur că poți să ai lucruri foarte proaste acolo. Și probabil că așa o să fie așa și cu Chat GPT, pentru că este o unealtă și o unealtă poți să o folosești bine sau poți să folosești rău. Ca să o folosești pentru furt, fraudă academică, sigur că asta ar trebui să fie interzis. Dar ca să o folosești ca pe orice altă unealtă, asta n-ar trebui să fie interzis”, este de părere cadrul didactic.

Ce se întâmplă cu studenții care se folosesc de AI pentru a-și face temele

Raluca Radu spune că subiectul inteligenței artificiale este discutat între profesori și tocmai de aceea ea a decis să introducă în fișa disciplinei pe care o predă precizarea că orice tip de fraudă academică, inclusiv cea de generare de texte, nu este permisă.

„Am avut o colegă cu care am discutat, ca director de departament, situația în care a găsit o parte dintr-un eseu generată în mod automat și restul eseului scris de student. Deci introducerea era generată în mod automat și se vedea că era o ruptură de stil și am discutat cum poate fi abordată problema respectivă. Recomandarea mea a fost să vedem cât la sută din text a fost generat în mod automat și să fie o notă care are scăzută o parte din punctaj și să explice studentului despre ce e vorba”, afirmă profesoara de la FJSC.

Raluca Radu spune că nimeni nu este absurd și nu crede că se va ajunge la interzicerea totală a folosirii inteligenței artificiale în mediul academic, dar că trebuie stabilite niște limite.

„Se discută în interiorul școlii doctorale. Nu am ajuns încă la un regulament. Dar discutăm deja, cred că de câteva luni, în interiorul Școlii Doctorale de Științele Comunicării. Adică suntem conștienți că este o chestiune care trebuie analizată cu grijă și pentru care trebuie să avem niște standarde. Și ca să ai niște standarde, trebuie să te uiți la ceilalți care sunt într-o comunitate mai mare academică și discută despre standarde. Adică marile universități, de exemplu, din Marea Britanie, sau din Statele Unite ale Americii. Dar nu este nimeni, sper, atât de absurd în România încât să zică: <n-ai artificială="" fel="" fel>”, a spus, pentru HotNews.ro, profesoara.

„Am cunoscut oameni care foloseau ChatGPT chiar și când dădeau răspunsuri la seminare”

O studentă de la Facultatea de Drept a Universității București spune că ea nu folosește inteligența artificială pentru teme, iar motivul este simplu: sarcinile sunt prea complexe pentru AI.

„Nu folosesc AI pentru teme, mai mult din simplul fapt că sunt prea complexe și nu poate să le rezolve. Cred că e o linie foarte fină între folosirea cu bun-simț și a te lăsa dus de val când vine vorba de genul ăsta de tehnologie. Nu văd neapărat cum am putea să determinăm o limită de folosință. Am cunoscut oameni care foloseau ChatGPT chiar și când dădeau răspunsuri la seminare și era absolut penibil. Era atât de evident că răspunsul nu e personal și în cele mai multe cazuri răspunsul era cam pe lângă scopul întrebării”, a spus, pentru HotNews.ro, studenta care a preferat să rămână anonimă.

Ea este de părere că inteligența artificială ar trebui să fie doar un instrument pe care să îl folosim din când în când.

„AI ar trebui să ne ajute să ne dezvoltăm, să ne facă viața mai ușoară, nu să ne înlocuiască efectiv motoarele proprii de gandire. Cred că studenții în general ignoră acest fapt în baza stresului cauzat de a fi tânăr la o facultate în România. Profesorii ar putea încerca să experimenteze și ei cu AI ca să se convingă că nu este un bau-bau atât de mare și așa poate ar depista limitările pe care le are tehnologia”, consideră tânăra.

„N-ar trebui să-i acordăm atâta importanță”

Andrei, un alt student, tot din București, dar de data aceasta de la Jurnalism, recunoaște că folosește pentru unele teme ChatGPT, dar doar pentru acele materii pe care le consideră „inutile”.

„Folosesc Chat GPT pentru temele la unele materii de la facultate, pe care le consider total inutile și cu care nu vreau să-mi pierd timpul. Cred că ar trebui sa fie destul de limitată folosirea lui, în special în școli. Dar oricum, e un generator de text AI cam stupid, nicidecum o inovație tehnologică, n-ar trebui să-i acordăm atâta importanță”, este de părere tânărul.

Andrei crede și că softurile antiplagiat recunosc textele scrise de programe precum ChatGPT.

„Nu mi se pare nici că ChatGPT a revoluționat plagiatul. Dacă plagiezi cu ChatGPT, cel mai probabil softurile antiplagiat, gen Turnitin, sigur îl vor detecta”, a susținut Andrei.

Ghidul studenților de la FSPAC

În „Politica de Utilizare a Inteligenței Artificiale: Ghidul Studentului” sunt câteva sfaturi și precizări pentru studenți:

• „Politica generală pe care FSPAC o recomandă studenților este să trateze folosirea instrumentelor AI generative (precum ChatGPT) la fel ca ajutorul dat de o altă persoană.
• De exemplu, folosirea ChatGPT sau a unei alte platforme asemănătoare pentru familiarizarea cu un subiect sau un domeniu este încurajată, dar utilizarea acelorași platforme pentru compunerea unui referat sau pentru a obține răspunsuri în cadrul unui examen nu este permisă.
• De asemenea, utilizarea unui chatbot pentru a facilita plagiatul (reîmpachetarea unor idei ale altor persoane cu ascunderea sursei) este tratată în același mod ca plagiatul de tip vechi, din era î.ai. (înainte de platformele de AI generativ). În cazul în care un student recurge la asistența unui chatbot, în orice formă (de pildă, ca ajutor în stabilirea structurii unei lucrări sau în corectarea sau reformularea textului unui referat) acest lucru trebuie menționat clar în document”, se arată în document.

Printre posibilele utilizări ale inteligenței artificiale de către studenți se numără, conform aceleiași surse: rezumarea unor materiale sau extragerea ideilor principale, crearea unui plan pentru învățarea unui subiect mai complex, traducerea unor texte dintr-o limbă pe care nu o stăpânim, crearea de quiz-uri sau întrebări de verificare pe un anumit subiect, corectarea textelor din punct de vedere gramatical sau stilistic, feedback cu privire la eseuri sau referate.

Și Universitatea Politehnică Timişoara a reglementat folosirea inteligenţei artificiale.La cursurile facultăţilor din cadrul UPT folosirea unor aplicaţii precum ChatGPT, Bard sau Character.ai nu este interzisă, dar studenţilor le este recomandat să respecte mai multe reguli care ţin de etică şi deontologie, specifice procesului educativ.

Cum e la Viena

Pentru a vedea cum este abordat subiectul în străinătate, am discutat cu Phillip Nell, profesor la „Institute for International Business”, în Viena și directorul Business Administration International Business Master in Business Administration (MBA) București.

Așa am aflat că studenții din Viena, de exemplu, sunt chiar încurajați să folosească inteligența artificială (AI).

„Noi încurajăm în mod activ studenții să folosească instrumente AI, cum ar fi ChatGPT. Nu are sens să nu expunem și să nu instruim studenții în a folosi instrumentele și tehnicile AI, deoarece acestea vor fi standardul de facto în viitor pentru aproape toate întreprinderile. Așadar, studenții noștri MBA trebuie să știe și să înțeleagă ce se întâmplă și ar trebui să fie capabili să modeleze o parte din utilizarea instrumentelor AI în cadrul firmelor lor”, a explicat, pentru HotNews.ro, Phillip Nell.

Profesorul spune că nu are sens ca studenții să fie descurajați în a folosi inteligența artificială, pentru că și asta poate fi o abilitate.

Totuși, Phillip Nell admite că trebuie să fie adoptate reguli pentru a reglementa folosirea inteligenței artificiale de către studenți, mai ales atunci când vine vorba de conceperea temelor.

„Desigur, din perspectiva restrânsă a notării contribuțiilor studenților, cum ar fi lucrări și eseuri, disponibilitatea instrumentelor AI puternice a creat un pic de complexitate. Prin urmare, este clar că acest lucru trebuie reglementat la nivel universitar pentru toate programele. Nu suntem încă acolo, deoarece dezvoltarea a fost foarte rapidă. Cu toate acestea, fiecare profesor de curs a adoptat deja modalități specifice de a aborda problema”, explică profesorul universitar.

Cadrul didactic din Viena spune că instrumentele AI sunt interactive și ușor de folosit, dar ar trebui să fie recunoscută folosirea lor în note de subsol care să precizeze sursa informațiilor, de exemplu.

„Utilizarea instrumentelor AI trebuie să fie documentată și raportată (similar cu o referință la un articol). În programul nostru, am discutat, de asemenea, limitările și riscurile asociate cu instrumentele AI (de exemplu, informații false și părtiniri împotriva minorităților), precum și tacticile pentru a detecta astfel de probleme. Facem clar că responsabilitatea finală pentru toate documentele predate revine studentului”, punctează profesorul din Viena.

Italia a interzis în luna aprilie a acestui an ChatGPT, iar alte țări, cum ar fi Spania sau Germania, analizează dacă softurile de acest tip încalcă sau nu protecția datelor personale. (Foto: Dreamstime)

Citește și: Universitatea Politehnică Timişoara reglementează folosirea inteligenţei artificiale