China pune reguli stricte pentru răspunsurile date de chatboți: să respecte „linia” partidului comunist și să reflecte „valorile socialiste”

Autoritățile din China au întocmit un „draft” cu câteva reguli pe care creatorii de chatboți stil ChatGPT vor trebui să le respecte, astfel că răspunsurile acestor agenți conversaționali vor trebui să se conformeze sistemului strict de cenzură. Nu va fi ușor, deoarece chatboții dau adesea răspunsuri eronate sau ciudate.

Autoritatea Cyberspace Administration of China a întocmit un set de reguli care să se aplice diverșilor chatboți care vor fi lansați, scrie New York Times. Nu sunt regulile finale, dar ele sunt stricte, mai ales că și chatboții vor trebui să respecte regulile dure de cenzură pe care site-uri și aplicațiile online nu au voie să le încalce.

Răspunsurile oferite de chatboți vor trebui să se conformeze cu „linia” partidului comunist, să nu denigreze în niciun fel conducerea și să evite cu totul subiecte extrem de sensibile, cum ar fi masacrul din piața Tiananmen (1989).

• Chatboții dau năvală – Ar trebui să ne temem? Cu ce vin bun și care sunt pericolele acestor roboți cu care putem conversa

Răspunsurile chatboților vor trebui să „reflecte valorile socialiste” și să evite informațiile care, în orice fel, ar putea „submina” puterea statului.

China a construit un gigantic sistem de cenzură a internetului, milioane de oameni lucrează ca cenzori și companiile tech s-au putut dezvolta, însă doar ajutând statul să impună cenzura.

Inginerii din China lucrează de ceva timp la moduri prin care chatboții să se conformeze acestor reguli, dar este complicat, fiindcă este absolut normal ca astfel de programe de inteligență artificiale să mai dea răspunsuri eronate sau să „inventeze” lucruri, totul pornind de la seturile de date pe care aceste soft-uri sunt antrenate și de la sursele de unde provin răspunsurile.

Giganți din China precum Baidu sau Alibaba lucrează din plin la chatboți. Regulile stricte de cenzură vor face însă mult mai grea punerea în practică și multe modificări de programare vor trebui aplicate.

Chatboții sunt soft-uri care se folosesc de tehnologii precum învățarea automată, pentru a comunica într-un limbaj cât mai apropiat de o conversație obișnuită. Chatboții, deși răspund corect din punct de vedere gramatical, fac uneori greșeli factuale și preiau teorii ale conspirației sau dezinformări. Au început să fie folosiți pe scară largă în ultimele luni.

Roboții conversaționali mai trebuie perfecționați pentru că nu „înțeleg” toate interogările și pot fi induși destul de ușor în eroare. O mare problemă este că nu prea ști din ce surse iau răspunsurile. La boții care pot genera imagini sunt probleme, fiindcă iau, deși nu au dreptul, fotografii realizate de o mulțime de persoane care nu și-au dat acordul.

Sursa foto: Dreamstime.com