China vrea să impună reguli privind utilizarea AI. Tipul de conținut care va fi interzis de Beijing

Instituția chineză de reglementare în mediul online a publicat un proiect pentru dezbatere publică prin care preconizează întărrirea supravegherii serviciilor de inteligență artificială care sunt concepute să simuleze personalitatea umană și să angajeze utilizatorii în interacțiuni emoționale, scrie Reuters.

Intenția semnalează efortul Beijingului de a modela utilizarea din ce în ce mai extinsă a inteligenței artificiale prin consolidarea siguranței și regelementări de ordin etic.

Regulile propuse se vor aplica produselor și serviciilor AI oferite publicului în China care simulează trăsături umane de personalitate, modele de gândire și stiluri de comunicare și care interacționează cu utilizatorii la nivel emoțional prin text, imagini, conținut audio-video sau alte mijloace.

Proiectul prezintă o abordare a reglementării prin care furnizorii trebuie să avertizeze utilizatorii asupra folosirii excesive și să intervină când utilizatorii arată semne de dependență.

Furnizorii de servicii AI vor fo obligați să-și asume responsabilitățile de siguranță pe durata ciclului de viață al produsului și să stabilească sisteme de evaluare a algoritmilor și de protejare a informațiilor personale.

Proiectul ia în calcul și potențialele riscuri psihologice. Furnizorii vor trebui să identifice starea mentală în care se află utilizatorii și să evalueze nivelul lor de dependență față de serviciul AI. În cazul în care aceștia arată emoții extreme sau dependență, furnizorii vor fi obligați să ia măsuri să intervină.

Măsurile stabilesc linii roșii privind conținutul, fiind interzis conținut care periclitează securitatea națională, care răspândește zvonuri sau promovează violența sau obsecenitatea.