Studii recente evidențiază cenzura în chatboții de inteligență artificială din China

Un nou studiu internațional sugerează că chatboții dezvoltați în China evită întrebările sensibile din punct de vedere politic și par să reproducă pozițiile oficiale ale statului. Potrivit digi24.ro, cercetarea a analizat peste 100 de întrebări legate de teme precum Taiwan, politică și activiști pro-democrație, concluzionând că modelele de inteligență artificială chineze beneficiază de un tip de cenzură greu de observat de utilizatori.

👉 Cenzura și inexactitatea răspunsurilor

Studiul publicat în revista PNAS Nexus compară răspunsurile datelor de către chatboții chinezi, inclusiv BaiChuan, DeepSeek și ChatGLM, față de modelele din afara Chinei. Răspunsurile la întrebări legate de statutul Taiwanului sau minoritățile etnice au adesea fost refuzate sau au inclus poziții guvernamentale, relevă cercetarea.

Cercetătorii au observat că atunci când aceste modele ofereau răspunsuri, ele erau mai scurte și prezentau un nivel mai mare de inexactitate, omitând informații esențiale. De exemplu, BaiChuan și ChatGLM au avut o rată de inexactitate de 8%, în timp ce DeepSeek a atins 22%, cifra dublă comparativ cu modelele non-chineze.

👉 Implicarea reglementărilor recente asupra conținutului generat

Studiul subliniază că noile legi din China, care impun companiilor din domeniul inteligenței artificiale să promoveze „valorile socialiste fundamentale”, pot influența semnificativ conținutul generat de aceste modele. Reglementările prevăd că firmele care facilitează „mobilizarea socială” trebuie să se supună evaluărilor de securitate și să înregistreze algoritmii la Administrația Chineză pentru Securitatea Cibernetică.

Cu toate acestea, cercetătorii atrag atenția că nu toate inexactitățile sunt rezultatul presiunii statului, ci și o consecință a antrenamentului pe seturi de date specifice culturii și societății chineze, care diferă de cele utilizate pentru modelele internaționale.