Китайските AI чатботове цензурират политически чувствителни въпроси

Китайските чатботове с изкуствен интелект (AI) често отказват да отговарят на политически въпроси или повтарят официалните държавни наративи, което предполага, че те може да са цензурирани, показва ново проучване, цитирано от Euronews.

Проучването, публикувано в списанието PNAS Nexus, сравнява как водещите AI чатботове в Китай, включително BaiChuan, DeepSeek и ChatGLM, отговарят на повече от 100 въпроса за държавната политика, като ги сравнява с модели, разработени извън Китай.

Изследователите маркират отговорите като потенциално цензурирани, ако чатботът откаже да отговори или предостави неточна информация.

Въпроси, свързани със статута на Тайван, етническите малцинства или тези за известни продемократични активисти, предизвикват откази, отклонения или правителствени тези в китайските модели, отбелязва проучването.

„Нашите констатации имат значение за това как цензурата от страна на LLM моделите, базирани в Китай, може да повлияе на достъпа на потребителите до информация и на самото им осъзнаване, че са цензурирани“, казват изследователите, отбелязвайки, че Китай е една от малкото страни освен САЩ, които могат да създават фундаментални модели с изкуствен интелект.

Когато тези модели все пак отговарят на въпросите, те дават по-кратки отговори с по-висока степен на неточност, пропускайки ключова информация или оспорвайки предпоставката на въпроса.

BaiChuan и ChatGLM имат най-ниските нива на неточност сред китайските модели – 8%, докато DeepSeek достига 22%, което е повече от двойно над тавана от 10%, наблюдаван при некитайските модели.

AI цензурата може „тихо да влияе на вземането на решения“

В един от примерите китайски модел, запитан за интернет цензурата, не споменава „Великата защитна стена“ на страната – система, която Станфордският университет описва като държавно контролирана програма за наблюдение и цензура на интернет, която регулира какво може и какво не може да се вижда в онлайн мрежата. Популярните американски сайтове Google, Facebook и Yahoo например са блокирани в Китай чрез тази инициатива.

Чатботовете не споменават тази защитна стена в отговора си. Вместо това казват, че властите „управляват интернет в съответствие със закона“.

Проучването предупреждава, че този тип цензура може да бъде по-труден за откриване от потребителите, защото чатботовете често се извиняват или предлагат оправдание за това, че не отговарят директно. Това е фин подход, който може „тихо да формира възприятията, вземането на решения и поведението“, се казва в проучването.

През 2023 г. нови китайски закони постановиха, че компаниите за изкуствен интелект трябва да спазват „основните социалистически ценности“ и им е забранено да създават съдържание, което „подбужда към подриване на националния суверенитет или преобръщане на социалистическата система... или нанася вреда на имиджа на нацията“.

Компаниите, които биха могли да позволят „социална мобилизация“, трябва да преминат оценки за сигурност и да подадат своите алгоритми в Китайската администрация за киберсигурност, добавя правилото.

Изследователите заявяват, че регламентите „имат потенциал да повлияят на резултатите от големите езикови модели, разработени в Китай“.

Те обаче предупреждават, че не всички разлики в отговорите на чатботовете се дължат на натиск от страна на държавата.

Китайските модели могат да бъдат обучавани и на базата на набори от данни, които отразяват „културния, социалния и езиковия контекст на Китай“, които може да не се използват при обучението на други модели извън Китай, се отбелязва в проучването.