Новый уровень цензуры: ИИ понимает не только слова, но и подтекст

В Китае активно разворачивается новая волна цифровой цензуры, и на этот раз её инструментом становится искусственный интеллект. Утечка базы данных, с которой ознакомился TechCrunch, показывает: власти создают систему на базе больших языковых моделей (LLM), способную автоматически выявлять и блокировать материалы, считающиеся политически чувствительными. Среди 133 000 примеров — жалобы на коррупцию, бедность в деревнях, недовольство действиями полиции и даже тонкие сатирические посты.

Система представляет собой качественно иной уровень по сравнению с привычной фильтрацией по ключевым словам. Она способна анализировать контекст, распознавать аллюзии, метафоры и даже намёки, что делает контроль над информацией гораздо более точным и незаметным. Такой подход позволяет не только фильтровать публикации, но и совершенствовать сами китайские ИИ-модели, усиливая их встроенную способность к репрессии.

В базу включены публикации, затрагивающие темы, вызывающие общественное недовольство: загрязнение окружающей среды, проблемы с безопасностью продуктов питания, трудовые споры, экономические махинации. Особое внимание уделяется вопросам Тайваня, военных дел и политической сатиры. Причём цензуре подвергаются не только прямые обвинения, но и более завуалированные формы критики — например, использование идиом о власти и падении иерархии.

Выдержки из базы включают жалобы бизнесменов на вымогательство со стороны местной полиции, описание запущенных деревень, где остались только старики и дети, а также упоминание о партийном чиновнике, изгнанном из КПК за коррупцию и «суеверия». Поиск по базе показал, что одно только слово «Тайвань» встречается более 15 000 раз — яркий показатель того, какие темы находятся под особенно пристальным наблюдением.

База была обнаружена на незащищённом сервере Baidu. Несмотря на отсутствие подтверждений участия конкретных компаний, хостинг на общедоступной платформе указывает на отсутствие должной защиты таких систем. Последние записи в базе датируются декабрём 2024 года, что свидетельствует о её актуальности и, возможно, продолжающемся обучении модели.

Примечательно, что в описании базы используется термин «работа с общественным мнением» — официальный эвфемизм в лексиконе китайских властей, обозначающий пропаганду и цензуру. Эта сфера регулируется Администрацией киберпространства Китая (CAC). Сам председатель КНР Си Цзиньпин не раз подчёркивал, что интернет должен быть «передовой линией» информационного влияния партии.

Посольство Китая в Вашингтоне в своем заявлении сообщило TechCrunch, что выступает против «беспочвенных нападок и клеветы на Китай» и что Китай придает большое значение развитию этичного ИИ.

В сентябре 2024 года стало известно, что Китай запускает спутниковую систему интернет-цензуры. Важное место в проекте уделено контролю за содержанием информации.