Модель с поющим Си Цзиньпином удалили с платформы Hugging Face. Зато остался Байден

Компания Hugging Face, разработчик одноименной платформы искусственного интеллекта, удалила несколько моделей ИИ, которые позволяли пользователям создавать контент с участием президента Китая Си Цзиньпина в роли певца.

Решение было принято после заявления сооснователя компании, Жюльена Шомона . В документе он утверждает, что создание моделей в «политических целях» нарушает условия использования базового программного обеспечения и правила самой Hugging Face. Среди таких правил - запрет на персонификацию без согласия человека.

Тем не менее, исследователи заметили на платформе похожие «экземпляры» с голосом президента США — Джо Байденом. Обнаружено было множество материалов, в том числе кавер президента на песню «Cupid» с непристойным текстом. Это вызывает серьезные вопросы относительно того, какие методы использует компания для модерации сайта.

Исследование Майкла Вила и Роберта Горвы из Университетского колледжа Лондона и Берлинского центра социальных наук также указывает, что Hugging Face создала репозиторий со всеми запросами на удаление контента от государственных и промышленных структур. Однако в случае с моделью «XiJinPing_Singing» подробности отсутствуют — на странице указано лишь «[детали опущены]».

Вил предположил, что требование об удалении модели могло исходить не от правообладателя, а от китайского правительства или его агентов, но подтверждений этому пока что нет.

Hugging Face не прокомментировала ситуацию с Си Цзиньпином, а также не ответила на вопросы о законности материалов, связанных с американскими, европейскими и другими политиками.

Этот случай акцентирует внимание на прозрачности и справедливости регулировок на ИИ-платформах и подчеркивает потенциальное влияние государственных органов на публикуемый контент.