Раздевающие боты в Telegram выходят из-под контроля

Боты в популярном мессенджере Telegram, которые создают порнографические изображения на основе фотографий, стали настоящей проблемой, несмотря на попытки законодательных органов и IT-компаний бороться с ними.

Эксперт по дипфейкам Генри Айдер в 2020 году обнаружил один из первых ботов, «раздевающих» изображения женщин с помощью искусственного интеллекта. По его словам, тогда было создано более 100 000 откровенных фотографий, в том числе изображений детей. Этот случай стал важной вехой, демонстрирующей, к чему могут привести дипфейки.

С тех пор технология развивалась, и теперь в Telegram можно найти десятки ботов, которые предлагают создать обнажённые или порнографические изображения с помощью нескольких кликов. Свежее исследование, проведённое изданием WIRED, выявило как минимум 50 таких ботов, некоторые из которых демонстрируют особенно высокую популярность, набирая более 400 тысяч пользователей. В то же время, суммарно все эти боты насчитывают порядка 4 миллионов активных пользователей в месяц.

Айдер подчёркивает, что количество людей, использующих подобные инструменты, резко возросло, особенно в сравнении с 2020 годом. Он отмечает, что такие технологии представляют серьёзную угрозу, особенно для молодых девушек и женщин, и до сих пор легко доступны через Telegram. Боты, нарушающие приватность, часто сопровождаются каналами, на которых пользователи могут подписываться на обновления о новых функциях и предложениях.

Хотя Telegram удалил 75 ботов и связанных с ними каналов после вопросов от WIRED, проблема не исчезла. Новые боты продолжают появляться, несмотря на попытки платформы бороться с этим. По словам Елены Майкл, директора кампании #NotYourPorn, Telegram трудно отслеживать и модерировать, что делает платформу особенно опасной для жертв дипфейк-насилия.

Примечательно, что большинство ботов требует от пользователей покупки токенов для создания изображений, а правила, запрещающие загружать изображения без согласия, практически не контролируются. Более того, Telegram предоставляет функции поиска, которые позволяют легко находить и использовать таких ботов.

Пока законодательные меры принимаются в разных странах, а IT-компании обновляют свои политики, Telegram остаётся одной из ключевых платформ, на которой продолжают распространяться дипфейк-изображения.

И хотя модераторов Telegram можно упрекнуть в неэффективной работе, модерация стала главным приоритетом платформы в 2024 году. Для усиления контроля Telegram улучшил свои инструменты, чтобы определять новые типы контента и облегчать работу модераторов с помощью ИИ. Вполне возможно, в перспективе это повлияет на ситуацию в положительную сторону.

Недавно даже был запущен бот @searchReport, позволяющий пользователям самим сообщать о подозрительных поисковых запросах на любом языке, что помогает находить и удалять нелегальный контент, включая дипфейки и порнографические изображения, созданные вышеупомянутыми раздевающими ботами.