GenNomis - подпольная империя ИИ-эксплуатации знаменитостей

В открытом доступе оказалась база данных с десятками тысяч изображений, созданных с помощью искусственного интеллекта, включая откровенные сцены с участием взрослых и детей. Исследователь безопасности Джеремайя Фаулер обнаружил более 95 000 записей, среди которых были текстовые запросы пользователей и изображения знаменитостей, омоложённых до внешности детей. Среди них — образы, напоминающие Арину Гранде, Бейонсе и членов семьи Кардашьян. Материалы содержали визуальный контент, который, по оценке экспертов, может считаться незаконным.

Речь идёт о сервисе GenNomis, управляемом южнокорейской компанией AI-Nomis. На сайте предлагались генераторы изображений, чат-боты и инструменты вроде замены лиц и удаления фона. Всего в открытом виде находилось более 45 ГБ данных. Доступ к ним не был защищён паролем или шифрованием, а получить их можно было просто по ссылке. После того как WIRED связался с компанией, все сайты были удалены, а страницы начали возвращать ошибку 404.

База дала представление о том, как технологии генерации изображений на основе ИИ используются для создания сексуализированных материалов без согласия, включая CSAM-материалы. Появление таких сервисов совпало с ростом популярности «раздевающих» приложений, сайтов и ботов, на которых женщины и несовершеннолетние становятся жертвами цифрового сексуализированного насилия.

Фаулер отметил, что особенно пугает простота создания подобных изображений. Среди файлов есть не только реалистичные фото, но и изображения, созданные на основе настоящих лиц. Некоторые из них напоминали результат подстановки лиц в откровенные сцены. Были и изображения одетых детей, где невозможно однозначно определить, сгенерированы ли лица полностью или основаны на фотографиях реальных людей.

На момент утечки сайт GenNomis допускал размещение контента категории NSFW. На главной странице находились интимные изображения (анимированные и фотореалистичные), а также раздел с «моделями» и галерея, где можно было делиться изображениями и продавать альбомы. На сайте использовались формулировки вроде «генерация без ограничений» и «нецензурированные изображения». В базе также были обнаружены текстовые запросы, использованные для генерации интимных изображений различного характера, включая изображения со знаменитостями.

Официальные правила площадки запрещали «детскую порнографию» и иные незаконные действия, однако специалисты подчеркивают, что технических ограничений или модерации, способных предотвратить создание ИИ-материалов с признаками CSAM, вероятно, не было. Некоторые пользователи жаловались на блокировку запросов на сексуальный контент, но другие отмечали, что NSFW-раздел может вызвать интерес со стороны правоохранительных органов.

По словам Фаулера, если получить доступ к базе можно было просто по ссылке, значит, платформа явно не обеспечивала должной защиты. Специалисты по дипфейкам считают, что несмотря на запреты, структура сайта и риторика создавали атмосферу вседозволенности, где сексуализированный контент воспринимался как основное направление.