Muah.ai: взлом показал, что люди хотят делать с ИИ-девушками

Хакер взломал сайт Muah.ai, предоставляющий пользователям возможность создавать собственных «нецензурированных» виртуальных сексуальных партнёров, и украл массивную базу данных взаимодействий пользователей с чат-ботами.

В утечке оказались запросы, содержащие сексуальные фантазии, включая сценарии, связанные с CSAM. Хотя неясно, смогла ли система ИИ ответить на такие запросы, данные показывают, что пользователи пытались использовать платформу для подобных целей.

Хакер заявил изданию 404 Media, что Muah.ai плохо защищён и состоит из нескольких проектов с открытым исходным кодом, собранных вместе. Взлом начался из любопытства, но после обнаружения содержания базы данных хакер решил сообщить об этом журналистам. Он также отметил, что обнаружил уязвимости довольно быстро.

Администратор сайта, использующий имя Харвард Хан, указал, что взлом был организован конкурентами, которые «движимы жаждой прибыли», в то время как Muah.ai является проектом, ориентированным на сообщество. Взлом был обнаружен на прошлой неделе, однако доказательств своих слов Хан не предоставил. Хакер же заявил, что работает в IT-сфере, но не связан с разработкой ИИ.

Взлом создал серьёзные риски для пользователей Muah.ai, так как их сексуальные фантазии теперь могут быть связаны с личными почтовыми адресами, многие из которых выглядят как личные аккаунты с настоящими именами. В утечке также содержатся запросы, описывающие фантазии на тему сексуального доминирования, пыток и принуждения.

404 Media связалось с несколькими пользователями, чьи данные попали в базу, но никто из них не предоставил комментариев.

После обнаружения взлома на сервере Discord появился сообщение о хакерской атаке. В посте подтвердили факт атаки и заявили, что данные чатов не хранятся и стираются после сброса. Однако база данных, похоже, содержит много информации, связывающей пользователей с их запросами.