Microsoft вскрыла опасную международную сеть торговцев доступом к ИИ

Microsoft подала в суд на иностранную группу хакеров, организовавших инфраструктуру для предоставления услуг взлома, направленных на обход систем безопасности её генеративных ИИ-сервисов и создание вредоносного контента.

Специалисты подразделения Digital Crimes Unit (DCU) компании сообщили, что злоумышленники разработали программное обеспечение, эксплуатирующее учётные данные пользователей, полученные из открытых источников. С его помощью они взламывали аккаунты, имеющие доступ к генеративным ИИ-сервисам, и модифицировали их функционал.

Хакеры использовали такие сервисы, как Azure OpenAI, и продавали доступ к ним другим злоумышленникам, предоставляя инструкции по созданию вредоносного контента. Microsoft обнаружила эту активность в июле 2024 года.

Компания заблокировала доступ к своим системам для этой группы, усилила защиту и получила судебный ордер на изъятие сайта «aitism[.]net», который служил основой для публичной вредоносной деятельности хакеров.

Популярность ИИ-инструментов, таких как ChatGPT, привела к тому, что злоумышленники начали их активно использовать для создания запрещённого контента и разработки вредоносных программ. Microsoft и OpenAI ранее сообщали о попытках государств, включая Китай, Иран и Северную Корею использовать их сервисы для разведки и распространения дезинформации.

В судебных документах указано, что за операцией стоят три неизвестных лица, использующих украденные API-ключи Azure и данные аутентификации клиентов для генерации вредоносных изображений с помощью модели DALL-E. Также сообщается о семи других участниках, применявших предоставленные хакерами инструменты для аналогичных целей.

Метод получения ключей API пока не выяснен, но в Microsoft заявили, что злоумышленники осуществляли их систематическую кражу у клиентов, включая компании из Пенсильвании и Нью-Джерси. Украденные ключи использовались для создания сервисов взлома, доступных через инфраструктуру с доменами «rentry.org/de3u» и «aitism.net».

Хакеры использовали инструмент de3u и прокси-сервис oai для отправки запросов в Azure OpenAI Service через украденные API-ключи, создавая вредоносные изображения. После изъятия сайта «aitism[.]net» они удалили репозиторий de3u, страницы Rentry.org и элементы инфраструктуры, чтобы скрыть следы.

Ранее, в мае 2024 года, компания Sysdig сообщала о схожих атаках, названных LLMjacking, в которых использовались украденные учётные данные облачных сервисов для взлома ИИ-инфраструктур от Anthropic, AWS, Google, Microsoft и других.

Microsoft заявила, что деятельность группы хакеров носит систематический характер, затрагивая не только её инфраструктуру, но и сервисы других ИИ-поставщиков.