Операция Peer Review: Chatgpt использовали для международного шпионажа

Компания OpenAI заблокировала ряд аккаунтов , использовавших ChatGPT для создания потенциально вредоносного инструмента слежки на базе искусственного интеллекта. По данным исследователей, этот инструмент, ориентированный на мониторинг социальных сетей, вероятно, был разработан в Китае и использовал для работы одну из моделей Meta Llama.

Анализ показал, что заблокированные аккаунты применяли возможности ChatGPT для генерации детализированных описаний и анализа документов, способствуя созданию системы, собирающей в реальном времени данные о протестах против Китая на Западе. Затем информация передавалась китайским властям. Кампания получила кодовое название Peer Review из-за систематического продвижения и тестирования технологий слежки.

В рамках расследования OpenAI выявила использование ChatGPT для отладки и модификации исходного кода системы, известной как «Qianyue Overseas Public Opinion AI Assistant». Этот инструмент анализировал публикации и комментарии на таких платформах, как X*, Facebook**, Instagram**, YouTube, Telegram и Reddit, отслеживая упоминания протестных движений и другие чувствительные темы.

Кроме того, злоумышленники использовали ChatGPT для сбора открытых данных об аналитических центрах США, политических деятелях Австралии, Камбоджи и Соединённых Штатов, а также для перевода и анализа документов, содержащих информацию о протестах уйгуров. Подлинность некоторых скриншотов, загруженных в систему, остаётся под вопросом.

Помимо этого, OpenAI обнаружила и пресекла работу нескольких других сетей, использовавших ChatGPT для противоправных действий:

— Мошенническая схема трудоустройства. Группа, связанная с Северной Кореей, использовала нейросеть для создания поддельных резюме, профилей и писем о приёме на работу в рамках схемы обмана IT-компаний.

— Пропаганда в Латинской Америке. Китайская сеть распространяла антиамериканские статьи на английском и испанском языках, размещая их на сайтах в Перу, Мексике и Эквадоре. Часть активности совпадает с ранее известной кампанией Spamouflage.

— Романтические мошенничества. Связанная с Камбоджей группа создавала комментарии на японском, китайском и английском языках для мошеннических схем с инвестициями и романтическими аферами.

— Проиранская пропаганда. Сеть из пяти аккаунтов публиковала материалы в поддержку Палестины, ХАМАС и Ирана, выступая против США и Израиля. Некоторые аккаунты одновременно обслуживали несколько кампаний.

— Киберпреступность в Северной Корее. Группы Kimsuky и BlueNoroff использовали ChatGPT для изучения атакующих инструментов, связанных с криптовалютами, и отладки кода для брутфорса RDP.

— Информационные манипуляции в Гане. Сеть публиковала статьи и комментарии, влияя на выборы в Гане через англоязычный сайт «Empowering Ghana».

— Мошенничество с заданиями. Камбоджийская сеть заманивала людей на мошеннические задания (например, накрутка лайков и написание отзывов за деньги), требуя предоплату для участия.

Инцидент наглядно показывает, что искусственный интеллект уже давно стал эффективным инструментом для проведения кибератак, распространения дезинформации и манипулирования общественным мнением. Недавний отчёт Google Threat Intelligence Group подтвердил, что как минимум 57 групп, связанных с Китаем, Ираном и Северной Кореей, уже используют ИИ для различных этапов атак, включая генерацию контента и анализ информации.

OpenAI подчёркивает, что совместная работа ИИ-компаний, соцсетей, хостинговых провайдеров и исследователей помогает обнаруживать угрозы и разрабатывать механизмы защиты от злоупотребления искусственным интеллектом. Такая координация позволяет своевременно выявлять злоумышленников и существенно ограничивать их влияние.

* Социальная сеть запрещена на территории Российской Федерации.
** Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.