Как ChatGPT оказался в центре международного скандала.
16 августа компания OpenAI сообщила о массовой блокировке аккаунтов, связанных с иранской операцией по скрытому влиянию, в рамках которой использовался ChatGPT для создания контента, в том числе касающегося предстоящих президентских выборов в США. В заявлении компании отмечается, что эти аккаунты были частью группы под названием «Storm-2035».
Операция «Storm-2035» использовала искусственный интеллект для генерации материалов на различные темы, включая выборы в США, конфликты в Газе и политические события в Венесуэле. Содержание этих материалов распространялось через социальные сети и сайты, позиционирующиеся как новостные порталы, представляющие оппозиционные политические взгляды.
OpenAI подчеркнула, что большинство постов, созданных в рамках операции, не получили значительного отклика, собрав минимальное количество лайков, репостов и комментариев. Кроме того, было обнаружено, что длинные статьи, написанные с помощью ChatGPT, практически не распространялись в соцсетях.
Контент создавался на английском и испанском языках и публиковался на нескольких аккаунтах в X* и Instagram**. В некоторых случаях ИИ использовал комментарии других пользователей для усиления воздействия.
Группа также использовала весьма разнообразные темы, такие как мода и красота, чтобы создать видимость подлинности аккаунтов и привлечь как можно более широкую аудиторию. В дополнение к политическим темам «Storm-2035» использовала платформы для обсуждения вопросов, связанных с правами ЛГБТ***, независимостью Шотландии и присутствием Израиля на Олимпийских играх.
Эта операция стала одной из тех, о которых ранее предупреждала компания Microsoft. По её данным, «Storm-2035» активно пыталась воздействовать на группы избирателей в США с целью разжигания хаоса, подрыва власти и посева сомнений в честности выборов.
В ответ на усиленные меры по контролю, такие как блокировка аккаунтов и снижение активности, злоумышленники начали менять тактику, создавая неполитический контент и подделывая популярные медиа-порталы. Meta и Google также сообщили о похожих попытках со стороны других групп по распространению пропаганды и фишинговых атак.
Эти события подчёркивают возрастающую угрозу внешнего влияния на политические процессы в разных странах, что требует постоянного мониторинга и усиления мер безопасности на глобальном уровне.
* Социальная сеть запрещена на территории Российской Федерации.
** Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.
*** Движение ЛГБТ признано экстремистским и запрещено на территории РФ.