Боты против демократии: фейки и аккаунты-пустышки затопили интернет в 2024 году

Эксперты бьют тревогу: искусственный интеллект превратил мошенничество с личными данными в настоящую индустрию. Согласно последнему отчету компании AU10TIX за третий квартал 2024 года, цифровые платформы в последнее время сталкиваются с беспрецедентным ростом изощренных атак, особенно в сфере социальных сетей, платежных систем и криптовалют. По оценкам аналитиков, ежемесячный ущерб от таких инцидентов достигает 2,8 миллиарда долларов, что на 340% больше показателей прошлого года.

Преступники сильно усовершенствовали свои методы: на смену простым подделкам документов пришли синтетические личности, дипфейки и автоматизированные боты, способные обходить традиционные системы верификации. Генеративный ИИ помогает настраивать поддельные аккаунты и распространять дезинформацию. Исследователи выявили более 50 специализированных площадок в даркнете, где идет обмен инструментами, помогающими создавать синтетические личности.

Резкий всплеск активности ботов был зафиксирован в социальных сетях накануне президентских выборов в США. Если в начале 2024 года на долю таких атак приходилось всего 3% от общего числа мошеннических кампаний, то к третьему кварталу этот показатель вырос до 28%. Средняя продолжительность жизни фейкового аккаунта увеличилась с 48 часов до 12 дней.

Начавшаяся в марте 2024 года волна атак с использованием генеративного ИИ достигла пика в сентябре. Злоумышленники научились создавать убедительные фальшивые нарративы и провокационный контент, стремясь повлиять на общественное мнение. Согласно анализу, ложные данные распространяются через сложные сети компьютеров, разбросанные по всему миру. Таким образом преступники скрывают свои следы – в 70% случаев источник атаки так и не удается обнаружить.

Новый тренд - "многослойные" синтетические личности с согласованной онлайн-историей сразу на нескольких платформах. Для убедительности дезинформаторы заводят поддельные аккаунты в LinkedIn, Instagram* и других соцсетях, а затем месяцами наполняют их активностью, прежде чем задействовать их в пропаганде.

Еще одна принципиально новая уловка – синтетические селфи. Гиперреалистичные изображения настолько точно имитируют настоящие лица, что способны обмануть биометрические системы безопасности. Раньше селфи считались надежным способом аутентификации, поскольку генеративные технологии еще не были настолько хорошо развиты.

Современные синтетические селфи даже проходят проверку на "признаки жизни": моргание и мимику. Алгоритмы научились генерировать короткие видеоролики с естественными движениями лица, так что традиционные методы верификации скоро окажутся просто бесполезными. Видимо, эпоха спокойствия подошла к концу.

Злоумышленники также освоили технику "атаки шаблонами" – когда единственный поддельный документ становится основой для генерации множества уникальных личностей. ИИ автоматически меняет фотографии, номера документов и персональные данные.

Еще одна тактика - "временное замещение". Это когда легальные документы реальных людей используются для первичной верификации, а затем данные постепенно заменяются на синтетические. Такой подход позволяет обходить даже самые строгие системы проверки.

В платежном секторе дела налаживаются: если во втором квартале мошеннические атаки составляли 52% от общего числа, то в третьем показатель снизился до 39%. Как считают аналитики, это произошло из-за того, что регуляторы и правоохранительные органы усилили контроль.

Теперь, что логично, киберпреступникам больше интересен криптовалютный рынок. В третьем квартале они провели здесь 31% всех атак, сделав криптосферу второй по популярности целью. Причем действуют они все быстрее: теперь от создания поддельной личности до первой попытки обмана проходит всего 6 часов.

Особенно активно атакуют децентрализованные финансовые платформы (DeFi). Исследователи уже обнаружили целую сеть из более чем 10 000 связанных между собой аккаунтов, которые сообща манипулируют решениями в крупных DeFi-проектах.

Аналитики AU10TIX уверены: простой проверки документов уже недостаточно. Они советуют компаниям следить за тем, как пользователи ведут себя в системе: когда они заходят, откуда приходит трафик и какие действия совершают.