Новая эра кибермошенничества: как ИИ меняет правила игры

Забудьте все, что вы думали, что знали о безопасности в сети. Больше никаких явных признаков, насмешливого притворства, смехотворных обещаний. Следующее электронное письмо, которое покажется отправленным вашим другом, членом семьи или коллегой, может оказаться настолько искусной подделкой, что распознать обман будет практически невозможно.

Искусственный интеллект кардинально меняет ландшафт кибербезопасности. McAfee предупреждает, что киберпреступники получили возможность легко создавать персонализированные и убедительные сообщения, которые выглядят как отправленные из надежных источников. Популярные почтовые сервисы, включая Gmail, Outlook и Apple Mail, пока не имеют эффективной защиты от этой новой угрозы.

По данным The Financial Times , наблюдается рост числа гиперперсонализированных фишинговых атак, созданных с помощью ИИ-ботов. Крупные компании, такие как eBay, уже сообщают об увеличении количества мошеннических писем, содержащих личные данные пользователей, собранные путем анализа их онлайн-профилей с помощью искусственного интеллекта.

Check Point прогнозирует, что к 2025 году киберпреступники будут использовать искусственный интеллект для создания узконаправленных фишинговых кампаний и адаптации вредоносного ПО в режиме реального времени, чтобы обойти традиционные механизмы защиты. Хотя службы безопасности также внедряют ИИ-инструменты, злоумышленники продолжают совершенствовать свои методы атак.

ИИ-боты способны анализировать огромные массивы данных о стиле общения компании или конкретного человека, воспроизводя их характерные особенности для создания убедительного обмана. Они также собирают информацию о присутствии потенциальной жертвы в сети и ее активности в социальных сетях, чтобы определить наиболее эффективные темы для фишинговых атак.

Особую опасность представляют корпоративные атаки, направленные на получение конфиденциальной информации или доступа к внутренним системам предприятия. Мошенники могут использовать сложные схемы для манипулирования руководством компании и получения одобрения на проведение финансовых операций. Check Point утверждает, что современные технологии ИИ позволяют создавать идеальные фишинговые письма.

По словам исследователя кибербезопасности eBay Надежды Демидовой, доступность инструментов генеративного ИИ существенно снижает порог входа в киберпреступность. Она отмечает значительный рост числа кибератак всех видов, называя последние мошеннические схемы "отточенными и точно рассчитанными".

Угроза настолько серьезна, что ФБР недавно выпустило специальное предупреждение о генеративном ИИ. В нем отмечается, что эти инструменты способны создавать новый контент на основе введенных данных и исправлять человеческие ошибки, которые раньше могли служить признаками мошенничества. Хотя синтетический контент сам по себе не является незаконным, его все чаще используют для совершения преступлений, включая мошенничество и вымогательство.

Cтоит отметить, что независимо от использования ИИ в атаке, критически важно сохранять бдительность и тщательно проверять любые запросы на передачу денег или конфиденциальной информации, какими бы правдоподобными они ни казались. Необходимо использовать двухфакторную аутентификацию, создавать надежные уникальные пароли или применять ключи доступа, а также никогда не переходить по подозрительным ссылкам.