Созданные ИИ фишинговые письма оказались эффективнее, чем написанные человеком

Эксперты в области кибербезопасности уже некоторое время обсуждают вопрос, есть ли смысл киберпреступникам использовать машинное обучение для тренировки алгоритмов, способных генерировать фишинговые письма. В конце концов, массовые фишинговые сообщения просты, шаблонны и уже продемонстрировали огромную эффективность. Однако письма для целенаправленного фишинга создать не так просто, и здесь на помощь могут прийти технологии обработки естественного языка (NLP).

На конференциях Black Hat и Defcon, проходивших на прошлой неделе в Лас-Вегасе, специалисты Государственного технологического агентства Сингапура представили результаты недавнего эксперимента, в ходе которого они разослали двум сотням своих коллег целенаправленные фишинговые письма, созданные ими самими, а также сгенерированные с помощью платформы «искусственный интеллект как услуга» (AI-as-a-service).

И те и другие сообщения содержали ссылки, которые не были вредоносными, но сообщали исследователям, сколько раз получатели кликнули на них. Каково же было удивление экспериментаторов, когда оказалось, что чаще всего «жертвы» нажимали на ссылки в сообщениях, созданных ИИ, а не людьми. Разница в количестве кликов оказалась весьма существенной.

«Исследователи отмечали, что ИИ должен иметь достаточный объем специальных знаний. На обучение по-настоящему хорошей модели требуются миллионы долларов. Но если использовать платформу “искусственный интеллект как услуга”, стоимость снизится до нескольких центов, кроме того, ею очень легко пользоваться – просто вводите и выводите текст. Вам даже не нужно запускать код, просто введите данные и получите результат. Это снижает входной барьер для гораздо большей аудитории и увеличивает число потенциальных целей для целенаправленного фишинга. Внезапно оказалось, что каждое массовое электронное письмо может быть персонализировано под каждого получателя», – сообщил ИБ-эксперт Государственного технологического агентства Сингапура Юджин Лим (Eugene Lim).

С помощью платформы OpenAI GPT-3 и других продуктов «искусственный интеллект как услуга», ориентированными на анализ личности, исследователи создали фишинговые электронные письма с учетом особенности каждого получателя. Машинное обучение, ориентированное на анализ личности, направлено на прогнозирование склонностей и менталитета человека на основе данных о его поведении. Пропустив эти данные через несколько сервисов, исследователи смогли разработать конвейер, обрабатывающий и шлифующий электронные письма перед их отправкой. По словам исследователей, результаты оказались «удивительно человечными».