ИИ в роли злоумышленника: может ли машина превзойти человека в искусстве обмана?

Искусственный интеллект продолжает развиваться, с каждым новым исследованием демонстрируя поразительный прогресс. Но сможет ли машина когда-нибудь превзойти человека в искусстве обмана и манипуляций? Этот вопрос заинтересовал исследователей из IBM.

Команда IBM X-Force провела эксперимент, чтобы сравнить навыки ИИ и человека в создании фишинговых писем. Задача - составить максимально убедительное послание, которое побудит получателя кликнуть на вредоносную ссылку.

Перед моделью ChatGPT была поставлена непростая задача. В итоге ИИ справился за 5 минут, в то время как людям потребовалось 16 часов на аналогичное задание.

Однако финальные результаты оказались не в пользу нейросети. Письмо, созданное людьми, продемонстрировало бо́льшую эффективность, обеспечив кликабельность на уровне 14% против 11% у ChatGPT.

По мнению экспертов IBM, победу людям принесли эмоциональный подход, тщательный анализ целевой аудитории и грамотное построение текста. Хотя по скорости человек значительно уступает машине, он все еще опережает ИИ в психологических тонкостях.

Тем не менее, эксперты прогнозируют, что в скором времени ИИ сможет не просто сравняться, но и превзойти способности хакеров в социальной инженерии. Это ставит новые вызовы перед специалистами в сфере кибербезопасности.

Джон Каррутерс, выдающийся эксперт в сфере информационной безопасности, заявляет: "Нам просто необходимо изучать и анализировать методы, к которым злоумышленники могут прибегнуть, эксплуатируя генеративный ИИ. Понимая, как атакующие могут использовать технологии, мы поможем организациям минимизировать риски и эффективно защищаться от угроз".