$25 млн за голос: как ИИ помогает обходить защиту банков

Служба по борьбе с финансовыми преступлениями (FinCEN) выпустила предупреждение для финучреждений о новых схемах мошенничества, связанных с дипфейками.

С начала 2023 года и по настоящее время FinCEN наблюдает в отчетах финансовых организаций значительное увеличение числа сообщений о подозрительных действиях, связанных с дипфейками. Злоумышленники активно используют возможности генеративного искусственного интеллекта (GenAI) для подделки документов и обмана систем идентификации. Часто в таких случаях создаются поддельные удостоверения личности, что позволяет мошенникам обходить процедуры проверки и верификации клиентов.

Особое внимание FinCEN уделено тому, что дипфейк и сгенерированные изображения используются для обхода стандартных методов аутентификации. Например, преступники могут изменять или создавать фотографии для поддельных водительских удостоверений, паспортов и других документов, используя сочетание настоящих и фальшивых персональных данных (PII), чтобы создать так называемые «синтетические идентичности». Поддельные профили затем используются для открытия счетов и последующего проведения финансовых операций.

Как финансовые учреждения могут выявлять мошенничество

Для защиты от угроз FinCEN выделяет ряд индикаторов, которые могут помочь финансовым организациям в выявлении мошенничества с дипфейками:

1. Несоответствия в документах — финучреждения могут обнаружить подделки при повторной проверке документов, представленных клиентами. Например, если фото на удостоверении личности выглядит подозрительно или имеет явные признаки цифровой обработки.
2. Проблемы с верификацией личности — некоторые клиенты могут не суметь убедительно подтвердить свою личность или источник дохода. Если во время проверки возникают частые технические сбои, это может свидетельствовать о попытке использования заранее подготовленного видео вместо живой видеосвязи.
3. Аномальная активность на счетах — FinCEN советует обращать внимание на счета, которые демонстрируют подозрительную активность, например, множественные операции в короткие сроки или переводы на рискованные платформы, такие как сайты азартных игр или криптовалютные биржи.
4. Подозрительные попытки обойти проверку — злоумышленники могут пытаться изменить способ связи во время процесса верификации, ссылаясь на якобы технические проблемы. Использование плагинов для веб-камер также может быть сигналом о попытке подделки видео.

FinCEN также предупреждает о риске использования дипфейков в схемах социальной инженерии. Например, преступники могут использовать поддельные голоса или видео, чтобы убедить сотрудников компаний перевести средства на мошеннические счета. В одном из известных случаев мошенники, имитируя голос топ-менеджера, добились перевода более $25 млн. на свои счета.

Рекомендации для защиты от угроз

FinCEN рекомендует финансовым учреждениям усилить меры безопасности и внедрить передовые методы аутентификации для противодействия дипфейк-атакам. К таким мерам относятся:

• Многофакторная аутентификация (MFA) — использование двух и более факторов для подтверждения личности, таких как одноразовые пароли или биометрия.
• Живая верификация — проведение проверок в режиме реального времени через аудио- и видеосвязь для подтверждения личности клиента. Несмотря на то, что мошенники могут использовать инструменты для генерации синтетических ответов, такие проверки могут выявить несоответствия.

FinCEN также советует проводить регулярные тренировки и обновление знаний для сотрудников по выявлению признаков дипфейков и фишинговых атак. Кроме того, финучреждения должны учитывать риски, связанные с использованием сторонних провайдеров для проверки личности, и внедрять процессы управления рисками на всех этапах сотрудничества.