Дипфейки на рабочем месте: даже ваш начальник может оказаться подделкой

Американские спецслужбы, включая Агентство национальной безопасности, ФБР и CISA, опубликовали доклад , согласно которому угроза от «синтетических медиа», или дипфейков, сильно возросла в последнее время. Синтетические медиа — это искусственно созданные тексты, видео и аудиозаписи, которые все труднее отличить от настоящих.

По данным ведомств, мошенники и шпионы часто используют дипфейки для получения доступа к корпоративным системам, имитируя сотрудников компаний или обманывая клиентов. Основными жертвами становятся военные, сотрудники госструктур, спасатели, а также критическая инфраструктура и оборонные предприятия.

В мае 2023 года были зафиксированы два интересных случая. В одном из них злоумышленники имитировали голос и внешний вид CEO компании на созвоне в WhatsApp. Им даже удалось воссоздать интерьер его комнаты.

В другом примере преступники использовали комбинацию поддельного аудио, видео и текстовых сообщений, чтобы притвориться одним из руководителей. Сначала общение велось через WhatsApp, а затем перешло в видеоконференцию на платформе Teams. «Качество соединения оказалось очень плохим, поэтому злоумышленник предложил переключиться на текстовый формат и стал настаивать на переводе денежных средств», — говорится в докладе. «На этом этапе жертва начала подозревать, что что-то не так и прервала беседу».

Правительственные агентства также ссылаются на список главных политических и экономических рисков 2023 года от Eurasia Group, где генеративный искусственный интеллект занимает третье место. Согласно этому отчету, прогресс в сфере ИИ может подорвать социальное доверие и укрепить влияние авторитарных режимов.

Синтетические медиа, созданные с помощью генеративных технологий — удобный инструмент для распространения дезинформации в политической и социальной сферах.

Для защиты от дипфейк-угроз ведомства рекомендуют компаниям настроить специальные программы для обнаружения медиа-подделок и их верификации в реальном времени. Кроме того, специалисты по кибербезопасности должны разработать детализированный план реагирования на инциденты с учетом различных сценариев атак. Этот план должен регулярно отрабатываться в ходе учебных тренировок.