ИИ подставил вице-президента США: аудиофейк с Вансом набрал миллионы просмотров

На выходных в соцсетях распространилась аудиозапись, где, как утверждалось, вице-президент США Джей Ди Ванс нелестно отзывается об Илоне Маске, называя его «человеком, играющим роль великого американского лидера», который «ставит администрацию в неловкое положение». Позже в воскресенье директор по коммуникациям Ванса Уильям Мартин заявил в X* (бывший Twitter), что запись «на 100% фейковая и точно не принадлежит вице-президенту». Исходный пост с аудио уже удалён.

Эксперты по борьбе с дезинформацией из компании Reality Defender проверили аудиофайл и пришли к выводу, что он, скорее всего, сгенерирован ИИ. «Мы использовали несколько моделей анализа аудио. Вероятность подделки очень высока», — сообщил представитель компании. По его словам, в запись специально добавили фоновый шум и реверберацию, чтобы скрыть следы синтетической природы аудио.

На TikTok фрагмент без маркировки об использовании ИИ набрал более 2 миллионов просмотров и 8000 комментариев. Один из первых: «С развитием ИИ я уже не знаю, чему верить». Запись также распространилась на YouTube и X, несмотря на правила TikTok, запрещающие дезинформацию и обязывающие отмечать ИИ-контент .

Это не первый случай, когда на TikTok размещают синтетические аудио известных политиков. Ранее с помощью голоса Дональда Трампа продвигали финансовые мошенничества. Представители TikTok не прокомментировали ситуацию.

Сейчас невозможно точно установить, какое ПО использовали для создания подделки. Однако такие сервисы, как ElevenLabs, позволяют легко копировать голоса знаменитостей, несмотря на заявленные меры защиты. В марте Consumer Reports протестировал шесть ИИ-сервисов и пришёл к выводу, что реальные ограничения в них отсутствуют.

Хотя фейк с голосом Ванса вряд ли окажет серьёзное политическое влияние, случай подчеркивает, насколько просто стало производить правдоподобные, но поддельные аудиоматериалы. Их используют не только в политике, но и для обмана, шантажа и распространения «ИИ-мусора» — лавины низкокачественного контента, затрудняющего поиск достоверной информации.

* Социальная сеть запрещена на территории Российской Федерации.