Выборы без манипуляций: Google, Meta, Microsoft и другие объявили бойкот дипфейкам

Не менее 20 крупнейших технологических компаний, включая Google, Meta*, Microsoft и OpenAI, подписали новое соглашение о регулировании генеративного ИИ. Организации обещают не допускать распространение дипфейков в период избирательных кампаний 2024 года. Как это реализовать?

Новый «Технологический договор о противодействии недобросовестному использованию ИИ» был представлен в пятницу на 55-й Мюнхенской конференции по безопасности.

По словам вице-президента Microsoft, Брэда Смита, цель соглашения — гарантировать избирателям право выбирать тех, кто, по их мнению, будет справедливо управлять страной, без обмана и манипуляций.

Соглашение фокусируется на борьбе с «ложным ИИ-контентом» — поддельными аудио, видео и изображениями политиков, а также фейковой информацией о порядке и сроках голосования.

В договоре прописаны восемь конкретных обязательств, которые можно разделить на три основные категории:

1. Компании пообещали ограничить использование легальных инструментов для создания дипфейков.

2. Будут выработаны универсальные способы выявления и реагирования на дипфейки.

3. Компании намерены повысить осведомленность общества и устойчивость к дезинформации в преддверии выборов.

Согласно своим обязательствам, Microsoft уже создала специальный интернет-ресурс под названием Microsoft-2024 Elections . Сервис позволяет кандидатам сообщать о любых фейках и пропагандистских материалах.

По предварительным оценкам, в этом году на выборах будут голосовать свыше 4 миллиардов человек в разных странах. Уже сегодня активно используется генеративный ИИ, который влияет на политические процессы и взгляды избирателей, а иногда и вовсе отговаривает людей от участия в голосовании.

Последнее исследование экспертов из Европейского Союза, проведённое в прошлом месяце, выявило свыше 750 случаев целенаправленного распространения пропаганды иностранными агентами.

Особое внимание вызвал инцидент 23 января, когда жители Нью-Гэмпшира получали робозвонки от имени Джо Байдена. В сообщении президент призывал выходить из дома и не участвовать в праймериз.

Случай подтолкнул Федеральную комиссию по связи запретить нежелательные робозвонки, создаваемые с помощью ИИ, на территории всей страны. Белый дом, в свою очередь, обещал применять методы криптографической верификации, чтобы предотвратить такие инициативы.

Важной мерой в борьбе с распространением поддельного контента, созданного с помощью генеративных технологий, стало внедрение водяных знаков или метаданных, которые помогут публике распознавать искусственно созданный контент и проверять его источники.

Ник Клегг, президент по глобальным вопросам в Meta Platforms, подчеркнул значимость совместных усилий: «Конечно, каждая платформа может разрабатывать собственные механизмы обнаружения подделок, идентификации источников, маркировки и прочего. Но без общей стратегии и взаимодействия мы рискуем оказаться в ситуации, когда каждый действует в одиночку, создавая мозаику разрозненных подходов, что существенно снизит эффективность общих усилий».

Особый фокус участники хотят сделать на поддельных аудио и видео, которым люди больше склонны доверять — к тексту общественность часто относится с большим скептицизмом.

Полный список подписавших соглашение: Adobe, Amazon, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic и X.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.