«Сгенерировано ИИ»: TikTok начнет маркировать творчество алгоритмов

TikTok вводит новые правила, которые помогут сделать платформу более прозрачной и противодействовать распространению фейков. Разработчики заявили, что теперь система автоматически будет маркировать любой загруженный извне контент, сгенерированный при использовании ИИ-технологий. Ранее пользователей призывали делать соответствующие пометки самостоятельно.

Компания также объявила о партнерстве с Adobe и присоединении к инициативам Content Authenticity Initiative (CAI) и Coalition for Content Provenance and Authenticity (C2PA).

Использоваться будет разработанная Adobe технология Content Credentials. Она позволяет внедрять метаданные в цифровой контент, благодаря чему можно мгновенно определить его происхождение. Сначала водные знаки появятся на изображениях и видео, а позже помечаться будут и аудиофайлы.

«Искусственный интеллект открывает безграничные возможности для творчества, но может ввести в заблуждение зрителей, если они не осведомлены о том, что контент был сгенерирован с помощью нейросетей. Маркировка позволяет прояснить этот момент», — отмечается в заявлении компании.

Глава отдела безопасности TikTok, Адам Прессер, подчеркнул важность честности в вопросах, связанных с ИИ: «Наши пользователи с энтузиазмом относятся к искусственному интеллекту и возможностям, которые он предоставляет для творчества и взаимодействия с аудиторией. В то же время крайне важно, чтобы люди могли четко различать факты и вымысел».

В ближайшие месяцы технология Content Credentials будет внедрена и для контента, созданного непосредственно в TikTok. Метаданные будут сохраняться при скачивании материалов, чтобы другие платформы, использующие ту же технологию, могли их распознать.

Внедрение цифрового водяного знака и систем маркировки контента, созданного ИИ, было одним из положений исполнительного указа, который президент США Джо Байден подписал в октябре прошлого года.

Инициатива TikTok вписывается в масштабные усилия технологических компаний по повышению безопасности и прозрачности. Аналогичные меры уже предпринимают такие гиганты индустрии, как Meta* и Google. Например, год назад Google также заявила, что планирует внедрить системы маркировки ИИ-контента на YouTube и других своих платформах.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.