Белый дом и IT-гиганты: неожиданный союз покончит с сексуализированными дипфейками

Белый дом США продолжает активную борьбу с насилием в интернете, уделяя особое внимание злоупотреблениям, связанным с новыми технологиями, включая искусственный интеллект (ИИ). Одна из серьёзных угроз, ставшая особенно актуальной в последние годы, – это распространение сексуализированных изображений без согласия жертв, в том числе материалов с участием детей и изображений, созданных с помощью ИИ.

Это явление в значительной степени затрагивает женщин, детей и представителей ЛГБТ* сообщества. Вице-президент Камала Харрис, выступая на саммите по безопасности ИИ в Лондоне, подчеркнула необходимость глобальных действий по борьбе с этим видом насилия, которое с каждым годом становится всё более масштабным.

Сегодня администрация Байдена объявила о добровольных обязательствах со стороны разработчиков ИИ и поставщиков данных по снижению рисков, связанных с созданием и распространением таких изображений. Среди компаний, которые присоединились к этой инициативе, — Adobe, Microsoft, OpenAI и другие крупные игроки в области технологий. Эти компании заявили о готовности усовершенствовать свои процессы разработки ИИ, чтобы предотвратить использование их продуктов для создания сексуализированных изображений без согласия.

Компании обещают усилить проверку и тестирование своих систем, а также удалять материалы с изображениями обнажённых тел из обучающих данных. Кроме того, такие компании, как Cash App и Square, намерены прекратить предоставление платёжных услуг для тех, кто занимается созданием или распространением подобных изображений.

Google также усилил меры по борьбе с распространением интимных изображений без согласия на своих платформах, внеся в июле обновления в поисковые системы. Meta, в свою очередь, активно удаляет аккаунты, связанные с финансовыми мошенничествами и вымогательством через сексуальные изображения.

Эти действия стали продолжением предыдущих обязательств ведущих компаний по борьбе с насилием в интернете. Так, в мае Белый дом призвал к принятию дополнительных мер, и с тех пор многие компании заявили о новых инициативах по предотвращению создания и распространения сексуальных изображений без согласия.

Наряду с этими корпоративными инициативами, ряд общественных организаций и исследовательских центров также представил свои предложения по предотвращению распространения таких материалов. Центр демократии и технологий, инициатива кибергражданских прав и национальная сеть по борьбе с насилием в семье работают над созданием принципов для борьбы с насилием, основанным на использовании изображений.

Белый дом продолжает акцентировать внимание на защите прав женщин и детей, а также на необходимости улучшения мер безопасности в интернете. В этом контексте поддержка частного сектора играет ключевую роль в предотвращении насилия и злоупотреблений в цифровом пространстве.

* Движение ЛГБТ признано экстремистским и запрещено на территории РФ.