ИИ создал на вас «интимный компромат»? Microsoft знает, как его уничтожить

Microsoft обновила свою политику по борьбе с несанкционированным распространением интимных изображений, уделяя особое внимание угрозам, которые несёт злоупотребление генеративным ИИ. В последние годы проблема использования поддельных цифровых изображений, таких как «дипфейки», приобрела угрожающие масштабы. Чаще всего такие материалы становятся инструментом давления и шантажа, что особенно затрагивает женщин и подростков.

Компания опубликовала документ с рекомендациями для законодателей, где подчёркивается необходимость модернизации законодательства для защиты пострадавших, особенно женщин и детей. Среди прочих шагов Microsoft внедряет новые меры защиты на своих платформах, чтобы предотвратить распространение подобных изображений.

Одним из ключевых нововведений стало партнёрство с платформой StopNCII, которая помогает пользователям защищать свои изображения от незаконного распространения. Эта платформа позволяет создавать цифровые «отпечатки» изображений (хэши), которые потом используются для их выявления в сети. Microsoft уже применяет эту технологию в поисковой системе Bing, предотвращая появление нежелательных изображений в результатах поиска.

С конца августа компания предприняла меры по блокировке 268 899 изображений. Ожидается, что сотрудничество с StopNCII будет расширено, а новые технологии будут использоваться на более широком спектре платформ.

Microsoft также напоминает о своей общей политике, запрещающей создание и распространение интимных изображений без согласия. Это касается как реальных, так и сгенерированных изображений. Компания строго запрещает любые угрозы распространения подобных материалов и принимает меры по их блокировке на всех своих сервисах.

Жертвам несанкционированного распространения изображений предлагается воспользоваться порталом Microsoft для отправки запросов на удаление таких материалов. Это касается как фотографий, так и видео, включая материалы, созданные с помощью ИИ.

Компания подчёркивает, что проблема злоупотребления ИИ касается не только взрослых, но и детей. В связи с этим Microsoft сотрудничает с некоммерческими организациями для борьбы с распространением контента, связанного с эксплуатацией несовершеннолетних, и призывает пользователей сообщать о подобных инцидентах.

Microsoft продолжает развивать свои инициативы в сотрудничестве с лидерами и экспертами по всему миру, чтобы находить эффективные решения и поддерживать пострадавших. Компания также участвует в новых рабочих группах, направленных на разработку лучших практик по предотвращению злоупотреблений ИИ.

Таким образом, Microsoft демонстрирует свою приверженность защите пользователей от опасного контента, включая материалы, созданные с помощью современных технологий, и продолжает работу над улучшением существующих решений.