Altitude от Jigsaw: Цифровая вакцина против экстремизма

За последние несколько лет террористические и экстремистские группы значительно изменили свои стратегии по набору, подстрекательству и пропаганде насилия в интернете. Если раньше их активность была сосредоточена на крупных глобальных платформах, то теперь они переместились на менее заметные и подготовленные к этому небольшие сервисы.

Усиление контроля и технические усовершенствования в удалении контента на крупных платформах стали причиной такой смены тактики. Нарушение условий использования цифровых платформ и нарушение местных законов вынуждает крупные платформы активно бороться с экстремистским контентом. Однако для небольших платформ выявление и удаление такого контента стало серьезной проблемой.

Для решения этой проблемы Jigsaw, совместно с Tech Against Terrorism и Глобальным интернет-форумом по борьбе с терроризмом (GIFCT), разработали инструмент Altitude . Altitude — это бесплатный, открытый и самостоятельный инструмент, который позволяет платформам видеть и удалять потенциальный террористический и экстремистский контент (TVEC) на своих сайтах. Модераторы могут быстро просматривать и удалять контент, идентифицированный доверенными источниками, что помогает платформам принимать четкие и уверенные решения.

Платформы могут интегрировать Altitude в свои рабочие процессы, чтобы лучше понимать угрозы и соответствовать меняющимся законодательным требованиям. Например, в Европе действует Закон о цифровых услугах и Регламент ЕС о террористическом контенте в интернете, которые требуют удаления экстремистского контента в кратчайшие сроки, иногда в течение часа. Для небольших платформ соблюдение этих требований часто является практически невозможным.

Исследования Jigsaw показывают, что экстремистский контент, удаленный с крупных платформ, нередко возвращается на них через менее модеративные площадки. В рамках изучения проблемы были проведены интервью с представителями одиннадцати различных платформ. Результаты показали, что уровень готовности к борьбе с TVEC не всегда связан с размером платформы или ее ресурсами. Даже относительно крупные сервисы иногда испытывают трудности с проактивной идентификацией вредоносного контента.

Altitude помогает малым и средним платформам эффективнее реагировать на появление экстремистского контента. Инструмент использует технологию хеширования и сопоставления изображений Meta для сопоставления контента с базами данных Tech Against Terrorism и GIFCT. Altitude также предоставляет возможность массового действия по идентичному контенту и автоматическое размытие изображений.

Небольшие платформы, заинтересованные в использовании Altitude, могут присоединиться к сети Tech Against Terrorism и получить бесплатную поддержку по установке, тестированию и обратной связи. Будущие разработки Altitude будут включать дополнительные специализированные базы данных и перевод платформы и контента.

Распространение Altitude и участие в его развитии могут создать «добродетельный круг», где платформы, гражданское общество и регуляторы будут совместно бороться с экстремистским контентом и защищать интернет-экосистему.