ИИ-боты Overwatch уже среди нас – они шпионят за людьми

Американские правоохранительные органы в приграничных с Мексикой районах тратят сотни тысяч долларов на загадочную и пока не доказавшую свою эффективность технологию, основанную на генерации виртуальных личностей с помощью ИИ. Эти цифровые образы используются для общения в мессенджерах и соцсетях с предполагаемыми нарушителями закона — от торговцев людьми и наркотиками до студенческих активистов.

За технологией стоит компания Massive Blue из Нью-Йорка, продвигающая свой продукт под названием Overwatch как «киберстену», способную проникать в преступные сообщества и собирать доказательства. Документы, контракты и внутренние презентации, полученные изданием 404 Media по запросу публичных данных, раскрывают детали работы этого спорного инструмента.

Продукт Massive Blue носит название Overwatch и позиционируется как «ИИ-усилитель для обеспечения общественной безопасности». В официальных материалах говорится, что технология «разворачивает реалистичных виртуальных агентов, способных внедряться в преступные сети через разнообразные цифровые каналы». На практике речь идёт о создании вымышленных персонажей с правдоподобной биографией и внешностью, которые могут вести диалог с целью выявления подозреваемых.

Схема работы решений Massive Blue

Среди заявленных сценариев использования: борьба с торговлей людьми, безопасность школ и охрана границы. Однако по состоянию на лето 2024 года ни один арест на основе работы Overwatch подтверждён не был.

Округ Пинал в Аризоне заключил контракт с Massive Blue на сумму $360000, оплаченный за счёт гранта Департамента общественной безопасности штата Аризона, выделенного на борьбу с торговлей людьми. Согласно отчётам отдела закупок округа, речь идёт о круглосуточном мониторинге интернет-пространства и развёртывании до 50 ИИ-персонажей по трём направлениям расследований. Другой округ, Юма, в 2023 году провёл короткий пилот за $10000, но отказался от продолжения сотрудничества, сочтя технологию бесполезной.

На заседаниях совета супервизоров Пинала представители шерифа отказались объяснять, как именно работает Overwatch. Заместитель шерифа заявил, что разглашение информации может «подсказать преступникам, чего остерегаться».

Внутренние презентации Massive Blue показывают примеры цифровых агентов:

• Радикализированная активистка — 36-летняя разведённая женщина, интересуется выпечкой, бодипозитивом и активизмом.

• Honeypot — 25-летняя уроженка Дирборна, штат Мичиган, с йеменским происхождением, общается в Telegram, Signal и других приложениях.
• Jason — 14-летний мальчик, сын иммигрантов из Эквадора, любит аниме и скрывает своё пребывание в Discord от родителей.
• ИИ-сутенёр Clip — ведёт разговоры с виртуальными или реальными секс-работницами в стиле уличного сленга.

ИИ-персонажи используют сгенерированные изображения, тексты и даже якобы «доказательства жизни» — фотографии с надписями, имитирующие реальные снимки жертв.

Overwatch отслеживает соцсети, определяя потенциальных подозреваемых, после чего виртуальные агенты начинают с ними переписку. ИИ также использует телекоммуникационные данные, геолокацию и блокчейн-аналитику — отслеживает криптовалютные кошельки, транзакции и даже возможные off-ramp-обменники.

Пример общения одного из ИИ-агентов с подозреваемым

Одно из рекламных писем Massive Blue утверждает, что только за 24 часа в Далласе, Хьюстоне и Остине система выявила 3 266 подозреваемых торговцев людьми, 25% из которых якобы связаны с крупными преступными группами. Однако 404 Media не смогло проверить, были ли данные достоверными и привели ли они к каким-либо реальным уголовным делам.

Несмотря на отсутствие арестов, Massive Blue получила одобрение от Пинала в июне 2024 года. Однако в совете округа публично подвергли проект сомнению, указывая, что сайт компании представляет собой всего одну страницу без контактной информации. Член совета подчеркнул, что «в борьбе с трафиком нельзя бездумно тратить полмиллиона долларов на недоказанную технологию».

Правозащитники, в частности, из Electronic Frontier Foundation, считают такую практику опасной, поскольку технология охватывает «плохо определённые цели» и рискует превратиться в инструмент подавления и слежки за активистами. Кроме того, тревогу вызывает тот факт, что технология активно рекламируется бывшими сотрудниками таможенной и пограничной службы, которые сейчас работают в Massive Blue. Один из работников называет Overwatch «киберстеной» и появляется с политиками, связанными с администрацией Трампа, включая Тулси Габбард и Роберта Кеннеди-младшего.