ИИ от Microsoft объявил Adobe спамером: конкуренция или случайность

Microsoft вновь пришлось вмешаться в работу своих алгоритмов защиты, после того как одна из моделей машинного обучения начала ошибочно распознавать письма от компании Adobe как спам. Сбой затронул пользователей Exchange Online и сопровождался ложными предупреждениями о якобы вредоносных ссылках.

Проблема началась 22 апреля: пользователи начали получать уведомления о подозрительных переходах по ссылкам из писем Adobe, хотя на самом деле речь шла о легитимных рассылках. Модель машинного обучения, используемая Microsoft для оценки рисков электронной почты, перепутала подобные письма с настоящими спам-атаками.

Компания уточнила, что в ряде случаев письма были настолько похожи на шаблоны из атак, что алгоритм начал ошибаться и блокировать их. В результате пользователи не могли получить важные уведомления от Adobe, а сами письма попадали в карантин или вовсе не доставлялись.

Чтобы устранить последствия, Microsoft применила механизм Replay Time Travel (RTT), позволяющий повторно обработать трафик и переслать ранее заблокированные письма. Компания заявила, что проблема касалась лишь части пользователей, обслуживаемых через затронутую инфраструктуру.

Финальное обновление по инциденту появилось 24 апреля в 11:04. В нём Microsoft сообщила, что изменила логику работы своей ML-модели, снизив количество ложных срабатываний. Обновлённые алгоритмы теперь точнее различают нежелательные и легитимные письма, чтобы подобные ошибки не повторялись.

Хотя масштаб проблемы не раскрывался, Microsoft классифицировала её как инцидент с ограниченным воздействием. Это означает, что сбой не был массовым, но всё же стал заметным для пользователей.

Подобные ошибки не редкость для Exchange Online. В марте 2025 года Microsoft уже исправляла баг, из-за которого антиспам-фильтр помещал обычные письма в карантин. Ранее, в августе 2024 года, другая ошибка мешала доставке писем с изображениями, ошибочно признавая их вредоносными. А в октябре 2023 года компания отключала некорректное правило, которое рассылает администраторам копии исходящих писем, ошибочно помеченных как спам.

Каждый из этих случаев показывает, насколько чувствительны системы фильтрации к тонким отличиям в шаблонах и как сложно сохранять баланс между безопасностью и надёжной доставкой сообщений.