$5000 за ошибку: как Microsoft борется за безопасность ИИ

Microsoft расширила программу вознаграждений за уязвимости в Microsoft Copilot, увеличив выплаты за ошибки средней степени серьёзности. В рамках инициативы Secure Future Initiative (SFI) компания расширила список продуктов, охваченных программой, включив Copilot для Telegram, WhatsApp, а также платформы copilot.microsoft[.]com и copilot[.]ai.

Теперь исследователи безопасности могут получить до 5000 долларов за выявление уязвимостей средней степени риска, которые могут повлиять на безопасность и надёжность Copilot. В компании заявили, что это нововведение даст специалистам больше возможностей для защиты экосистемы ИИ-продуктов и позволит оперативнее устранять потенциальные угрозы.

Программа вознаграждений Microsoft Copilot уже охватывает широкий спектр ИИ-сервисов, включая Copilot Pro в Microsoft Edge (Windows), мобильные приложения для iOS и Android, Windows, а также генеративный поиск в Bing. Размер вознаграждений варьируется от 250 долларов за незначительные баги, такие как XSS и CSRF, до 30 000 долларов за критические уязвимости, например, манипуляцию с выводами нейросети.

Параллельно с этим Microsoft расширила ещё одну программу — Microsoft 365 Bounty, добавив в неё новые продукты Viva, включая Feature Access Control, Glint, Learning и Pulse. За обнаружение критических и важных уязвимостей в этих сервисах компания предлагает выплаты до 27 000 долларов.

В последние годы Microsoft активно привлекает исследователей к поиску уязвимостей в своих продуктах. В рамках прошлогодней конференции Ignite компания анонсировала инициативу Zero Day Quest с призовым фондом в 4 миллиона долларов, ориентированную на выявление проблем в облачных и ИИ-решениях.

Эти меры предприняты на фоне критики со стороны Совета по кибербезопасности США, который ранее заявил, что Microsoft необходимо пересмотреть свой подход к защите данных. В отчёте ведомства говорилось, что безопасность компании требует серьёзных улучшений, и инициатива Secure Future Initiative призвана изменить ситуацию.