Hugging Face: хакеры украли секреты ИИ-моделей

Hugging Face на прошлой неделе обнаружила несанкционированный доступ к платформе Spaces, предназначенной для создания, обмена и размещения ИИ-моделей и ресурсов.

В блоге Hugging Face сообщили, что взлом связан с секретами Spaces, то есть с частными данными, которые используются для доступа к защищённым ресурсам, таким как аккаунты, инструменты и среды разработчика. Есть подозрения, что некоторые из секретов могли быть доступны третьим лицам без авторизации.

В качестве предосторожности, Hugging Face отозвал ряд токенов в этих секретах (токены используются для подтверждения личности). Пользователи, чьи токены были отозваны, уже получили уведомления по электронной почте. Hugging Face рекомендует всем пользователям «обновить любые ключи или токены» и рассмотреть возможность перехода на более безопасные токены с тонкой настройкой доступа.

Пока не ясно, сколько пользователей или приложений пострадали от потенциального взлома. Hugging Face отметила, что компания работает с внешними специалистами по кибербезопасности для расследования инцидента, а также для пересмотра политик и процедур безопасности. Hugging Face также сообщила об инциденте в правоохранительные органы и органы защиты данных.

Кроме того, Hugging Face сообщила TechCrunch, что фирма наблюдает значительное увеличение числа кибератак за последние несколько месяцев, вероятно, из-за значительного роста использования Hugging Face и популяризации ИИ. По словам компании, технически сложно определить, сколько секретов Spaces могли быть скомпрометированы.

Возможный взлом Spaces произошел в то время, когда Hugging Face, являющаяся одной из крупнейших платформ для совместных проектов в области ИИ и науки о данных, сталкивается с усилением внимания к своей безопасности.

В апреле исследователи из ИБ-компании Wiz обнаружили на Hugging Face две критические уязвимости, которые могут позволить злоумышленникам повысить привилегии, получить доступ к моделям других клиентов и даже взять под контроль процессы непрерывной интеграции и развертывания (CI/CD).