ZeroGPU: бесплатная платформа для ИИ-разработки

Компания Hugging Face, известная своими открытыми решениями в области искусственного интеллекта, объявила о запуске программы ZeroGPU. В рамках этой инициативы на сумму 10 миллионов долларов будут предоставлены вычислительные мощности на базе старых графических процессоров Nvidia для общественного использования. Цель программы — облегчить финансовое бремя, с которым сталкиваются небольшие команды разработчиков при создании ИИ-моделей.

Генеральный директор Hugging Face, Клем Деланг, лично сообщил о запуске ZeroGPU, подчеркнув, что сообщество с открытым исходным кодом не имеет тех ресурсов, которые есть у крупных технологических компаний, поэтому такие приложения, как ChatGPT, до сих пор остаются наиболее популярными.

«Мы запускаем ZeroGPU, чтобы предоставить независимым и академическим разработчикам инфраструктуру для запуска ИИ-демонстраций на платформе Spaces без финансовых затрат», — написал Деланг.

Компания Hugging Face, основанная в 2016 году, стала одним из главных источников открытых ИИ-моделей, оптимизированных для работы на разнообразном оборудовании. Это стало возможным благодаря тесному сотрудничеству с такими гигантами, как Nvidia, Intel и AMD.

ZeroGPU будет доступен через сервис размещения приложений Hugging Face и будет работать на базе старых ускорителей Nvidia A100. Эта модель отличается от традиционных облачных провайдеров, которые часто требуют долгосрочных обязательств от клиентов, что может быть затруднительно для небольших команд.

Отличительной чертой подхода Hugging Face является то, что он ориентирован на ИИ-инференсинг, а не на обучение моделей. Обучение требует значительных вычислительных ресурсов, что затруднительно в рамках данной программы. Документация ZeroGPU указывает, что функции GPU ограничены 120 секундами, чего явно недостаточно для полноценного обучения.

Деланг отметил, что система способна «эффективно удерживать и освобождать GPU по мере необходимости», но подробности этого процесса остаются неясными. Технологии, такие как разделение времени для одновременного выполнения нескольких задач и технология Nvidia multi-instance GPU (MIG), могут использоваться для увеличения доступности вычислительных ресурсов.

На фоне нехватки графических процессоров, когда компании, такие как Lambda и CoreWeave, используют своё оборудование в качестве залога для приобретения дополнительных ускорителей, инициатива Hugging Face может стать значительным облегчением для стартапов, разрабатывающих ИИ-приложения.

Hugging Face недавно привлекла 235 миллионов долларов в рамках раунда финансирования серии D, возглавляемого такими гигантами, как Google, Amazon, Nvidia и Intel. Иронично, что многие из крупнейших сторонников Hugging Face сами разрабатывают проприетарные модели, которые могут вытеснить небольшие ИИ-стартапы.

Тем временем, ZeroGPU уже доступна в открытой бета-версии, что открывает новые возможности для разработчиков искусственного интеллекта.