Четыре «рокера» помогли Microsoft вывести ИИ на новый уровень

От хэви-метала к хэви-производительности: компиляторы Rammer, Roller, Welder и Grinder на сцене прогресса

Компания Microsoft сделала значительный шаг вперед в развитии технологий, представив четыре новых компилятора искусственного интеллекта. Проект назвали «Heavy Metal Quartet», а сами инструменты получили названия Rammer, Roller, Welder и Grinder. В процессе разработки участвовали крупные исследовательские институты Microsoft Research.

Компиляция — это преобразование исходного кода, который легко прочитать человеку, в машинный код, понятный компьютеру. Новые компиляторы в первую очередь сфокусированы на повышении эффективности моделей ИИ.

Цзилун Сюэ, ведущий исследователь отдела MSR Asia, подчеркнул: разработка упрощает как обучение, так и внедрение нейросетей в новые сферы.

У каждого инструмента немного разные особенности:

• Rammer: помогает увеличить аппаратный параллелизм — ключевой аспект для улучшения производительности. Можно сравнить с множеством рук, работающих над одной задачей одновременно.
• Roller: ускоряет процесс компиляции и может создать необходимую программу всего за несколько секунд.
• Welder: сосредоточен на экономии оперативной памяти — уменьшает связанные с этим накладные расходы.
• Grinder: синхронизирует процесс выполнения программы с потоком данных на разных этапах.

Тесты показали, что новые компиляторы значительно превосходят существующие решения по эффективности. Rammer улучшил производительность модели в 20 раз, а Roller значительно сократил время выполнения задач. В отношении производительности на графических процессорах Welder оставил позади даже такие решения, как PyTorch, показав эффективность в 21 раз выше. Grinder также выделился, восьмикратно улучшив работу моделей, управляющих потоком данных.