Конец эпохи электричества: Nvidia заставила фотоны служить искусственному интеллекту

На прошлой неделе на конференции GTC в Сан-Хосе компания Nvidia представила принципиально новый оптический сетевой коммутатор. Устройство призвано радикально снизить энергопотребление дата-центров, обслуживающих системы искусственного интеллекта. В основе разработки лежит технология совмещенной оптики (co-packaged optics, CPO), благодаря которой между серверными стойками можно передавать десятки терабит данных в секунду.

Параллельно производитель Micas Networks объявил о запуске серийного выпуска аналогичного устройства на базе технологии Broadcom . На рынке оптических решений назревают перемены - существующая инфраструктура не справляется с растущими аппетитами вычислительных систем.

Сегодня сетевое оборудование в серверных помещениях строится на специализированных чипах, которые электрически соединяются с оптическими приемопередатчиками. В состав таких модулей входят лазеры, оптические схемы, процессоры для обработки сигналов и другая электроника, которая преобразует электронные биты в фотоны, путешествующие по оптоволокну.

В современных дата-центрах подключаемая оптика поглощает около 10% от общей мощности GPU-вычислений. При наличии 400 000 графических ускорителей энергозатраты достигают 40 мегаватт. Более половины этого объема расходуется лишь на питание лазеров в модулях связи.

Технология CPO максимально приближает преобразование сигналов к основному чипу. Передовые методы компоновки позволяют окружить его кремниевыми оптическими элементами. Оптоволокно подключается напрямую к корпусу.

Благодаря новой архитектуре количество необходимых лазеров уменьшится в четыре раза. Эффективность передачи информации вырастет в 3,5 раза, а стабильность сигналов между машинами улучшится в 63 раза. Устойчивость к сбоям станет выше в десять раз, а время развертывания оборудования сократится на 30%.

Nvidia выпустит две модели - Spectrum-X и Quantum-X. Последняя появится уже в этом году и будет работать на технологии InfiniBand , оптимизированной для высокопроизводительных задач. По каждому из 144 портов можно будет передавать 800 гигабит в секунду. Два ключевых элемента системы станут охлаждаться не воздухом, а жидкостью.

Встроенная технология SHARP FP8 поможет разгрузить основные процессоры, передавая часть операций на сетевой компонент. Ethernet-модель Spectrum-X обеспечит пропускную способность около 100 терабит в секунду через 128 или 512 каналов. Старшая версия справится с 400 терабитами через 512 или 2048 выходов.

В своей разработке Nvidia применила модуляторы на основе микрокольцевого резонатора вместо традиционной схемы Маха-Цендера. В последней световой поток разделяется на две параллельные части, каждая из которых меняется под воздействием электрического поля. При объединении они либо гасят друг друга, либо усиливаются, формируя итоговый сигнал.

Микрокольцевое решение компактнее, но требует встроенных нагревателей из-за температурной чувствительности. Классический вариант занимает больше места и сильнее рассеивает свет. В новом подходе луч проходит рядом с кольцевой структурой - если длина волны может создать стоячую волну, она отфильтровывается. Нужную длину определяет показатель преломления, регулируемый электроникой.

В конструкции Quantum-X задействовано по 18 кремниевых фотонных элементов в каждом из двух основных блоков. Все они подключаются к паре лазеров и 16 волокнам. Для надежной работы столь сложной системы инженерам пришлось создать новые методы тестирования.

Разработка Micas Networks уже запущена в производство. В ее основе - технология Broadcom Bailly с единым функциональным блоком. Вокруг центрального чипа Tomahawk 5 расположены восемь оптических модулей, каждый из которых обрабатывает поток в 6,4 терабита в секунду. В отличие от решения Nvidia здесь применяется воздушное охлаждение.

По сравнению с традиционными подходами новая система потребляет на 40% меньше энергии. За счет более простой схемы прохождения сигнала повысилась надежность - кратковременные разрывы соединения случаются реже.

Кремниевые модуляторы в оптических блоках Nvidia функционируют на скорости 200 гигабит в секунду. В перспективе этот показатель планируют увеличить до 400 гигабит. Для дальнейшего наращивания скорости понадобится интеграция других материалов - ниобата лития и фосфида индия.

Пока ведущие компании совершенствуют магистральные каналы, стартапы Avicena, Ayar Labs и Lightmatter трудятся над оптическими соединениями на уровне процессоров. Первые две создали специальные компоненты для размещения рядом с вычислительными ядрами. Lightmatter замахнулась на большее - планирует применять фотонный модуль как основу для трехмерной компоновки будущих микросхем. Что ж, будем наблюдать за тем, как постепенно развивается рынок и надеяться на светлое будущее.