Первый TPU на углеродных трубках станет основой для суперкомпьютеров будущего

Ученые из Пекинского университета и других научных институтов Китая создали первый в мире тензорный процессор (TPU) на основе углеродных нанотрубок, который может значительно повысить энергоэффективность алгоритмов искусственного интеллекта.

Исследователи были вдохновлены быстрым развитием приложений вроде ChatGPT и Sora, а также тем, как Google разрабатывает свои TPU. Они отмечают, что традиционные кремниевые полупроводниковые технологии всё чаще не справляются с обработкой огромных объёмов данных, необходимых для работы современных систем ИИ.

Новый чип состоит из 3000 полевых транзисторов на углеродных нанотрубках, организованных в 3x3 вычислительных блока. Эти 9 блоков образуют систолическую матричную архитектуру, способную параллельно выполнять операции двухбитной целочисленной свёртки и умножения матриц.

Архитектура чипа продумана таким образом, чтобы поддерживать поток систолических входных данных. Это позволяет сократить количество операций чтения и записи в статическую оперативную память (SRAM), а значит, растет экономия энергии.

Каждый вычислительный блок получает данные от соседних блоков сверху и слева, самостоятельно вычисляет частичный результат и передает его дальше вправо и вниз. Блоки оптимизированы для выполнения 2-битных операций умножения с накоплением (MAC) и умножения матриц как для знаковых, так и для беззнаковых целых чисел.

На основе разработанного углеродного тензорного процессора исследователи построили пятислойную сверточную нейросеть, способную распознавать изображения с точностью до 88% при потреблении энергии всего 295 мкВт. Это самое низкое энергопотребление среди всех подобных технологий.

Результаты системного моделирования показывают, что углеродный транзистор, использующий 180-нанометровый технологический узел, может достигать тактовой частоты 850 МГц, а его энергоэффективность превышает 1 TOPS/Вт (триллион операций в секунду на ватт).

Исследователи отмечают: производительность и энергоэффективность их подхода вполне можно улучшить. Для этого они планируют использовать выровненные полупроводниковые углеродные нанотрубки, уменьшить размер транзисторов, увеличить разрядность вычислительных блоков и реализовать логику КМОП.

Кроме того, учёные рассматривают возможность интеграции углеродного TPU в кремниевые микросхемы для создания трёхмерных структур. В такой конфигурации кремниевый процессор будет располагаться снизу, а углеродный TPU сверху в качестве сопроцессора.

Разработанная архитектура тесно связанных вычислительных блоков и систолический поток данных позволяют значительно сократить количество обращений к памяти, что является ключевым фактором в снижении энергопотребления. Это особенно важно в контексте растущих потребностей алгоритмов искусственного интеллекта в вычислительных мощностях.