Десять лет и миллиарды долларов воплотились в ИИ-процессоре Ironwood от Google

Корпорация Alphabet представила новое поколение чипов для искусственного интеллекта — процессор Ironwood. Это уже седьмое поколение специализированных чипов TPU (Tensor Processing Unit), и оно создано специально для ускорения работы ИИ-приложений, таких как ChatGPT и другие генеративные модели.

Чип Ironwood рассчитан на выполнение так называемых операций «вывода» (inference), то есть быстрого расчета и выдачи ответов пользователю. Он способен работать в составе массивов до 9 216 чипов одновременно, сообщил вице-президент Google Амин Вахдат на облачной конференции, где была представлена новинка.

По словам Вахдата, Ironwood объединяет функции, которые ранее были разделены между двумя различными версиями TPU — одна предназначалась для обучения больших моделей, другая — для удешевления их запуска. Новая версия увеличивает доступный объём памяти и предлагает более сбалансированную архитектуру, заточенную именно под обслуживание ИИ-приложений.

Google утверждает, что Ironwood в два раза производительнее по сравнению с прошлогодним чипом Trillium при том же уровне энергопотребления. Чипы разрабатываются для внутренних нужд компании и доступны только инженерам Google либо через облачные сервисы Google Cloud.

Alphabet вкладывает миллиарды долларов в развитие своих TPU уже около десяти лет, и Ironwood — одна из немногих серьезных альтернатив мощным ИИ-чипам от Nvidia, которые сейчас доминируют на рынке. Примечательно, что компания не раскрыла, кто именно производит новый чип по её дизайну.

Новые TPU также используются в построении и работе модели Gemini — собственной ИИ-платформы от Google, которая конкурирует с решениями OpenAI и других лидеров отрасли.