Google TPU Ironwood: Google готовится к буму инференса

На конференции Google Cloud Next ’25 облачное подразделение Google представило новое поколение собственного процессора Tensor Processing Unit (TPU) — Ironwood. Новый чип обеспечивает пиковую производительность до 4 614 TFLOPS при вычислениях в формате FP8. Следуя за NVIDIA и AMD, Google всё чётче ориентирует своё оборудование на задачу инференса — то есть применения уже обученных моделей ИИ. В отличие от процессоров для обучения, Ironwood предназначен преимущественно для запуска больших языковых моделей (LLM) и генераторов изображений, например, Gemini.Google пока не раскрывает архитектурных деталей, но уже известно, что объём памяти HBM увеличился с 95 до 192 ГБ — скорее всего, используется HBM3E. Пропускная способность памяти выросла с 2,8 до 7,4 ТБ/с, что сопоставимо с последними решениями AMD и NVIDIA. Кроме того, Google теперь может собирать кластеры (Pods) до 9 216 TPU, которые ......

20:17, 11.04.2025

Рубрика: «Наука и Технологии» Поделиться:

Google запускает Ironwood TPU для следующего поколения искусственного интеллекта Чип Ironwood создан для новой эры логического вывода на основе ИИ, где модели, требующие б ...

Google готовится к крупному апдейту формата RCS-сообщений Редактирование сообщений в различного рода мессенджерах существует уже много лет — сейчас ...

Google вводит Pixel VPN от Google вместо Google One для владельцев Pixel Google вводит "Pixel VPN от Google" вместо Google One для владельцев Pixel Google заявила о прекращении использования названия Google One для своей VPN и перед новым ...

Google заблокировала 2,36 млн опасных приложений для Android в Google Play в 2024 году Google заблокировала более 2,3 млн приложений Android для магазина Google Play в 2024 году ...