MLPerf Training 4.1: первое появление NVIDIA B200 и Google Trillium в обучении ИИ

Сегодня MLCommons представила актуальные результаты тренировки, которые впервые включают ускорители NVIDIA B200 и Google TPUv6p Trillium. И B200, и TPUv6e дебютировали в тестах Inference 4.1 . Однако к инференсу предъявляют другие требования, чем к обучению. NVIDIA изначально разрабатывала GPU Blackwell с основным фокусом на инференсе. Но, конечно, с тренировкой он тоже должен справляться. В то время как для инференса в версии 4.1 мы впервые увидели результаты Instinct MI300X, они отсутствуют в результатах обучения. Здесь в бенчмарках доминируют NVIDIA и Google, которые используют огромные кластеры для обучения. Например, для TPUv5 это 1.024 узла (Pod) с общим числом 4.096 ускорителей. У NVIDIA речь идёт даже о суперкомпьютере EOS с 1.452 узлами и 11.616 ускорителями H100. Для предварительной версии TPUv6p, также известного как Trillium, Google пошла настолько далеко, что здесь работают вместе 768 узлов ......

08:17, 19.11.2024

Рубрика: «Наука и Технологии» Поделиться:

MLPerf Training 5.0: NVIDIA масштабируется и ставит новые рекорды Вчера консорциум MLCommons опубликовал результаты очередного раунда бенчмарка MLPerf Train ...

Уже рутина: NVIDIA снова улучшила результаты в ИИ-бенчмарке MLPerf Training Вычислительные платформы NVIDIA снова продемонстрировали высокую производительность, на эт ...

Первые в отрасли системы NVIDIA HGX B200 от Supermicro демонстрируют лидерство по производительности для ИИ согласно результатам MLPerf Inference v5.0 Компания Super Micro Computer, Inc. (SMCI), поставщик комплексных ИТ-решений для ИИ/м ...

MLPerf Inference 4.1: первые бенчмарки Granite Rapids, B200, TPU v6e, Instinct MI300X и Turin MLCommons опубликовали новую порцию бенчмарков из сектора инференса. MLCommons – консорциу ...