MLPerf Inference 4.1: первые бенчмарки Granite Rapids, B200, TPU v6e, Instinct MI300X и Turin

MLCommons опубликовали новую порцию бенчмарков из сектора инференса. MLCommons – консорциум различных производителей, целью которого является предоставление независимых и сопоставимых бенчмарков для оборудования центров обработки данных. Условия тестирования четко оговорены и снабжены необходимыми ограничениями. Участники проводят тестирование на основе этих спецификаций, но все остальные участники могут проверить эти результаты на этапе Review Phase, так что никаких манипуляций здесь быть не может. По сравнению с собственными тестами производителей, результаты MLCommons дают более достоверную базу для сравнения. В закрытой части тестировании (более строгие спецификации бенчмарков) практически отсутствуют оптимизации под конкретного производителя – например, в виде предварительного обучения на используемых данных. В открытой части производители аппаратного и программного обеспечения могут вносить дополнительные оптимизации. Прежде чем мы подробно рассмотрим результаты и, в частности, сфокусируемся на новых ускорителях, вот ссылка на бенчмарки MLPerf Inference 4.1 ......

04:17, 04.09.2024

Рубрика: «Наука и Технологии» Поделиться:

Первые в отрасли системы NVIDIA HGX B200 от Supermicro демонстрируют лидерство по производительности для ИИ согласно результатам MLPerf Inference v5.0 Компания Super Micro Computer, Inc. (SMCI), поставщик комплексных ИТ-решений для ИИ/м ...

Granite Rapids-D: Intel рассказала о Xeon 6 SoC Еще в феврале этого года Intel впервые анонсировала сетевой и edge вариант процессоров Xeo ...

MLPerf Training 4.1: первое появление NVIDIA B200 и Google Trillium в обучении ИИ Сегодня MLCommons представила актуальные результаты тренировки, которые впервые включают у ...

1,5 Тбайт HBM3: AMD Instinct MI300X стали доступны в облаке Microsoft Azure Корпорация Microsoft сообщила о доступности инстансов Azure ND MI300X v5 на базе ускорител ...