Производительность ускорителей Instinct: основные проблемы AMD связаны с программным обеспечением

Анализ производительности ускорителей NVIDIA Hopper с графическими процессорами H100 и H200 и AMD Instinct MI300X выявил главные слабости программной экосистемы AMD. Instinct MI300X на теоретическом уровне конкурирует с решениями NVIDIA, а в некоторых аспектах даже превосходит их. AMD планирует представить Instinct MI325X в ближайшие месяцы, увеличив объем памяти до 256 ГБ HBM3E вместо 192 ГБ. На презентации компания заявила, что Instinct MI300X опережает ускоритель NVIDIA H200 в ряде задач . Однако тестирование, проведенное SemiAnalysis для задач обучения ИИ , показало другую картину. Результаты совпали с данными MLPerf, где ускорители NVIDIA H200 превзошли AMD Instinct MI300X на 50% . Еще хуже AMD показала себя в сравнении с NVIDIA B200, который продемонстрировал в три раза более высокую производительность. Эксперты SemiAnalysis выделили несколько причин, почему ускорители Instinct показывают высокие результаты в теории, но уступают конкурентам в реальных задачах. Программное обеспечение играет ключевую роль. Система с ускорителями NVIDIA достигает заявленной производительности сразу после ......

08:17, 28.12.2024

Рубрика: «Наука и Технологии» Поделиться:

Продукты Цитрос интегрированы с офисным программным обеспечением Р7-Офис Продукты «Цитрос» интегрированы с офисным программным обеспечением «Р7-Офис» Продукты для управления корпоративным контентом «Цитрос СЭД», «Цитрос Архив» и «Цитрос КЭД ...

Глава Еврохима Ширяев: отечественный химпром сам обеспечит себя программным обеспечением Глава "Еврохима" Ширяев: отечественный химпром сам обеспечит себя программным обеспечением Генеральный директор "Еврохима" Олег Ширяев заявил, что российская химическая отрасль вско ...

VLSI 2024: AMD представила дополнительные подробности о корпусировке ускорителей Instinct MI300 Первые два ускорителя серии Instinct MI300 компания AMD представила еще в декабре прошлого ...

Низкопробный софт AMD не даёт раскрыть потенциал ИИ-ускорителей Instinct MI300X и обойти Nvidia, выяснили эксперты Пятимесячное расследование компании SemiAnalysis показало, что специализированные ИИ-ускор ...