Разработчик из Valve оптимизировал драйвер RADV для работы с Llama.cpp

Разработчик из Valve оптимизировал драйвер RADV для работы с Llama.cpp

В кодовую базу, на основе которой формируется выпуск Mesa 25.3, приняты изменения, существенно увеличивающие скорость работы движка выполнения больших языковых моделей Llama.cpp при использовании Vulkan-бэкенда на системах с GPU AMD и Mesa-драйвером RADV. Оптимизированный драйвер RADV в некоторых тестах llama-bench стал быстрее драйвера AMDVLK и стека ROCm на 31% при обработке запросов (тесты "pp" - prompt processing) и на 4% при генерации токенов (тесты "tg" - token generation). Оптимизацию выполнил Рис Перри (Rhys Perry) из компании Valve, участвующий в разработке драйвера Vulkan RADV и компилятора шейдеров ACO....
20:17, 22.10.2025
Источник: www.opennet.ru  
Рубрика: «Интернет и Игры»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

В Mesa-драйвер radv добавлена поддержка расширения Vulkan для декодирования видео VP9В Mesa-драйвер radv добавлена поддержка расширения Vulkan для декодирования видео VP9 Дэвид Эйрли (David Airlie), мэйнтейнер подсистемы DRM (Direct Rendering Manager) в ядре Li ...

Новый NVMe-драйвер в Windows 11 25H2 увеличивает скорость работы SSDНовый NVMe-драйвер в Windows 11 25H2 увеличивает скорость работы SSD В Windows 11 25H2 и Windows Server 2025 Microsoft представила обновлённый нативный драйвер ...

В драйвер PanVK добавлена поддержка Vulkan 1.1. Улучшен OpenGL-драйвер PanfrostВ драйвер PanVK добавлена поддержка Vulkan 1.1. Улучшен OpenGL-драйвер Panfrost Компания Collabora объявила о реализации в драйвере PanVK поддержки графического API Vulka ...

В Mesa-драйвере RADV сертифицирована поддержка Vulkan 1.3 для старых GPU AMDВ Mesa-драйвере RADV сертифицирована поддержка Vulkan 1.3 для старых GPU AMD Консорциум Khronos, занимающийся разработкой графических стандартов, признал полную совмес ...

CHASPIK.SPB.RU Поиск в новостях