# llama.cpp Vulkan-ն ընդդեմ ROCm-ի AMD Strix Halo-ի վրա

llama.cpp-ի ո՞ր backend-ը գործարկել Ryzen AI Max+ 395 (gfx1151) մեքենայի վրա մեկ օգտատիրոջ չաթի համար — Vulkan, թե՞ ROCm։

Vulkan-ն այս կոնֆիգուրացիայում ավելի արագ է դեկոդավորում; ժամանակը մինչև պատասխանի առաջին թոքենը փաստացի հավասար է։ Երկու backend-ներն էլ անցել են structured workload-ի բոլոր strict-JSON խնդիրները, ուստի ընտրությունը դեկոդի տեմպի և օպերացիոն նախապատվության հարց է, ոչ թե որակի։

**Ինչն էր ֆիքսված։** Նույն ֆիզիկական յունիթը (Beelink GTR9 Pro, 128 ԳԲ unified), նույն Qwen3.6-35B-A3B Q4_K_M արտեֆակտն ըստ հեշի, նույն սառեցված կորպուսը, մեկ հոսք, reasoning-ն անջատած։ Տարբերվում է միայն backend-կոնտեյները։

| Մետրիկա | Vulkan | ROCm |
| --- | --- | --- |
| Միջթոքենային ուշացում, մեդիան (դեկոդի տեմպ) | 15.9 ms/token ([lab_repeated](https://agmind.ai/hy/claims/strix.qwen36q4.vulkan.c1.itl-nothink/)) | 18.7 ms/token ([lab_repeated](https://agmind.ai/hy/claims/strix.qwen36q4.rocm.c1.itl-nothink/)) |
| Ժամանակ մինչև պատասխանի առաջին թոքենը, մեդիան | 210 ms ([lab_unit_replicated](https://agmind.ai/hy/claims/strix.qwen36.interactive2.c1.ttfa-nothink/)) | 215 ms ([lab_repeated](https://agmind.ai/hy/claims/strix.qwen36q4.rocm.c1.ttfa-nothink/)) |
| Strict-JSON խնդիրների հաջողություն (structured workload) | 100.0 % of requests ([lab_repeated](https://agmind.ai/hy/claims/strix.qwen36.structured.c1.task-success-nothink/)) | 100.0 % of requests ([lab_repeated](https://agmind.ai/hy/claims/strix.qwen36q4.rocm.c1.task-success/)) |

## Սահմանափակումներ

Մեկ յունիթ, մեկ մոդելի արտեֆակտ, մեկ runtime build ամեն backend-ի համար, մեկ հոսք։ Prefill-ով ծանր կամ բազմահոսք բեռները կարող են backend-ներն այլ կերպ դասավորել — չափեք ձեր բջիջը մինչև ընտրելը։

## Առնչվող ապացույցներ

- https://agmind.ai/hy/reports/model-quant-backend-strix-halo/
- https://agmind.ai/hy/workloads/interactive-assistant-v2/

Every number above is re-derived from sealed run bundles in CI: https://agmind.ai/claims.json (CC BY 4.0).
Source page: https://agmind.ai/hy/compare/llamacpp-vulkan-vs-rocm-strix-halo/