Claim
Qwen3.6-35B-A3B Q4_K_M Ryzen AI Max+ 395-ի վրա (llama.cpp Vulkan) — time to first answer token, 8 զուգահեռ հարցում: 865 մվ
865մվ
Չափումը
Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified համակարգի վրա, llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14) runtime-ով և ggml-org/Qwen3.6-35B-A3B-GGUF @ baec3ebee244 (Q4_K_M) մոդելով չափված «time to first answer token» մեծությունը, 8 զուգահեռ հարցում կազմել է 865 մվ (median over valid requests)։ Չափումը կատարվել է interactive-assistant-v2@2026-08-02 սառեցված workload-ի տակ; ապացույցի մակարդակը՝ lab_repeated, 3 վավեր գործարկում 1 ֆիզիկական յունիթի վրա։ Արժեքը վերաստացվում է գործարկումների հում գրառումներից ամեն CI build-ում։
Ձևակերպում
Median client-side time to the first answer token with the reasoning block disabled, while 8 closed-loop streams run concurrently on the unit (each request measured from its own client). Claim-երի ձևակերպումները հրապարակվում են միայն անգլերեն — սա կանոնական, մեջբերելի տարբերակն է։
Ապացույցներ
- Համակարգ
- Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified
- Runtime
- llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14)
- Մոդելի արտեֆակտ
- ggml-org/Qwen3.6-35B-A3B-GGUF @ baec3ebee244 (Q4_K_M)
- Շրջանակ
- interactive-assistant-v2@2026-08-02
- Ագրեգացիա
- median over valid requests
- Ապացույցի մակարդակ
- lab_repeated
- Կարգավիճակ
- active
- Հրապարակված է
- 03 օգոստոսի, 2026 թ.
- Սահմանափակումներ
- Three repeated runs on one unit. Closed-loop concurrency 8 — not an arrival-rate/SLO capacity claim. Context split across server slots (8192 per slot).
- Գործարկումներ
Արժեքի ստացումը
Արժեքն ամեն CI build-ում վերաստացվում է գործարկումների հում գրառումներից այս հարցումով — հրապարակված թիվը չի կարող լուռ շեղվել իր ապացույցներից։
Որտեղ է մեջբերվում
Կայքի էջերը, որտեղ այս թիվն է ցուցադրվում.
Հաշվետվություններ
- Beelink GTR9 Pro-ն լոկալ LLM-ների համար. ինչ չափեցին երկու միավորները սպասարկման մեկ ամսում
- Ի՞նչ սարքաշար լոկալ LLM-ի համար. չափված պատասխան՝ ըստ workload-ի
- Ինչ է իրականում աշխատեցնում 128 ԳԲ unified հիշողությունը. լոկալ LLM-ներ՝ չափված
- Քանի՞ թոքեն վայրկյանում է բավարար լոկալ LLM-ի համար
- Քանի՞ մարդ կարող է իրականում կիսել 128 ԳԲ-անոց մեկ լոկալ AI-տուփ
Ստուգված կոնֆիգուրացիաներ
Չափված զույգեր
Ինչպես մեջբերել
AGmind Systems Lab. Qwen3.6-35B-A3B Q4_K_M on Ryzen AI Max+ 395 (llama.cpp Vulkan): time to first answer token, 8 concurrent requests — 865 ms (median over valid requests; 3 runs on 1 unit; evidence level lab_repeated; workload interactive-assistant-v2@2026-08-02). Claim strix.qwen36.interactive2.c8.ttfa-nothink. https://agmind.ai/claims/strix.qwen36.interactive2.c8.ttfa-nothink/ @misc{agmind_strix_qwen36_interactive2_c8_ttfa_nothink,
author = {{AGmind Systems Lab}},
title = {Median client-side time to the first answer token with the reasoning block disabled, while 8 closed-loop streams run concurrently on the unit (each request measured from its own client).},
howpublished = {\url{https://agmind.ai/claims/strix.qwen36.interactive2.c8.ttfa-nothink/}},
note = {Claim strix.qwen36.interactive2.c8.ttfa-nothink: 865 ms; evidence level lab\_repeated; scope interactive-assistant-v2@2026-08-02},
year = {2026}
} Մեքենայաընթեռնելի. /claims/strix.qwen36.interactive2.c8.ttfa-nothink.json · BibTeX · CSL-JSON · ամբողջ ռեեստրը · փոփոխությունների հոսք
Ունե՞ք համադրելի սարքաշար։ Այս claim-ը կարելի է վերարտադրել. /reproduce/
Հրապարակված արդյունքների ուղղումները արձանագրվում են հրապարակայնորեն. errata
← Բոլոր claim-երը