Qwen3.6-35B-A3B Q4_K_M Ryzen AI Max+ 395-ի վրա (llama.cpp Vulkan) — time to first answer token, 8 զուգահեռ հարցում: 865 մվ

Չափումը

Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified համակարգի վրա, llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14) runtime-ով և ggml-org/Qwen3.6-35B-A3B-GGUF @ baec3ebee244 (Q4_K_M) մոդելով չափված «time to first answer token» մեծությունը, 8 զուգահեռ հարցում կազմել է 865 մվ (median over valid requests)։ Չափումը կատարվել է interactive-assistant-v2@2026-08-02 սառեցված workload-ի տակ; ապացույցի մակարդակը՝ lab_repeated, 3 վավեր գործարկում 1 ֆիզիկական յունիթի վրա։ Արժեքը վերաստացվում է գործարկումների հում գրառումներից ամեն CI build-ում։

Ձևակերպում

Median client-side time to the first answer token with the reasoning block disabled, while 8 closed-loop streams run concurrently on the unit (each request measured from its own client).

Claim-երի ձևակերպումները հրապարակվում են միայն անգլերեն — սա կանոնական, մեջբերելի տարբերակն է։

Ապացույցներ

Համակարգ

Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified

Runtime

llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14)

Մոդելի արտեֆակտ

ggml-org/Qwen3.6-35B-A3B-GGUF @ baec3ebee244 (Q4_K_M)

Շրջանակ

interactive-assistant-v2@2026-08-02

Ագրեգացիա

median over valid requests

Ապացույցի մակարդակ

lab_repeated

Կարգավիճակ

active

Սահմանափակումներ

Three repeated runs on one unit. Closed-loop concurrency 8 — not an arrival-rate/SLO capacity claim. Context split across server slots (8192 per slot).

Գործարկումներ

• run-20260803-v2-c8-nothink-a
• run-20260803-v2-c8-nothink-a-r2
• run-20260803-v2-c8-nothink-a-r3

Արժեքի ստացումը

Արժեքն ամեն CI build-ում վերաստացվում է գործարկումների հում գրառումներից այս հարցումով — հրապարակված թիվը չի կարող լուռ շեղվել իր ապացույցներից։

catalog/claims/sql/ttfa-nothink.sql

Ինչպես մեջբերել

AGmind Systems Lab. "Median client-side time to the first answer token with the reasoning block disabled, while 8 closed-loop streams run concurrently on the unit (each request measured from its own client)." Claim strix.qwen36.interactive2.c8.ttfa-nothink (865 ms), evidence level lab_repeated, scope interactive-assistant-v2@2026-08-02. https://agmind.ai/claims/strix.qwen36.interactive2.c8.ttfa-nothink/

@misc{agmind_strix_qwen36_interactive2_c8_ttfa_nothink,
  author       = {{AGmind Systems Lab}},
  title        = {Median client-side time to the first answer token with the reasoning block disabled, while 8 closed-loop streams run concurrently on the unit (each request measured from its own client).},
  howpublished = {\url{https://agmind.ai/claims/strix.qwen36.interactive2.c8.ttfa-nothink/}},
  note         = {Claim strix.qwen36.interactive2.c8.ttfa-nothink: 865 ms; evidence level lab\_repeated; scope interactive-assistant-v2@2026-08-02},
  year         = {2026}
}

Մեքենայաընթեռնելի. /claims/strix.qwen36.interactive2.c8.ttfa-nothink.json · ամբողջ ռեեստրը