Qwen3.6-35B-A3B Q4_K_M Ryzen AI Max+ 395-ի վրա (llama.cpp Vulkan) — inter-token latency, 4 զուգահեռ հարցում: 30.0 մվ/թոքեն

Չափումը

Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified համակարգի վրա, llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14) runtime-ով և ggml-org/Qwen3.6-35B-A3B-GGUF @ baec3ebee244 (Q4_K_M) մոդելով չափված «inter-token latency» մեծությունը, 4 զուգահեռ հարցում կազմել է 30.0 մվ/թոքեն (median over valid requests)։ Չափումը կատարվել է endurance-30m-v1@2026-08-03 սառեցված workload-ի տակ; ապացույցի մակարդակը՝ lab_single_run, 2 վավեր գործարկում 2 ֆիզիկական յունիթի վրա։ Արժեքը վերաստացվում է գործարկումների հում գրառումներից ամեն CI build-ում։

Ձևակերպում

Median inter-token latency sustained over the full 3-hour pass at closed-loop concurrency 4, both units pooled.

Claim-երի ձևակերպումները հրապարակվում են միայն անգլերեն — սա կանոնական, մեջբերելի տարբերակն է։

Ապացույցներ

Համակարգ

Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified

Runtime

llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14)

Մոդելի արտեֆակտ

ggml-org/Qwen3.6-35B-A3B-GGUF @ baec3ebee244 (Q4_K_M)

Շրջանակ

endurance-30m-v1@2026-08-03

Ագրեգացիա

median over valid requests

Ապացույցի մակարդակ

lab_single_run

Կարգավիճակ

active

Սահմանափակումներ

One 3-hour pass per unit — the pattern reproduced on both commercially identical units, but repeats within a unit are pending. Closed-loop concurrency 4, reasoning disabled, this corpus — not a general thermals verdict. Ambient not instrumented; die temperatures documented in the run notes.

Գործարկումներ

• run-20260803-end-c4-a
• run-20260803-end-c4-b

Արժեքի ստացումը

Արժեքն ամեն CI build-ում վերաստացվում է գործարկումների հում գրառումներից այս հարցումով — հրապարակված թիվը չի կարող լուռ շեղվել իր ապացույցներից։

catalog/claims/sql/itl-median.sql

Ինչպես մեջբերել

AGmind Systems Lab. "Median inter-token latency sustained over the full 3-hour pass at closed-loop concurrency 4, both units pooled." Claim strix.qwen36.endurance.c4.itl-median (30.0 ms/token), evidence level lab_single_run, scope endurance-30m-v1@2026-08-03. https://agmind.ai/claims/strix.qwen36.endurance.c4.itl-median/

@misc{agmind_strix_qwen36_endurance_c4_itl_median,
  author       = {{AGmind Systems Lab}},
  title        = {Median inter-token latency sustained over the full 3-hour pass at closed-loop concurrency 4, both units pooled.},
  howpublished = {\url{https://agmind.ai/claims/strix.qwen36.endurance.c4.itl-median/}},
  note         = {Claim strix.qwen36.endurance.c4.itl-median: 30.0 ms/token; evidence level lab\_single\_run; scope endurance-30m-v1@2026-08-03},
  year         = {2026}
}

Մեքենայաընթեռնելի. /claims/strix.qwen36.endurance.c4.itl-median.json · ամբողջ ռեեստրը