AGmind Հայցել scope

Claim

Qwen3.6-35B-A3B Q4_K_M Ryzen AI Max+ 395-ի վրա (llama.cpp Vulkan) — time to first answer token, 95th percentile, 4 զուգահեռ հարցում: 608 մվ

active lab_repeated strix.qwen36.interactive2.c4.ttfa-p95-nothink

608մվ

Չափումը

Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified համակարգի վրա, llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14) runtime-ով և ggml-org/Qwen3.6-35B-A3B-GGUF @ baec3ebee244 (Q4_K_M) մոդելով չափված «time to first answer token, 95th percentile» մեծությունը, 4 զուգահեռ հարցում կազմել է 608 մվ (95th percentile over valid requests, interpolated)։ Չափումը կատարվել է interactive-assistant-v2@2026-08-02 սառեցված workload-ի տակ; ապացույցի մակարդակը՝ lab_repeated, 3 վավեր գործարկում 1 ֆիզիկական յունիթի վրա։ Արժեքը վերաստացվում է գործարկումների հում գրառումներից ամեն CI build-ում։

Ձևակերպում

95th-percentile client-side time to the first answer token with the reasoning block disabled, while 4 closed-loop streams run concurrently on the unit (each request measured from its own client) — the slow tail of the same requests behind the median claim.

Claim-երի ձևակերպումները հրապարակվում են միայն անգլերեն — սա կանոնական, մեջբերելի տարբերակն է։

Ապացույցներ

Համակարգ
Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified
Runtime
llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14)
Մոդելի արտեֆակտ
ggml-org/Qwen3.6-35B-A3B-GGUF @ baec3ebee244 (Q4_K_M)
Շրջանակ
interactive-assistant-v2@2026-08-02
Ագրեգացիա
95th percentile over valid requests, interpolated
Ապացույցի մակարդակ
lab_repeated
Կարգավիճակ
active
Հրապարակված է
02 սեպտեմբերի, 2026 թ.
Սահմանափակումներ
Three repeated runs on one unit. Closed-loop concurrency 4 — not an arrival-rate/SLO capacity claim. Context split across server slots (8192 per slot). Each run has 16 corpus items, so even pooled across the listed runs the 95th percentile rests on a handful of the slowest requests — a coarse tail statistic, not a tail-latency model. Failed requests carry no answer-token time and are outside this statistic; the completion-share claim on the same runs accounts for them.
Գործարկումներ

Արժեքի ստացումը

Արժեքն ամեն CI build-ում վերաստացվում է գործարկումների հում գրառումներից այս հարցումով — հրապարակված թիվը չի կարող լուռ շեղվել իր ապացույցներից։

catalog/claims/sql/ttfa-p95-nothink.sql

Որտեղ է մեջբերվում

Կայքի էջերը, որտեղ այս թիվն է ցուցադրվում.

Չափված զույգեր

Ինչպես մեջբերել

AGmind Systems Lab. Qwen3.6-35B-A3B Q4_K_M on Ryzen AI Max+ 395 (llama.cpp Vulkan): time to first answer token, 95th percentile, 4 concurrent requests — 608 ms (95th percentile over valid requests, interpolated; 3 runs on 1 unit; evidence level lab_repeated; workload interactive-assistant-v2@2026-08-02). Claim strix.qwen36.interactive2.c4.ttfa-p95-nothink. https://agmind.ai/claims/strix.qwen36.interactive2.c4.ttfa-p95-nothink/
@misc{agmind_strix_qwen36_interactive2_c4_ttfa_p95_nothink,
  author       = {{AGmind Systems Lab}},
  title        = {95th-percentile client-side time to the first answer token with the reasoning block disabled, while 4 closed-loop streams run concurrently on the unit (each request measured from its own client) — the slow tail of the same requests behind the median claim.},
  howpublished = {\url{https://agmind.ai/claims/strix.qwen36.interactive2.c4.ttfa-p95-nothink/}},
  note         = {Claim strix.qwen36.interactive2.c4.ttfa-p95-nothink: 608 ms; evidence level lab\_repeated; scope interactive-assistant-v2@2026-08-02},
  year         = {2026}
}

Մեքենայաընթեռնելի. /claims/strix.qwen36.interactive2.c4.ttfa-p95-nothink.json · BibTeX · CSL-JSON · ամբողջ ռեեստրը · փոփոխությունների հոսք

Ունե՞ք համադրելի սարքաշար։ Այս claim-ը կարելի է վերարտադրել. /reproduce/

Հրապարակված արդյունքների ուղղումները արձանագրվում են հրապարակայնորեն. errata

← Բոլոր claim-երը