Qwen3.6-35B-A3B Q4_K_M на Ryzen AI Max+ 395 (llama.cpp Vulkan) — time to first answer token, 95th percentile, 8 одновременных запроса: 1088 мс

Измерение

На системе Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified под управлением llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14) с моделью ggml-org/Qwen3.6-35B-A3B-GGUF @ baec3ebee244 (Q4_K_M) измеренная величина «time to first answer token, 95th percentile», 8 одновременных запроса составила 1088 мс (95th percentile over valid requests, interpolated). Измерение выполнено под замороженным ворклоадом interactive-assistant-v2@2026-08-02; уровень доказательности — lab_repeated, 3 валидных прогонов на 1 физическом(-их) юните(-ах). Значение перевыводится из сырых записей прогонов на каждом CI-билде.

Формулировка

95th-percentile client-side time to the first answer token with the reasoning block disabled, while 8 closed-loop streams run concurrently on the unit (each request measured from its own client) — the slow tail of the same requests behind the median claim.

Формулировки клеймов публикуются только на английском — это каноничная цитируемая версия.

Доказательства

Система

Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified

Runtime

llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14)

Артефакт модели

ggml-org/Qwen3.6-35B-A3B-GGUF @ baec3ebee244 (Q4_K_M)

Скоуп

interactive-assistant-v2@2026-08-02

Агрегация

95th percentile over valid requests, interpolated

Уровень доказательности

lab_repeated

Статус

active

Опубликовано

2 сентября 2026 г.

Ограничения

Three repeated runs on one unit. Closed-loop concurrency 8 — not an arrival-rate/SLO capacity claim. Context split across server slots (8192 per slot). Each run has 16 corpus items, so even pooled across the listed runs the 95th percentile rests on a handful of the slowest requests — a coarse tail statistic, not a tail-latency model. Failed requests carry no answer-token time and are outside this statistic; the completion-share claim on the same runs accounts for them.

Прогоны

• run-20260803-v2-c8-nothink-a
• run-20260803-v2-c8-nothink-a-r2
• run-20260803-v2-c8-nothink-a-r3

Вывод значения

Значение перевыводится из сырых записей прогонов этим запросом на каждом CI-билде — опубликованная цифра не может тихо разойтись со своими данными.

catalog/claims/sql/ttfa-p95-nothink.sql

Где цитируется

Страницы сайта, на которых выводится это число:

Как цитировать

AGmind Systems Lab. Qwen3.6-35B-A3B Q4_K_M on Ryzen AI Max+ 395 (llama.cpp Vulkan): time to first answer token, 95th percentile, 8 concurrent requests — 1088 ms (95th percentile over valid requests, interpolated; 3 runs on 1 unit; evidence level lab_repeated; workload interactive-assistant-v2@2026-08-02). Claim strix.qwen36.interactive2.c8.ttfa-p95-nothink. https://agmind.ai/claims/strix.qwen36.interactive2.c8.ttfa-p95-nothink/

@misc{agmind_strix_qwen36_interactive2_c8_ttfa_p95_nothink,
  author       = {{AGmind Systems Lab}},
  title        = {95th-percentile client-side time to the first answer token with the reasoning block disabled, while 8 closed-loop streams run concurrently on the unit (each request measured from its own client) — the slow tail of the same requests behind the median claim.},
  howpublished = {\url{https://agmind.ai/claims/strix.qwen36.interactive2.c8.ttfa-p95-nothink/}},
  note         = {Claim strix.qwen36.interactive2.c8.ttfa-p95-nothink: 1088 ms; evidence level lab\_repeated; scope interactive-assistant-v2@2026-08-02},
  year         = {2026}
}

Машиночитаемо: /claims/strix.qwen36.interactive2.c8.ttfa-p95-nothink.json · BibTeX · CSL-JSON · весь реестр · лента изменений