Qwen3.6-35B-A3B Q4_K_M на Ryzen AI Max+ 395 (llama.cpp Vulkan) — time to first token, second question with prompt cache off: 33728 мс

Измерение

На системе Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified под управлением llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14) с моделью ggml-org/Qwen3.6-35B-A3B-GGUF @ baec3ebee244 (Q4_K_M) измеренная величина «time to first token, second question with prompt cache off» составила 33728 мс (median over valid requests for this item). Измерение выполнено под замороженным ворклоадом doc-session-v1@2026-08-03; уровень доказательности — lab_repeated, 3 валидных прогонов на 1 физическом(-их) юните(-ах). Значение перевыводится из сырых записей прогонов на каждом CI-билде.

Формулировка

Median time to first token for the second question over the same 32k-token document with the prompt cache disabled — the full prefill is paid again.

Формулировки клеймов публикуются только на английском — это каноничная цитируемая версия.

Доказательства

Система

Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified

Runtime

llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14)

Артефакт модели

ggml-org/Qwen3.6-35B-A3B-GGUF @ baec3ebee244 (Q4_K_M)

Скоуп

doc-session-v1@2026-08-03

Агрегация

median over valid requests for this item

Уровень доказательности

lab_repeated

Статус

active

Ограничения

Three repeated runs on one unit, reasoning disabled, single stream.

Прогоны

• run-20260803-ds-nocache-a
• run-20260803-ds-nocache-a-r2
• run-20260803-ds-nocache-a-r3

Вывод значения

Значение перевыводится из сырых записей прогонов этим запросом на каждом CI-билде — опубликованная цифра не может тихо разойтись со своими данными.

catalog/claims/sql/ttft-ds-en-32k-q2.sql

Как цитировать

AGmind Systems Lab. "Median time to first token for the second question over the same 32k-token document with the prompt cache disabled — the full prefill is paid again." Claim strix.qwen36.docsession.c1.ttft-q2-32k-nocache (33728 ms), evidence level lab_repeated, scope doc-session-v1@2026-08-03. https://agmind.ai/claims/strix.qwen36.docsession.c1.ttft-q2-32k-nocache/

@misc{agmind_strix_qwen36_docsession_c1_ttft_q2_32k_nocache,
  author       = {{AGmind Systems Lab}},
  title        = {Median time to first token for the second question over the same 32k-token document with the prompt cache disabled — the full prefill is paid again.},
  howpublished = {\url{https://agmind.ai/claims/strix.qwen36.docsession.c1.ttft-q2-32k-nocache/}},
  note         = {Claim strix.qwen36.docsession.c1.ttft-q2-32k-nocache: 33728 ms; evidence level lab\_repeated; scope doc-session-v1@2026-08-03},
  year         = {2026}
}

Машиночитаемо: /claims/strix.qwen36.docsession.c1.ttft-q2-32k-nocache.json · весь реестр