gemma-4-26B-A4B-it Q4_0 на Ryzen AI Max+ 395 (llama.cpp Vulkan) — time to the first token of any output: 282 мс

Измерение

На системе Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified под управлением llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14) с моделью ggml-org/gemma-4-26B-A4B-it-GGUF @ bb4531cda34d (Q4_0) измеренная величина «time to the first token of any output» составила 282 мс (median over answered requests). Измерение выполнено под замороженным ворклоадом interactive-assistant-v2@2026-08-02; уровень доказательности — lab_repeated, 3 валидных прогонов на 1 физическом(-их) юните(-ах). Значение перевыводится из сырых записей прогонов на каждом CI-билде.

Формулировка

Median client-side time to the first streamed token of any kind (reasoning included) in the default operating mode.

Формулировки клеймов публикуются только на английском — это каноничная цитируемая версия.

Доказательства

Система

Beelink GTR9 Pro — AMD Ryzen AI Max+ 395, Radeon 8060S (gfx1151), 128 GB LPDDR5X-8000 unified

Runtime

llama.cpp (server, Vulkan backend), b9049 (server_fingerprint b9049-2496f9c14)

Артефакт модели

ggml-org/gemma-4-26B-A4B-it-GGUF @ bb4531cda34d (Q4_0)

Скоуп

interactive-assistant-v2@2026-08-02

Агрегация

median over answered requests

Уровень доказательности

lab_repeated

Статус

active

Ограничения

Three repeated runs on one unit. Default operating mode of the model (reasoning emitted); disabling reasoning via the chat template was not tested for this model family.

Прогоны

• run-20260803-gm-v2-a
• run-20260803-gm-v2-a-r2
• run-20260803-gm-v2-a-r3

Вывод значения

Значение перевыводится из сырых записей прогонов этим запросом на каждом CI-билде — опубликованная цифра не может тихо разойтись со своими данными.

catalog/claims/sql/ttft-any-token.sql

Как цитировать

AGmind Systems Lab. "Median client-side time to the first streamed token of any kind (reasoning included) in the default operating mode." Claim strix.gemma4.interactive2.c1.ttft-any-token (282 ms), evidence level lab_repeated, scope interactive-assistant-v2@2026-08-02. https://agmind.ai/claims/strix.gemma4.interactive2.c1.ttft-any-token/

@misc{agmind_strix_gemma4_interactive2_c1_ttft_any_token,
  author       = {{AGmind Systems Lab}},
  title        = {Median client-side time to the first streamed token of any kind (reasoning included) in the default operating mode.},
  howpublished = {\url{https://agmind.ai/claims/strix.gemma4.interactive2.c1.ttft-any-token/}},
  note         = {Claim strix.gemma4.interactive2.c1.ttft-any-token: 282 ms; evidence level lab\_repeated; scope interactive-assistant-v2@2026-08-02},
  year         = {2026}
}

Машиночитаемо: /claims/strix.gemma4.interactive2.c1.ttft-any-token.json · весь реестр