Ինչ հարցի է պատասխանում քարտը
Մինի-համակարգիչները թրոթլում են։ Իսկ ա՞յս մեկը — իրատեսական երկարատև ասիստենտային ծանրաբեռնվածության տակ, և պատասխանը պահպանվու՞մ է մեկից ավելի յունիթի վրա։
Վճիռ. PASS WITH LIMITS։ Երեք անընդհատ ժամվա ընթացքում closed-loop concurrency 4-ով ոչ մի յունիթ չափելիորեն չդեգրադացվեց և ոչ մի հարցում չգցեց։ Ապացույցների մակարդակն ազնիվ է խորության մասին. մեկ 3-ժամյա անցում՝ յունիթին։
Արդյունքներ
Ամբողջ անցման ընթացքում ավարտվածների բաժինը, երկու յունիթները միասին. 100.0հարցումների %single_run։ Decode-ի տեմպը, որ յունիթները պահեցին ամբողջ ընթացքում. 30.0մվ/թոքենsingle_run։ Թիվը, որի համար գոյություն ունի այս workload-ը — այդ տեմպի դրեյֆն առաջին հինգ րոպեների և 175–180 րոպեների միջև. 1.6%single_run — աղմուկի սահմաններում, ամեն չեկփոինթում (30, 60, 180 ր) երկու յունիթի վրա։
Դրա տակ գտնվող ջերմային պատկերը՝ բյուրեղի ջերմաստիճանի սայդքար-լոգից (փաստաթղթավորված է անցումներում, միջավայրը գործիքավորված չէ). յունիթ A-ն կայունացավ ցածր յոթանասունականների շրջանում (Ցելսիուս), յունիթ B-ն նույն հարցումների տեմպի դեպքում աշխատում էր մոտ վեց աստիճան ավելի տաք — հովացման միջէկզեմպլյարային ցրվածք, որը, գոնե այս տիրույթում, արտադրողականության տարբերության չվերածվեց։
Լիմիտները «pass with limits»-ում
- Մեկ 3-ժամյա անցում՝ յունիթին։ Պատկերը վերարտադրվեց երկու կոմերցիոն
առումով նույնական յունիթների վրա, բայց յունիթի ներսում կրկնություններն
առջևում են — այստեղից էլ
lab_single_run-ը։ - Միայն այս տիրույթը. closed-loop concurrency 4, մտածողությունն անջատած, այս կորպուսը, decode-ի տեմպը՝ 30.0մվ/թոքենsingle_run։ Prefill-ով գերիշխող ծանրաբեռնվածությունը կարող է այլ կերպ վարվել։
- Ջերմային վճիռ չէ։ Բյուրեղի ջերմաստիճանը լոգավորվել է, միջավայրը գործիքավորված չէ. ոչ մի հայտարարություն տաք սենյակների, փոշու և սեզոնների մասին։
- Բազմախոսության գեյթը շարունակում է չանցնել այս կորպուսի վրա, ինչպես կենցաղային ասիստենտի քարտում — երկարատև ծանրաբեռնվածությունը արտածման կարգապահությունը ոչ մի ուղղությամբ չփոխեց։
Ռեվալիդացիայի թրիգերներ
Runtime-ի image-ի, մոդելի արտեֆակտի, workload-ի ռևիզիայի, դրայվերի/միջուկի, ցանկացած յունիթի կորպուսի/հովացման փոփոխություն։ Harness-ը և կորպուսը՝ agmind-bench։