Սարքաշար
Լաբորատորիայի ստենդները
Մեքենաները, որոնք իրապես գոյություն ունեն լաբորատորիայում, օպերացիոն կարգավիճակով և հայտարարված սահմանափակումներով։ Ոչ մի արդյունք չի ընդհանրացվում փորձարկված յունիթից և տարբերակներից դուրս; միջավայրի դրոշմվածքները սառեցվում են ֆլագմանի նախագրանցման ժամանակ։
- գործում է
2× Beelink GTR9 Pro — AMD Strix Halo
Ryzen AI Max+ 395, 128 ԳԲ LPDDR5X-8000 unified, Radeon 8060S (gfx1151), երկու 10GbE — երկու առևտրայնորեն նույնական յունիթ
- Ինչի համար
- Որակավորման ֆլագմանային թիրախ. backend-երի համեմատություն (Vulkan vs ROCm), վերարտադրում յունիթից յունիթ, multi-slot serving, RAG-ծառայություններ
- Սահմանափակում
- Երկու յունիթը չի ներկայացնում ամբողջ արտադրական խմբաքանակը
- գործում է
2× NVIDIA DGX Spark — GB10
GB10 Grace Blackwell, 20-միջուկանի Arm, 128 ԳԲ unified, sm_121, ConnectX-7 — միացված կետ առ կետ 200G RoCE-ով
- Ինչի համար
- aarch64/sm_121 տեղափոխելիություն, multi-node տոպոլոգիաներ, long-context և speculative decoding
- Սահմանափակում
- Թանկ ու նեղ ստենդ; արդյունքները չեն ընդհանրացվում datacenter-ի Blackwell-ի վրա
- գործում է
RTX 5090 workstation
Սպառողական Blackwell, 32 ԳԲ GDDR7, x86 հոսթ
- Ինչի համար
- Հսկիչ CUDA-գիծ, fine-tuning/դիստիլյացիա, բազային չափումներ սպառողական GPU-ի վրա
- Սահմանափակում
- Մեկ կոնֆիգուրացիա; ոչ enterprise-սերվեր
- գործում է
Apple M1 Max, 64 GB
Apple Silicon, 64 ԳԲ unified, macOS / MLX-գիծ
- Ինչի համար
- Apple/MLX smoke-թեստեր և փոքր միջպլատֆորմային խարիսխներ
- Սահմանափակում
- Ոչ Apple-ի ընթացիկ բարձրակարգ սերունդը
- գործում է
MacBook Pro — Apple M4 Pro, 24 GB
Apple Silicon M4 Pro, 24 ԳԲ unified, macOS / MLX-գիծ
- Ինչի համար
- Apple-ի ընթացիկ սերնդի խարիսխ. նոութբուքի դասի լոկալ ինֆերենս, MLX-ի և llama.cpp Metal-ի համեմատություններ
- Սահմանափակում
- 24 ԳԲ-ը սահմանափակում է մոդելի չափը; նոութբուքի ջերմային ռեժիմ, ոչ դեսկթոփի
- գործում է
Laptop — Ryzen 9 9955HX + RTX 5070 Ti
Ryzen 9 9955HX (Zen 5, 16 միջուկ), RTX 5070 Ti Laptop 12 ԳԲ GDDR7, 32 ԳԲ DDR5
- Ինչի համար
- Դիսկրետ GPU-ով նոութբուքների գիծ. մոբայլ Blackwell CUDA, ինֆերենս VRAM-ի դեֆիցիտի պայմաններում և offload-սցենարներ unified-հիշողությամբ մեքենաների դիմաց
- Սահմանափակում
- 12 ԳԲ VRAM-ը միջին մոդելների համար ստիպում է offload; նոութբուքի ջերմային ռեժիմ
Չափված այս պարկի վրա
Սարքաշարը պատկանում է լաբորատորիային; ժամանակավոր օգտագործման կամ հաճախորդների ուղարկած յունիթներ չկան։ Ծագումը և փոփոխությունների կարգավիճակը բացահայտվում են ըստ նախագծի՝ բացահայտումների էջում։