Studio 288
4 × RTX PRO 5000 Blackwell 72 GB
4 независимые копии модели; распределение запросов нужно проверить.МОДЕЛЬ / ТОЧНЫЙ CHECKPOINT
Qwen3.8-27B
Исходный BF16 checkpoint для задач с кодом, текстом и изображениями. Длинный контекст и несколько запросов требуют отдельной памяти помимо весов.
Подобрать серверФАЙЛЫ ВЕСОВ51,75 GiB
ФОРМАТ CHECKPOINTИсходный BF16
КОНТЕКСТ256K — исходный лимит
ПРЕДВАРИТЕЛЬНЫЙ СОСТАВ
С чего начать испытание.
Профиль примера: 4 одновременных запроса, 32K контекст, BF16 KV. Предварительный расчёт по точному checkpoint. Скорость, реальная память и выбранная нагрузка пока не измерены.
Настроить нагрузку
Core Duo
2 × RTX PRO 5000 Blackwell 72 GB
2 независимые копии модели; распределение запросов нужно проверить.Flow 192
2 × RTX PRO 6000 Blackwell Workstation 96 GB
2 независимые копии модели; распределение запросов нужно проверить.Скорость фиксируется после измерения.Проверяем время до первого токена, скорость отдельного ответа и всей системы, ошибки и устойчивую работу. Полная цена зависит от согласованного состава и условий передачи.
ИСТОЧНИК И ВОСПРОИЗВОДИМОСТЬ
Точная версия — понятный заказ.
Размер — сумма файлов safetensors, а не измеренная память работающей модели. Нужны дополнительные ресурсы для KV-кэша, буферов, загрузки и исполнения.
- Репозиторий
- Qwen/Qwen3.8-27B
- Ревизия
1d4bf0f2ff6012fd82039f2fa52739d0dd7c60c0- Размер файлов
- 55 563 006 776 байт
- Проверено
- 11 октября 2026
Готовая система под вашу модель.
Выбрать нагрузку