Studio 288
4 × RTX PRO 5000 Blackwell 72 GB
4 независимые копии модели; распределение запросов нужно проверить.МОДЕЛЬ / ТОЧНЫЙ CHECKPOINT
Qwen3.8-27B-FP8
Официальная версия FP8 занимает меньше места, чем исходный BF16 checkpoint. Выбор формата весов не определяет автоматически формат KV-кэша и качество на ваших заданиях.
Подобрать серверФАЙЛЫ ВЕСОВ28,75 GiB
ФОРМАТ CHECKPOINTОфициальный FP8
КОНТЕКСТ256K — исходный лимит
ПРЕДВАРИТЕЛЬНЫЙ СОСТАВ
С чего начать испытание.
Профиль примера: 4 одновременных запроса, 32K контекст, BF16 KV. Предварительный расчёт по точному checkpoint. Скорость, реальная память и выбранная нагрузка пока не измерены.
Настроить нагрузку
Core Duo
2 × RTX PRO 5000 Blackwell 72 GB
2 независимые копии модели; распределение запросов нужно проверить.Flow 192
2 × RTX PRO 6000 Blackwell Workstation 96 GB
2 независимые копии модели; распределение запросов нужно проверить.Скорость фиксируется после измерения.Проверяем время до первого токена, скорость отдельного ответа и всей системы, ошибки и устойчивую работу. Полная цена зависит от согласованного состава и условий передачи.
ИСТОЧНИК И ВОСПРОИЗВОДИМОСТЬ
Точная версия — понятный заказ.
Размер — сумма файлов safetensors, а не измеренная память работающей модели. Нужны дополнительные ресурсы для KV-кэша, буферов, загрузки и исполнения.
- Репозиторий
- Qwen/Qwen3.8-27B-FP8
- Ревизия
017b9c7af6b5689d5dd426a76e0bc077eb5ca20a- Размер файлов
- 30 866 866 928 байт
- Проверено
- 11 октября 2026
Готовая система под вашу модель.
Выбрать нагрузку