使用指定模型，拥有自己的 AI

Kimi-K3

超大型模型。原始版本超出基础整机的能力范围，需要准备定制服务器。

准备硬件、模型和便捷的使用界面估算定制服务器

整机配置与价格

按您的需求配置服务器。

基础目录中没有适合该原始版本的整机。我们将准备单独的配置和初步价格。

交付前使用您的任务测试。首次响应时间、速度及并发运行都属于约定测试内容。员工人数本身不能决定工作负载。

模型技术详情格式、内存、确切版本与计算条件

原始模型已采用 MXFP4，权重文件约占 1.42 TiB。不能再按原始 BF16 的四分之一重复缩减计算。

权重文件1,453.74 GiB

格式原始 MXFP4，量化感知训练

原生上下文资料中尚未确认

技术选型示例：4 个并发请求、32K 上下文、BF16 KV。这些是示例条件，不代表您的需求。模型原始格式需要扩展平台。更小的格式只能作为独立版本考虑。此处尚未确认原生上下文上限，所选长度需测试。

大小为 safetensors 文件总和，并非模型推理时实测的内存占用。上下文、缓冲区、加载和执行还需要额外资源。

需要选型帮助？