Le Chonk 开放权重，离自己部署还有多远
Mistral Large 4 开放了哪些选择？结合当前模型卡和完整许可证，理解 MoE 的部署负担、内部使用与 MaaS 的区别，以及上线前真正要验证的内容。
Mistral Large 4，也叫 Le Chonk，已经提供可下载权重。对于需要控制模型运行位置、适配内部资料的团队，这比单独增加一个 API 型号多了一种选择：可以自己持有模型，并决定如何部署与修改。
但下载权重之后，仍然要解决推理资源、服务维护和许可证适用范围。尤其是模型采用 MoE 架构，每次只激活部分参数，不代表部署时只需容纳这部分权重。
本文于 2026 年 11 月 11 日重读官方发布文章、权重模型卡及完整许可证。发布页标记 10 月 29 日发布、11 月 5 日更新；当前模型文档标记 11 月 5 日 GA。开放权重公告和服务文档的日期分别保留，不混称今天刚发布。本文没有下载大体积权重、部署推理服务或独立比较效果。
开放的是部署和修改的选择
当前模型卡把它描述为约一万亿总参数的原生多模态 MoE 模型，接受文字和图片，输出文字；支持函数调用、结构化输出，以及按请求设置推理档位。这里的多模态不表示它直接生成图片或视频。
对使用方式，可以分成三条路径：
| 路径 | 团队获得什么 | 主要需要负责什么 |
|---|---|---|
| 使用托管 API | 不必先运行权重，较快验证任务 | 账号、服务条款、数据要求和任务验收 |
| 在自己的基础设施部署 | 控制权重、运行位置和服务配置 | 算力、容量、更新、监控与故障处理 |
| 修改或微调后部署 | 针对材料或任务调整模型 | 数据质量、训练过程、效果与回归验证 |
如果目的是统一几个模型的 API 地址，先判断是否只需要网关。LLM Gateway 的职责说明解释了路由与协议这一层；网关本身不会把大型权重变成可运行的推理服务。模型部署与 API 聚合，需要分别做决定。
许可证里的 MaaS，范围比“卖一份模型”更具体
这次使用的是 Mistral Ecosystem Open-Weight License，属于修改过的 MIT 许可证。不能把名称简写成普通 MIT 后，就推导任意商业用途都没有额外条件。
完整文本要求：如果被许可人或其关联方经营 Model-as-a-Service 业务，在将模型或衍生模型用于商业目的前，需要与 Mistral 另行签订商业许可；第 3 条同时为内部使用、通过 Mistral 官方产品访问设置了例外。
许可证把 MaaS 定义为：通过 API、托管端点或其他方式向第三方提供模型推理或后训练，并允许其对输入、参数或训练数据有实质控制。文本又明确排除了特定功能或工作流程中嵌入模型能力的终端产品，以及单纯转发其他方托管模型的请求。
| 计划中的用途 | 许可证文本给出的重要边界 |
|---|---|
| 仅内部使用，不向第三方提供模型 | 第 3 条排除第 2 条要求 |
| 模型能力只嵌在具体产品功能中 | MaaS 定义有对应排除，需符合实际形态 |
| 对外提供可控制输入或参数的模型服务 | 核对 MaaS 定义与另行商业许可要求 |
| 单纯转发别人托管的模型 | 定义明确排除，但不替其他混合业务下结论 |
“我的公司也做模型服务”“只是给客户加了一个聊天框”“我们修改过权重”都不足以单独确定许可结果。要把被许可人、关联方、实际对外能力和例外一起读。复制或分发模型时，还应保留许可证要求的版权与许可通知。具体业务不清楚时，把完整形态提交给 Mistral 核实，比套用一句“开放权重免费商用”更可靠。
为什么活跃参数不能当显存需求
模型卡说明，每个 token 约有 490 亿活跃参数，计入嵌入与输出层后约为 520 亿；模型总参数约一万亿。前一个数字描述计算时使用的部分，后一个数字仍与完整权重的存储和部署相关。
部署还需要给长上下文的 KV 缓存、并发请求和运行时留空间。模型卡给出的 1M 上下文是支持上限，不能当成任意硬件、任意并发都能同时达到的容量。
官方 vLLM 示例使用 --tensor-parallel-size 8，并启用 Mistral 的工具调用与推理解析器。这是示例服务配置，不能据此认定任意八张 GPU 都够。模型卡还列出针对 Blackwell 的 NVFP4 权重；它与原始权重的硬件和推理引擎条件应分别核对。
不要只估算权重文件大小就承诺吞吐。先按实际精度、上下文长度、目标并发与所选引擎核对配置，再做容量验证。没有这些条件，给一个“最低显存”数字反而容易误导。
先过任务验收，再谈接管线上流量
一个有用的试部署记录应至少包含：
- 模型身份。 权重仓库、固定 revision、精度和许可证副本；API 中的服务名另行记录，不与下载仓库名混用。
- 推理实现。 引擎和版本、模型模板、推理解析与工具解析配置。只返回文字不能证明工具调用已接好。
- 业务行为。 一份公开文字任务、一张可核对的公开图片、一次无副作用的工具往返，以及所需的结构化输出。
- 运行条件。 相同输入长度和并发下的内存、等待与失败情况；这里只列记录项，没有本文测量值。
工具测试应包括模型提出调用、应用执行、回传结果和模型继续回答。只检查工具名称出现在回复里不够。与客户端连接时，再按模型列表与能力检查核对实际服务路径，必要时用固定任务的方法保留失败结果。
如果团队暂时没有持续维护推理服务的人，可以先用托管服务确认业务价值，再判断哪些数据与任务值得迁入自部署环境。使用 Nbility 或其他网关时，按连接基础核对地址和协议；服务能连上，只完成了这项决定的一部分。
