I
IAI 编辑部 · 官方 Official
IAI 编辑部 · 新闻解读 / News analysis
日期：Hugging Face 官方博客《Welcome Le Chonk: Mistral Large 4 on Hugging Face》标注 **2026-10-29**。以下架构与基准数字以 **HF 博客** 为主；Mistral 官方开源权重博文作交叉引用。**未给出可复现公开协议细节或仅厂商内部环境的指标，一律视为官方自述 / 需自测，请勿当采购或安全承诺**。
一、事实要点（HF 博客 / 模型卡交叉）
- **定位**：Mistral Large 4（社区昵称 **Le Chonk**）为原生 **多模态**（文本+图像入、文本出）、多语种 **Mixture-of-Experts**；HF 文称约 **1T** 总参数、约 **49B** 活跃参数、**1M** 上下文。模型卡表述为约 **1T** 总参、每 token 约 **49B** 活跃（含 embedding/输出层时常写作约 **52B**）——两处口径并存，引用时请标明来源。
- **官方权重形态（HF）**：**FP8** 与 **NVFP4** 两路；另有 Unsloth / llama.cpp 等社区 **GGUF**。许可为 **Mistral Ecosystem Open-Weight License**（MIT 衍生；**以模型即服务 MaaS 方式商用需另获 Mistral 商业许可**——以许可证原文为准）。
- **架构摘要（HF）**：文本解码约 **72** 层、隐维 **6144**、**64** 头；注意力为 **MLA** + **DSA** 索引（每 query 最多约 **2048** 个 key 位置）；MoE 为 **128** routed experts、每 token **top-4**，另加 **1** 个 shared expert；视觉侧约 **1.6B** Pixtral 风格编码器。
- **推理栈 day-0（HF）**：宣称 **transformers / vLLM / llama.cpp** 当日可用；并提供 Inference Endpoints 配方（文称 8×H200、vLLM、内置 DSpark 投机解码草稿头等——吞吐数字为 HF 观测，**需自测**）。
- **基准（HF 文内引用，需自测）**：截至文中日期，Artificial Analysis Intelligence Index 开源权重约第 **5**；编码侧 DeepSWE v1.1 **61.7%**、SWE-Atlas-QnA **59.4%**、Terminal-Bench 4 **28.3%**、Coding Agent Index 合计约 **49.8%**；安全向 Artificial Analysis Cyber 相关「复现并修补漏洞」任务文称 **82%**、Cybench **93%**、Lakera B3 抗攻击约 **93.3%**。以上均为报道口径。
- **Mistral 官博交叉（开源权重稿）**：强调编码/防御向安全与三种 reasoning 档位（low/medium/high，默认 high）；API 标价文称约 **$0.70 / $2.10** per 1M input/output（缓存输入另列）——**价与榜单以官博当日为准，企业仍应按 $/成功任务 + 自有回归集验收**。
二、编辑部怎么看（偏工程）
1. **开源接入先过「许可证 + 栈 + 卡型」三闸**：FP8/NVFP4 对 GPU 代际与并行策略（TP/EP）敏感；MaaS 场景务必读 Ecosystem 许可，避免「下了权重就算可转售 API」。对照本站选型/成本：https://www.iaiforum.com/t/61 、https://www.iaiforum.com/t/95 。
2. **MoE + 长上下文 = 路由与 KV 运维题**：活跃参数漂亮不等于热专家均衡；生产要按专家看排队/显存，并处理 1M 上下文下的前缀缓存与碎片（https://www.iaiforum.com/t/96 、https://www.iaiforum.com/t/81 、https://www.iaiforum.com/t/90 ）。
3. **安全向分数 ≠ 可放开工具执行面**：HF/Mistral 都强调防御向能力与有害请求拒绝；线上仍要把工具 allowlist、二次确认、沙箱做成硬边界（https://www.iaiforum.com/t/77 ）。开源权重让你能自托管策略，不代表可以去掉执行面闸门。
4. **reasoning_effort 要进产品配置与账单**：默认 high 会抬高延迟与 token；应按任务类型路由 low/medium/high，并在业务回归集上量「质量—费用」帕累托（https://www.iaiforum.com/t/88 、https://www.iaiforum.com/t/84 ）。
5. **评测以自有集为门**：公开 Coding/Cyber 指数用于筛候选；换代与放量以冻结业务集 + 长尾桶为准（https://www.iaiforum.com/t/83 、https://www.iaiforum.com/t/88 ）。
三、English summary
Hugging Face (2026-10-29) published “Welcome Le Chonk: Mistral Large 4 on Hugging Face”: multimodal MoE (~1T total / ~49B active per HF; ~52B active incl. embeddings on the model card), 1M context, FP8 & NVFP4 weights, day-0 transformers/vLLM/llama.cpp, Mistral Ecosystem Open-Weight License (separate commercial license for MaaS). Treat reported coding/cyber benchmarks as vendor/blog figures — re-benchmark on your tasks, watch MoE expert skew & KV under long context, and keep tool-execution guardrails even when self-hosting.
四、讨论问题
1. 若你们评估自托管 Large 4，会先卡 **NVFP4/Blackwell 可用性**，还是先卡 **Ecosystem 许可是否挡住对外 API**？
2. reasoning 三档上，你们打算按 **任务类型静态路由**，还是按 **延迟/费用预算动态降档**？
3. MoE 热专家倾斜，你们更怕 **P99** 还是 **单专家 OOM/拒绝**？
来源 Sources
- Hugging Face Blog: https://huggingface.co/blog/mistral-large4
- Model card: https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B
- Mistral: https://mistral.ai/news/mistral-large-4-oss/
- 相关本站：MoE https://www.iaiforum.com/t/96 · KV/碎片 https://www.iaiforum.com/t/81 · 多租户 https://www.iaiforum.com/t/90 · 成本 https://www.iaiforum.com/t/61 · 注入与工具面 https://www.iaiforum.com/t/77 · 评测集 https://www.iaiforum.com/t/88
欢迎贴（可脱敏）你们对「开源大 MoE」的接入检查清单；勿把博客基准直接写成采购验收单。
——
IAI 编辑部（iaiforum.com 官方编辑账号 · Official editorial account of IAI Forum）
日期：Hugging Face 官方博客《Welcome Le Chonk: Mistral Large 4 on Hugging Face》标注 **2026-10-29**。以下架构与基准数字以 **HF 博客** 为主；Mistral 官方开源权重博文作交叉引用。**未给出可复现公开协议细节或仅厂商内部环境的指标，一律视为官方自述 / 需自测，请勿当采购或安全承诺**。
一、事实要点（HF 博客 / 模型卡交叉）
- **定位**：Mistral Large 4（社区昵称 **Le Chonk**）为原生 **多模态**（文本+图像入、文本出）、多语种 **Mixture-of-Experts**；HF 文称约 **1T** 总参数、约 **49B** 活跃参数、**1M** 上下文。模型卡表述为约 **1T** 总参、每 token 约 **49B** 活跃（含 embedding/输出层时常写作约 **52B**）——两处口径并存，引用时请标明来源。
- **官方权重形态（HF）**：**FP8** 与 **NVFP4** 两路；另有 Unsloth / llama.cpp 等社区 **GGUF**。许可为 **Mistral Ecosystem Open-Weight License**（MIT 衍生；**以模型即服务 MaaS 方式商用需另获 Mistral 商业许可**——以许可证原文为准）。
- **架构摘要（HF）**：文本解码约 **72** 层、隐维 **6144**、**64** 头；注意力为 **MLA** + **DSA** 索引（每 query 最多约 **2048** 个 key 位置）；MoE 为 **128** routed experts、每 token **top-4**，另加 **1** 个 shared expert；视觉侧约 **1.6B** Pixtral 风格编码器。
- **推理栈 day-0（HF）**：宣称 **transformers / vLLM / llama.cpp** 当日可用；并提供 Inference Endpoints 配方（文称 8×H200、vLLM、内置 DSpark 投机解码草稿头等——吞吐数字为 HF 观测，**需自测**）。
- **基准（HF 文内引用，需自测）**：截至文中日期，Artificial Analysis Intelligence Index 开源权重约第 **5**；编码侧 DeepSWE v1.1 **61.7%**、SWE-Atlas-QnA **59.4%**、Terminal-Bench 4 **28.3%**、Coding Agent Index 合计约 **49.8%**；安全向 Artificial Analysis Cyber 相关「复现并修补漏洞」任务文称 **82%**、Cybench **93%**、Lakera B3 抗攻击约 **93.3%**。以上均为报道口径。
- **Mistral 官博交叉（开源权重稿）**：强调编码/防御向安全与三种 reasoning 档位（low/medium/high，默认 high）；API 标价文称约 **$0.70 / $2.10** per 1M input/output（缓存输入另列）——**价与榜单以官博当日为准，企业仍应按 $/成功任务 + 自有回归集验收**。
二、编辑部怎么看（偏工程）
1. **开源接入先过「许可证 + 栈 + 卡型」三闸**：FP8/NVFP4 对 GPU 代际与并行策略（TP/EP）敏感；MaaS 场景务必读 Ecosystem 许可，避免「下了权重就算可转售 API」。对照本站选型/成本：https://www.iaiforum.com/t/61 、https://www.iaiforum.com/t/95 。
2. **MoE + 长上下文 = 路由与 KV 运维题**：活跃参数漂亮不等于热专家均衡；生产要按专家看排队/显存，并处理 1M 上下文下的前缀缓存与碎片（https://www.iaiforum.com/t/96 、https://www.iaiforum.com/t/81 、https://www.iaiforum.com/t/90 ）。
3. **安全向分数 ≠ 可放开工具执行面**：HF/Mistral 都强调防御向能力与有害请求拒绝；线上仍要把工具 allowlist、二次确认、沙箱做成硬边界（https://www.iaiforum.com/t/77 ）。开源权重让你能自托管策略，不代表可以去掉执行面闸门。
4. **reasoning_effort 要进产品配置与账单**：默认 high 会抬高延迟与 token；应按任务类型路由 low/medium/high，并在业务回归集上量「质量—费用」帕累托（https://www.iaiforum.com/t/88 、https://www.iaiforum.com/t/84 ）。
5. **评测以自有集为门**：公开 Coding/Cyber 指数用于筛候选；换代与放量以冻结业务集 + 长尾桶为准（https://www.iaiforum.com/t/83 、https://www.iaiforum.com/t/88 ）。
三、English summary
Hugging Face (2026-10-29) published “Welcome Le Chonk: Mistral Large 4 on Hugging Face”: multimodal MoE (~1T total / ~49B active per HF; ~52B active incl. embeddings on the model card), 1M context, FP8 & NVFP4 weights, day-0 transformers/vLLM/llama.cpp, Mistral Ecosystem Open-Weight License (separate commercial license for MaaS). Treat reported coding/cyber benchmarks as vendor/blog figures — re-benchmark on your tasks, watch MoE expert skew & KV under long context, and keep tool-execution guardrails even when self-hosting.
四、讨论问题
1. 若你们评估自托管 Large 4，会先卡 **NVFP4/Blackwell 可用性**，还是先卡 **Ecosystem 许可是否挡住对外 API**？
2. reasoning 三档上，你们打算按 **任务类型静态路由**，还是按 **延迟/费用预算动态降档**？
3. MoE 热专家倾斜，你们更怕 **P99** 还是 **单专家 OOM/拒绝**？
来源 Sources
- Hugging Face Blog: https://huggingface.co/blog/mistral-large4
- Model card: https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B
- Mistral: https://mistral.ai/news/mistral-large-4-oss/
- 相关本站：MoE https://www.iaiforum.com/t/96 · KV/碎片 https://www.iaiforum.com/t/81 · 多租户 https://www.iaiforum.com/t/90 · 成本 https://www.iaiforum.com/t/61 · 注入与工具面 https://www.iaiforum.com/t/77 · 评测集 https://www.iaiforum.com/t/88
欢迎贴（可脱敏）你们对「开源大 MoE」的接入检查清单；勿把博客基准直接写成采购验收单。
——
IAI 编辑部（iaiforum.com 官方编辑账号 · Official editorial account of IAI Forum）