IAI 编辑部 · 新闻解读 / News analysis

日期:Hugging Face 官方博客标注 **Published November 13, 2026**,题为 *llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem*(核实:https://huggingface.co/blog/ggml-org/llama-cpp-v1 )。同日 GitHub 发布说明 *v1.0.0*(标签发布时间 2026-11-13 10:20:19 UTC,即 Asia/Shanghai 18:20;核实:https://github.com/ggml-org/llama.cpp/releases/tag/v1.0.0 )。这不是再发一条「本地推理又更快了」的转载,而是把 **公开 C API 的兼容边界** 写成语义化版本规则:MAJOR 表示公开头文件里的破坏性变更,下游集成要把「跟 master 编译通过」和「按承诺的 API 版本依赖」分开看。

一、事实要点(以官博与 GitHub 发布说明为准;项目方陈述需自测,不写成 SLA)
- **两个库同时到 1.0.0**:官博把发行写成两行——llama.cpp v1.0.0 对应 `libllama`(公开头文件在 `llama.cpp/include/`),ggml v1.0.0 对应 `libggml`(公开头文件在 `ggml/include/`)。官博写,自项目起步约三年半以来,已有不少下游依赖这些库接口;此后 llama.cpp 与 ggml 将以 major 版本号反映 API / ABI 不兼容。
- **语义化版本规则(官博表格)**:对 ggml-org 使用语义化版本的项目,MAJOR = 对 `./include` 中公开 C API 的破坏性变更;MINOR = 向后兼容的功能、后端更新、模型支持或 API 新增;PATCH = 不改 API 的缺陷修复。
- **发布说明里的 API 清理(只转述已写内容)**:GitHub 发布说明写明,v1.0.0 移除了已废弃的公开 API,并把 NextN / speculative API 提升到 `llama.h`(从 `llama-ext.h` 晋升);删除项包括 `llama_set_warmup`、35 个已废弃函数,以及 `defrag_thold` / `--defrag-thold`;`llama_set_embd_state_src` 重命名为 `llama_set_ctx_state_src`。`llama_context_params` 新增 `moe_cache_size` 与 `moe_cache_cpu_share`。这些是接口清单,不是本站的迁移测评。
- **功能增量(发布说明 Overview,需自测)**:OCP FP8 KV cache(`-ctk/-ctv f8_e4m3`,可选静态 per-tensor scale);宿主内存上的 MoE expert cache,并可配置 CPU share;可从单独的 GGUF shard 加载外部 PLE / engram。文本架构新增 Kimi-K3.1-Pro、Ripple 与 xing4_0;另有 drama-3 TTS,以及 MageVL-Cowork 与 Kimi-K3.1 vision。`llama-server` 增加 OpenAI 兼容的 `/v1/audio/speech` 端点,Web UI 改为带聊天分组和 markdown 编辑器。ggml v1.0.0 同时清理已废弃公开 API 与遗留 `DIAG_MASK` 算子,并写入可配置的 YaRN truncation 与 FP8 支持。发布说明还提到 Nightly build **b12359**,这是构建标签,不是性能承诺。
- **模型与后端覆盖(官博陈述,需自测)**:官博写,ggml 后端可编译为动态库并在运行时按需加载;并写「Currently, llama.cpp supports more than 150 architecture variants as well as all mainstream speculative decoding methods」。这是项目方陈述,不是本站测评,更不能写成接入 SLA。发行渠道方面,官博列举了预发布产物(Linux、macOS、Windows、Android、iOS)、Docker、Debian、Homebrew、conda-forge、MacPorts、Winget 与 XCFramework。
- **服务端加固(只写高层,不写攻击步骤)**:发布说明写,`llama-server` 做了 SSRF、CORS、DNS rebinding 等方面的加固,并增加 `--allow-unauthenticated-tools`、`--media-allow-private-urls` 这类需显式打开的选项;同时写明可在客户端断开或超时后取消 MCP 工具调用,以及把 `HF_TOKEN` 限制在 huggingface.co 主机。这些是发布说明里的加固范围,不是安全测评报告,也不构成「打开即可上公网」的保证。

二、编辑部怎么看(偏工程)
1. **1.0.0 首先是契约,不是性能里程碑**:MAJOR 对公开 C API 破坏性变更负责,意味着下游应把依赖钉在版本上,并把「废弃 API 已删除」写进自己的升级清单。跟 `master` 能编译通过,不等于已经按承诺的 API 版本集成。本地推理与量化对照:https://www.iaiforum.com/t/62 。
2. **`libllama` 与 `libggml` 是两个版本号,要一起记**:只升其中一个、另一个仍按旧头文件理解,是常见的集成事故。发布单里应写下实际链接的两个库版本和公开头文件路径。
3. **发布说明里的功能是能力清单,不是现场验收**:FP8 KV、MoE host cache、新架构与多模态、语音端点,都要在目标器件、量化档和上下文长度上自测。计时口径与 tokens/s 声明:https://www.iaiforum.com/t/191 ;量化校准分布:https://www.iaiforum.com/t/237 。官博「150+ 架构」尤其不能抄进容量合同。
4. **`llama-server` 的加固是默认收紧 + 显式放开**:把需要 opt-in 的选项当成「已经安全可公网暴露」,是发布事故。服务端暴露面、鉴权和工具调用取消语义,应和本站工具/权限清单一起验收。可观测:https://www.iaiforum.com/t/73 ;工具/权限:https://www.iaiforum.com/t/77 。本文只讨论发布含义,不讨论如何绕过这些加固。
5. **评测与灰度不要跟上游 master 绑死**:模型支持或后端更新即使只是 MINOR,也可能改变数值或时序;需要字符串一致或分数稳定时,应钉住版本并重跑冻结集。评测:https://www.iaiforum.com/t/88 ;灰度:https://www.iaiforum.com/t/87 。

三、English summary
On 13 November 2026 the Hugging Face blog published *llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem* (verified), and the GitHub release notes for tag v1.0.0 were published the same day (10:20:19 UTC). Both `libllama` and `libggml` are marked 1.0.0, with public headers under `llama.cpp/include/` and `ggml/include/` respectively. The blog states that from now on, llama.cpp and ggml will use major-version bumps to signal API/ABI incompatibility. The published semver rule is: MAJOR for a breaking change to the public C API in `./include`; MINOR for backward-compatible features, backend updates, model support or API additions; PATCH for bug fixes with no API change. The release notes describe the removal of deprecated public APIs, the promotion of the NextN/speculative API into `llama.h`, OCP FP8 KV caches, a host-memory MoE expert cache with a configurable CPU share, new text and multimodal models, a `/v1/audio/speech` endpoint, and llama-server hardening described at a high level (SSRF, CORS, DNS rebinding, plus explicit opt-ins and MCP tool cancellation). The blog’s claim of more than 150 architecture variants is an upstream statement and should be re-checked; it is not an SLA. Editorial takeaway: treat 1.0.0 as an API contract, pin both library versions, re-measure advertised features on your own hardware, and do not read server hardenings as a promise that a public deployment is automatically safe.

四、讨论问题
1. 你们会把依赖钉在 **v1.0.0 的公开 C API**,还是继续跟 `master` 编译、出了破坏性变更再补救?`libllama` 和 `libggml` 的版本有没有写在同一张发布单上?
2. 升级到 1.0.0 时,废弃 API 清理是卡在 **编译期检查清单**,还是等到运行时才发现调用已经不存在?
3. FP8 KV 或 MoE host cache 若要进生产,你们会在哪一种器件和量化档上先做对照?字符串一致和分数稳定,哪一项才是这份契约?
4. 若要暴露 `llama-server`,哪些选项必须保持默认收紧、哪些才允许显式打开?工具调用取消和鉴权范围有没有写进发布说明?

来源 Sources
- Hugging Face Blog · llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem(Published November 13, 2026):https://huggingface.co/blog/ggml-org/llama-cpp-v1
- GitHub Release · ggml-org/llama.cpp v1.0.0(Published 2026-11-13 10:20:19 UTC):https://github.com/ggml-org/llama.cpp/releases/tag/v1.0.0
- 相关本站:端侧/本地量化 https://www.iaiforum.com/t/62 · 计时口径 https://www.iaiforum.com/t/191 · 量化校准 https://www.iaiforum.com/t/237 · 可观测 https://www.iaiforum.com/t/73 · 评测分层 https://www.iaiforum.com/t/88 · 灰度 https://www.iaiforum.com/t/87 · 工具/权限 https://www.iaiforum.com/t/77

欢迎贴(可脱敏)你们对「API 版本钉住 / 废弃接口清理 / 服务端默认收紧」的否决指标;官博与发布说明中的架构数量和功能清单需自测后再进发布门槛。

——
IAI 编辑部(iaiforum.com 官方编辑账号 · Official editorial account of IAI Forum)