I
IAI 编辑部 · 官方 Official
IAI 编辑部 · 新闻解读 / News analysis
10 月 7 日,Anthropic 发布 Claude Haiku 5.5,定位高并发、成本敏感任务(摘要、上下文压缩、分类、数据库查询、子代理等)。以下数字均引自官方发布页。
一、官方披露的要点
- 价格(每百万 token,提示 ≤100k / >100k):输入 $0.10 / $0.50,输出 $0.50 / $2.50;Haiku 4.5 为输入 $1.00、输出 $5.00。
- 官方称:≤100k 的请求价格比 Haiku 4.5 低 90%,>100k 低 50%;综合新分词器带来的 token 数变化,平均运行成本约低 75%。
- 同时把 Sonnet 5.5 的缓存读取价格减半($0.20 → $0.10 / 百万 token),官方称在多数 Agent 任务上约便宜 20%。
- Haiku 系列首次提供可调节的 effort 设置。
- 官方也明确:复杂 Agent 编程任务仍建议用 Sonnet / Opus,Haiku 适合范围明确的任务。
二、编辑部解读:子代理架构的账怎么算
1. 很多 Agent 系统里,真正消耗 token 的是大量“检索、摘要、抽取、分类”的小步骤,而不是最终规划。把这些步骤交给小模型,是降本最直接的杠杆。
2. 缓存读取降价意味着:系统提示、工具定义、长文档前缀越稳定,省得越多。工程上要尽量让前缀可复用(固定顺序、避免在前缀里插入时间戳等易变内容)。
3. 不要只看单价。应该用“完成一个任务的总成本 = 调用次数 × 每次 token × 单价 + 失败重试成本”来比较;小模型如果出错率高导致重试,账可能反而更贵。
4. 厂商 benchmark 与客户评价是自报数据,建议在自己的评测集上做 A/B,再决定路由策略。本站自建评测集帖可参考:https://www.iaiforum.com/t/7
English summary: Haiku 5.5 is priced at $0.10 input / $0.50 output per 1M tokens for prompts up to 100k (vs $1/$5 for Haiku 4.5); Sonnet 5.5 cache reads were halved. Compare models by total cost per completed task, not unit price.
来源 Source:Anthropic 官方发布页 https://www.anthropic.com/claude-haiku-5-5
讨论:你们的 Agent 或应用里,有没有做“大模型 + 小模型”的分级路由?按什么规则分流,效果和成本差多少?
——
IAI 编辑部(iaiforum.com 官方编辑账号 · Official editorial account of IAI Forum)
10 月 7 日,Anthropic 发布 Claude Haiku 5.5,定位高并发、成本敏感任务(摘要、上下文压缩、分类、数据库查询、子代理等)。以下数字均引自官方发布页。
一、官方披露的要点
- 价格(每百万 token,提示 ≤100k / >100k):输入 $0.10 / $0.50,输出 $0.50 / $2.50;Haiku 4.5 为输入 $1.00、输出 $5.00。
- 官方称:≤100k 的请求价格比 Haiku 4.5 低 90%,>100k 低 50%;综合新分词器带来的 token 数变化,平均运行成本约低 75%。
- 同时把 Sonnet 5.5 的缓存读取价格减半($0.20 → $0.10 / 百万 token),官方称在多数 Agent 任务上约便宜 20%。
- Haiku 系列首次提供可调节的 effort 设置。
- 官方也明确:复杂 Agent 编程任务仍建议用 Sonnet / Opus,Haiku 适合范围明确的任务。
二、编辑部解读:子代理架构的账怎么算
1. 很多 Agent 系统里,真正消耗 token 的是大量“检索、摘要、抽取、分类”的小步骤,而不是最终规划。把这些步骤交给小模型,是降本最直接的杠杆。
2. 缓存读取降价意味着:系统提示、工具定义、长文档前缀越稳定,省得越多。工程上要尽量让前缀可复用(固定顺序、避免在前缀里插入时间戳等易变内容)。
3. 不要只看单价。应该用“完成一个任务的总成本 = 调用次数 × 每次 token × 单价 + 失败重试成本”来比较;小模型如果出错率高导致重试,账可能反而更贵。
4. 厂商 benchmark 与客户评价是自报数据,建议在自己的评测集上做 A/B,再决定路由策略。本站自建评测集帖可参考:https://www.iaiforum.com/t/7
English summary: Haiku 5.5 is priced at $0.10 input / $0.50 output per 1M tokens for prompts up to 100k (vs $1/$5 for Haiku 4.5); Sonnet 5.5 cache reads were halved. Compare models by total cost per completed task, not unit price.
来源 Source:Anthropic 官方发布页 https://www.anthropic.com/claude-haiku-5-5
讨论:你们的 Agent 或应用里,有没有做“大模型 + 小模型”的分级路由?按什么规则分流,效果和成本差多少?
——
IAI 编辑部(iaiforum.com 官方编辑账号 · Official editorial account of IAI Forum)