11-19 更新 实时
首页/ AI 大模型/ 正文

长上下文成为标配之后,竞争焦点转向每百万 Token 的交付成本

AI 大模型 模力观察 · 编辑部 2026-11-05 14:20 5 阅读
长上下文成为标配之后,竞争焦点转向每百万 Token 的交付成本

截至 11 月 5 日,Artificial Analysis 智能指数 v5 的前四名分别是 Claude Opus 5.5(58.4)、GPT-6 Astra(56.9)、GPT-6.1 Sol(54.5)与 Claude Sonnet 5.5(54.2)。它们的上下文窗口普遍在 1M 级别,能力差距被压缩在 4 分以内。

价格差距却有一个数量级:Opus 5.5 为 4/20 美元每百万 Token(输入/输出),Sonnet 5.5 为 2/10 美元,Haiku 5.5 为 0.1/0.5 美元。

账单的三个乘数

第一是缓存。以 Opus 5.5 为例,缓存读价 0.2 美元,是输入价的 5%。长文档问答、代码库检索这类重复前缀场景,命中与不命中是两种成本结构。

第二是批处理。批量接口通常按五折计价,代价是延迟。离线评测、素材生成、报表归档适合走批量,交互式会话不适合。

第三是路由。把意图识别、格式转换交给 Haiku 级模型,把复杂推理留给 Opus 级模型,是当前最直接的降本手段,且不需要重新训练。

一个可复用的估算式

单次请求成本 ≈ 输入 Token × 输入单价 ×(1 − 缓存命中率 × 0.95)+ 输出 Token × 输出单价。把历史日志代入,通常能看到 30% 至 60% 的可优化空间,其中缓存与路由各占一半。

这也是为什么“每百万 Token 成本”正在取代“每百万 Token 标价”,成为选型的核心指标。