Skip to content

为什么 Claude Code 一句话也要几千输入 token? ​

因为 Claude Code 每次请求都会附带它自己的系统提示、全部工具定义、项目记忆文件(如 CLAUDE.md)和此前的对话历史,你输入的那句话只是最后很小的一部分。这是所有编程 Agent 的共同特点,不是中转多计了 token。

一次请求里都有什么 ​

API 是无状态的,模型不记得上一轮说过什么。Claude Code 每发一次请求,都要把模型需要的全部信息重新发送:

部分内容是否每次都发
系统提示Claude Code 的行为规范、输出格式、安全规则、环境信息(操作系统、工作目录等)是
工具定义读写文件、执行命令、搜索、子任务等每个工具的名称、说明和参数 JSON Schema是
MCP 工具你配置的 MCP 服务器提供的工具定义配置了就发
项目记忆CLAUDE.md 等项目说明文件存在就发
对话历史之前的提问、回答、工具调用和工具返回结果(例如读入的整个文件)是,逐轮累积
本轮输入你刚输入的那句话是

光系统提示和工具定义就有数千 token。多聊几轮、读几个文件后,对话历史会继续增长。

为什么不能省掉 ​

  • 工具定义必须每次都发:模型要知道有哪些工具、参数格式是什么,才能正确调用。
  • 历史必须每次都发:模型本身不保存会话,没有历史就不知道前面做过什么。
  • 一个任务往往是多次请求:Agent 读一个文件、执行一条命令、再读一个文件……每一步都是一次完整请求,每次都带上全部上下文。所以「问了一句」在使用记录里可能是好几条请求。

怎么核实 ​

  1. 在 NiceAI 控制台的使用记录中查看每条请求的输入、输出和缓存 token。
  2. 你会看到:第一条请求有较多的缓存写入,后续请求大部分输入都是缓存读取。
  3. 缓存读取的单价远低于普通输入,所以实际费用比「几千 token × 输入单价」低得多。原理见 提示词缓存是怎么省钱的。

降低成本的方法 ​

方法说明
让缓存持续命中同一任务连续完成,不要频繁新开会话或中途切换模型
精简 CLAUDE.md只写模型真正需要的约定,避免整段粘贴文档
少挂不用的 MCP 服务器每个 MCP 工具定义都会进入每次请求
适时压缩上下文对话很长时用 /compact 压缩历史,或任务完成后 /clear 开始新任务
指定具体文件让 Agent 只读需要的文件,而不是整个目录
简单任务用小模型用 /model 切换到更便宜的模型处理简单问题

小结 ​

  • 输入 token 多,是编程 Agent 的工作方式决定的:系统提示 + 工具定义 + 项目记忆 + 历史。
  • 一次提问可能对应多次 API 请求。
  • 缓存命中后,重复部分按低价计费,真正的成本要看使用记录中的缓存读取比例。

相关阅读:Claude Code 接入、分组与倍率说明。

NiceAI · 稳定的 AI 大模型 API 中转站