在workbuddy等agent中使用claude、gpt模型时,有哪些技巧可以少消耗token?
2026-11-07 阅读 0
在 WorkBuddy 这类可切换模型的 agent 中,降低 token 消耗的关键是减少每次请求重复携带的上下文,并让模型只做必要的工作:
- **控制上下文长度**:开启新任务时不要把无关历史一并带入;长对话可先整理成简短摘要,保留目标、关键约束和未完成事项。对代码任务只提供相关文件、函数和报错,不要整仓粘贴。
- **精简提示词与工具输出**:删掉重复要求;命令尽量只返回匹配行或必要字段,日志设置行数上限。检索先用关键词定位,再读取小范围内容,避免把大段网页、文件或终端输出塞回模型。
- **按任务选模型**:分类、格式转换、简单摘录等低难度任务可用价格较低、上下文需求较小的模型;复杂推理、重要代码审查再用能力更强的模型。若 WorkBuddy 支持按步骤路由,可以先用轻量模型筛选,确有需要再升级。
- **限制生成长度和迭代**:明确要求输出格式与所需范围,例如只给结论和必要依据;设合理的最大输出 token。先列清验收条件,减少“继续展开”“再改一版”造成的多轮重复。
- **复用而非重复发送**:若平台支持提示缓存或会话复用,把稳定的系统说明与工具规范固定下来;但不要为了缓存而放入每轮都不需要的长资料。检查 agent 是否会自动附加记忆、工具说明或整个会话历史。
- **注意模型计费差异**:比较时区分输入、输出以及缓存 token 的计价;某些模型的推理过程或工具调用也可能计入费用。可以记录一段时间内的请求量、输入/输出 token 和任务质量,再决定默认模型。
不建议盲目把上下文压到最短:遗漏关键限制可能导致错误答案,反而需要更多轮次。较稳妥的做法是保留任务目标、必要背景、约束和成功标准,其余材料按需检索。
更新于 2026年11月15日
赞 14