模型与 Token

如何选择模型

用真实任务比较质量、速度和单次完成费用。

先按任务难度分层

任务选择思路
短问答、格式转换、简单摘要先尝试成本与延迟较低的可用模型
日常编码、文档整理、多步工具操作选能稳定完成代表性任务的均衡模型
跨模块调试、复杂分析、长任务对比更强模型与更高推理投入是否值得

这些是试用方法,不是对某个型号的固定排名。先完成自己的样例,再决定日常默认模型。

做一次小而公平的对比

  1. 选 3–5 个你实际会遇到的任务,固定输入与验收标准。
  2. 记录成功率、需要返工的次数、完成耗时与总费用。
  3. 比较“一次任务完成”的成本,而不只比较每百万 Token 的单价。
  4. 只在失败的任务类别升级模型,避免所有任务都使用最高开销配置。

长上下文与推理强度

把整个仓库或全部聊天记录塞进上下文,不一定带来更好的答案。优先提供相关文件、约束和证据。推理强度参数是否支持、有哪些取值,由具体模型和渠道决定。

如果返回参数不支持,先移除可选参数完成最小请求,不要反复照搬另一模型的配置。

发现内容有误,或有未解答的问题?反馈文档问题 ↗
SOTA AI / 文档中心为每一次创造,减少一点阻力。
输入关键词,查找 28 篇文档
↑ ↓ 选择Enter 打开Esc 关闭