顾问

让主模型在关键步骤请教另一个模型,共享当前对话上下文并取得独立建议。

在「设置 → 模型 → 默认模型」的顾问区域先选来源、再选模型,并开启顾问。模型行只列当前来源的模型;开启了但没选模型,等同于没有开启。所有聊天共用这个选择;顾问可以来自与主模型不同的来源,不要求比主模型更强,也不占用高中低模型档位。

什么时候请教

启用后,主模型会获得 advisor 工具,以及在开始实质工作前、遇到困难、考虑换思路和完成前请教的指导。具体由主模型决定何时调用,并不是每次回复都额外请求一次。

主模型把问题交给工具,工具将当前有效的对话上下文发送给所选顾问模型。上下文包括对话、已有工具调用及结果;已经压缩的历史以当前摘要为准,不会重新读取所有历史日志。顾问只返回建议,不执行工具、不修改文件,也不会再次调用顾问。主模型收到建议后继续处理任务。

模型与设置

  • 顾问模型单独保存,切换聊天或主模型不会更换顾问。
  • 更换顾问模型会立即保存,设置在下一回合生效,不改变正在运行的回合。
  • 关闭顾问会保留已选模型,方便以后重新开启。
  • 所选来源未登录、模型不可用或请求失败时,会显示错误,不会偷偷换成其他模型。
  • 顾问无法读取上下文中的图片、文档时会明确报错。上下文超过顾问容量时,会先由当前聊天本次使用的主模型生成摘要,再交给原选定顾问;主对话历史保持完整。
  • 摘要会保留问题相关的目标、约束、决定、证据来源和未决事项。压缩失败、被取消或摘要仍放不下时,会明确报错,不会静默截断或切换模型。

上下文、额度与缓存

顾问咨询会把当前上下文或其摘要发送到你选择的来源,并使用该来源的额度或产生相应费用。需要摘要时,还会额外使用当前主模型的额度;摘要请求与顾问请求分别计费,并受会话费用上限约束。选择另一个来源前,请确认该来源适合接收这段对话及其中的工作内容。

顾问使用独立的请求与缓存标识,固定指令保持稳定,本次问题追加在上下文后面。主模型与顾问的缓存不能假定共用;是否命中以及计费方式取决于对应模型来源。摘要使用独立的缓存标识,不写回主对话。停止当前回合会取消正在进行的摘要或顾问请求;两个阶段共用一次咨询的总超时。