了解哪些内容会占用上下文
上下文不只有最新消息。指令、可用工具的说明、记忆、历史消息和工具结果都会占用模型可考虑的信息量。因此,即使当前提示很短,大文件的读取结果或很长的对话仍可能占用大量上下文。
实际窗口取决于所选模型及其声明的容量。IaGenify 可以使用适用于该模型的 `contextTokens` 请求值;如果请求值超过模型容量,就会产生上下文错误。
界面中的指示器会显示已使用的配置窗口比例。
让长任务继续保持清晰
上下文较满时,系统可能清除较早的工具结果,并总结先前对话以腾出空间。总结可以保留主要任务和结论,但未必保留每个细节的原文。后续步骤仍需要的标识符、约束或准确文本,最好再次提供。
你可以主动压缩受支持的会话来总结早期交流,也可以开启新任务并提供简明交接,列出目标、决定和所需文件。如果任务经常超过模型窗口,请缩小资料范围或拆分成多个阶段,不要把上下文上限设为高于模型容量的数值。