ChatGPT、Codex实战:一个任务已经聊了几十轮,什么时候该继续当前上下文,什么时候该重新开?
用 ChatGPT、Codex 做复杂项目久了以后,很容易遇到一种情况:
最开始只是修一个Bug。
聊到第10轮,已经开始改代码。
第20轮,测试跑了几次。
第30轮,原来的方案被推翻。
第40轮,又补了新的约束。
再往后,你会发现一个很奇怪的现象:
Agent知道的东西明明越来越多,判断却不一定越来越准。
以前已经否定的方案,偶尔又会被重新提出来。
已经修好的问题,又被当成“待解决”。
前面旧代码的状态,也可能和现在仓库完全不一致。
甚至你只是问一个新的子问题,它却继续把几十轮以前的背景一起带进来。
这时候很多人的第一反应是:
对话越长,Agent知道得越多,当然应该继续。
但复杂工程任务里并不一定。
因为上下文的价值不是:
越多越好。
而是:
当前上下文里,还有多少信息仍然有效。
所以真正应该判断的不是:
“聊了多少轮?”
而是:
“当前上下文还在描述现在这个任务吗?”
一、长上下文最大的风险,不是太长,而是旧信息太多
假设任务开始时,你告诉Codex:
订单退款走同步流程。
它按照这个前提分析了十几轮。
后来你们确认:
退款应该改成异步事件。
代码已经修改。
测试也已经围绕新方案重写。
但是前半段对话里仍然保留着大量:
同步退款。
旧调用链。
旧测试结果。
旧方案讨论。
这些内容当时都是真的。
但现在已经过期。
所以一个长对话真正的问题不是:
Token很多。
而是:
历史事实和当前事实混在了一起。
当这种情况越来越严重时,继续当前上下文的收益就会开始下降。
二、什么时候应该继续当前上下文?
不是所有长任务都应该重新开。
如果下面几个条件还成立,我通常会继续。
第一,目标没有改变。
比如从头到尾都是:
修复支付重复回调。
只是逐步深入。
第二,核心代码状态连续。
Agent前面看到的代码和现在仓库基本属于同一个演化过程。
第三,旧结论大部分仍然有效。
没有大量方案被推翻。
第四,当前任务仍然需要前面的推理过程。
比如刚刚做完Root Cause分析,马上要进入实现,这时候重新开反而会损失很多有价值的上下文。
这类任务继续当前会话通常更划算。
因为历史信息仍然是:
有效上下文。
三、第一个明显信号:任务目标已经变了
假设一开始的目标是:
修复订单接口超时。
做到中途以后发现:
真正需要做的是:
重构整个下游调用链。
这已经不是原来的任务规模。
如果还继续沿用旧上下文,里面会存在大量:
围绕“接口超时”的局部判断。
但新任务已经变成:
架构调整。
这个时候就很适合切一个新的上下文。
因为:
Goal Changed → Context Boundary Changed
任务目标发生根本变化以后,旧上下文未必还是最好的工作空间。
四、第二个信号:前面的方案已经被大面积推翻
比如最开始Agent判断:
问题来自Redis。
围绕Redis查了十几轮。
后来通过Trace确认:
真正问题在数据库连接池。
如果继续原会话,前面关于Redis的大量讨论仍然存在。
这时候虽然Agent理论上知道:
Redis方案已经否定。
但长任务里仍可能出现:
旧假设被重新引用。
所以如果出现:
大量旧假设已经失效
就可以考虑重新开。
尤其是:
旧方案占据了对话的大部分篇幅,而新方案才刚刚开始。
这种时候重新开上下文,相当于主动清理噪声。
五、第三个信号:代码状态已经发生巨大变化
这一点特别重要。
比如任务开始时Agent看到的是:
Version A。
几十轮以后已经经过:
重构。
字段修改。
接口调整。
测试重写。
目录结构变化。
现在仓库其实已经变成:
Version D。
但对话前半段仍然充满:
Version A的文件路径。
旧函数。
旧接口。
旧错误。
这种时候继续使用完整历史,就很容易出现:
“这个函数之前不是这样吗?”
但实际上:
早就不是了。
所以如果当前代码状态和对话开始时已经明显不同,
最好考虑建立新的Session Boundary。
六、第四个信号:Agent开始重复已经解决的问题
这是特别容易观察的一个信号。
例如你发现:
Agent又开始解释一个已经解决的Bug。
重新建议已经验证失败的方案。
反复询问已经提供过的信息。
或者开始混淆:
旧需求和新需求。
这些都说明:
当前上下文里的噪声已经开始影响任务判断。
这时候与其继续补:
“前面这个已经解决了。”
“不要再看这个。”
“旧方案忽略。”
不如直接:
重新整理当前状态。
七、重新开上下文,不等于从零开始
这里是最容易误解的地方。
很多人不愿意开新会话,是因为担心:
前面几十轮不是白聊了吗?
其实更好的方式不是:
裸开新会话。
而是在旧会话结束前生成一个:
Handoff Package——交接包。
它只保留当前真正有效的信息。
例如:
当前目标
修复退款重复处理,同时保持旧API兼容。
Current State
幂等Key已经加入。
数据库唯一约束已完成。
Consumer仍需调整。
Confirmed Facts
重复事件来自消息Retry。
数据库事务本身没有重复提交。
已否定方案
不是Redis重复读取。
不是前端重复提交。
关键约束
不能改变现有API。
历史数据必须兼容。
未解决问题
Consumer失败重试仍可能重复调用第三方接口。
验证方式
并发发送10次相同event,只允许一次业务副作用。
这份内容可能只有几百字。
但它比几十轮完整历史更适合作为:
新上下文的起点。
八、真正应该迁移的是“当前状态”,不是“所有历史”
这其实是上下文管理里很重要的区别。
很多人希望Agent记住:
所有发生过的事情。
但真实工程里,真正有价值的通常是:
现在是什么状态。
而不是:
一路上讨论过多少可能性。
所以从旧会话迁移到新会话时,我更推荐保留:
Goal。
Current State。
Confirmed Facts。
Constraints。
Important Decisions。
Open Issues。
Validation。
而不是把:
所有历史聊天。
所有失败方案。
所有中间猜测
重新塞进去。
这叫:
Context Compression。
不是简单缩短文本。
而是把历史过程压缩成当前有效状态。
九、什么时候不建议重新开?
也有几种情况不适合切。
比如刚刚完成一轮复杂Root Cause分析。
关键Evidence都集中在当前会话。
马上就要进入修改阶段。
这时候切出去,可能会损失:
推理链之间的关系。
再比如一个任务只有十几轮,目标、代码、结论都非常稳定。
只是因为“聊得有点长”就重新开,没有必要。
所以Session Boundary不能按:
轮数。
Token。
时间。
机械判断。
真正应该看:
上下文有效性。
十、我更推荐一个简单判断法
准备决定是否开新上下文时,可以问自己5个问题:
1. 当前Goal和最开始还是同一个吗?
2. 前半段的大部分结论现在还成立吗?
3. 当前代码状态和早期状态差别大吗?
4. Agent最近有没有反复引用旧信息?
5. 如果只保留当前状态,历史过程是不是已经没有必要继续参与决策?
如果后面三项越来越明显,
通常就是一个不错的:
Session Boundary。
十一、长任务最好主动设计“阶段边界”
复杂任务甚至可以一开始就不要准备一个会话跑到底。
比如:
Session 1:分析
目标是:
找Root Cause。
输出:
Confirmed Facts + Root Cause + Constraints。
Session 2:实现
只带入:
当前状态和确认后的方案。
Session 3:验证
只带:
修改结果、测试目标、关键约束。
这样每个阶段的上下文都更干净。
也更容易避免:
分析阶段的大量猜测一直污染实现阶段。
十二、多Agent里这个问题更加重要
如果多个Agent共用一个越来越长的共享上下文,问题会更严重。
因为A留下的旧假设。
B留下的临时Decision。
C产生的测试失败。
全部可能继续存在。
最后共享上下文越来越像:
一个历史仓库。
而不是:
当前状态。
所以多Agent Workflow更适合定期生成:
Current State Snapshot。
然后新的Agent优先读取这份Snapshot。
需要追溯历史时,再回头查Evidence。
而不是默认把全部历史都装进当前执行环境。
十三、可以给自己看一个指标:有效上下文占比
这篇只保留一个简单指标:
Effective Context Ratio——有效上下文占比
可以理解为:
当前会话里,仍然会影响下一步判断的有效信息 ÷ 当前关键上下文总量
比如一个长任务里:
大量旧方案已经失效。
旧日志不再相关。
早期代码状态也已经变化。
真正仍然影响当前任务的只剩大约40%。
那说明:
60%的上下文已经开始变成历史噪声。
这个时候继续堆信息的价值就会快速下降。
十四、Plus和Pro怎么判断?
如果你平时使用 ChatGPT、Codex:
主要是短任务。
一次只处理一个明确问题。
十几轮以内基本能够结束。
偶尔做一下代码修改和测试,
这种场景里,Plus通常已经够用。
真正应该先做的是:
任务结束及时总结。
下一阶段只带Current State继续。
不要依赖无限增长的历史上下文。
如果你的开发已经经常出现:
一次任务持续几十轮甚至更久。
大型仓库长期修改。
多个阶段连续执行。
需要不断分析、编码、测试、回归。
一天同时推进很多复杂任务,
这时候更大的任务容量和持续执行能力会更有价值。
这种高频、长任务Workflow下,Pro会更适合。
但即使使用Pro,也不要把“大上下文”理解成:
可以永远不整理上下文。
容量越大,反而越应该主动维护:
Session Boundary和Handoff Package。
否则更多上下文只是:
装下更多已经过期的信息。
最后
一个任务已经聊了几十轮以后,
到底应该继续,还是重新开?
真正的判断标准从来不是:
聊了多少轮。
而是:
当前上下文还剩多少有效信息。
如果目标稳定。
代码连续。
旧结论仍然有效。
继续当前上下文通常更好。
但如果:
目标已经变化。
方案被大面积推翻。
代码状态完全不同。
旧信息不断重新出现。
那就应该考虑:
结束旧Session,把当前有效状态压缩出来,再从一个干净上下文继续。
真正值得带走的不是全部历史。
而是:
Goal。
Current State。
Confirmed Facts。
Constraints。
Open Issues。
Validation。
当Agent Workflow开始具备这种上下文生命周期管理以后,
长任务才不会变成:
聊得越久,历史包袱越重。
而是能够在正确的时候:
保留有效状态,丢掉过期噪声,再继续往前走。
持续分享 Codex、大模型开发与 AI 编程实战内容。
长期深度使用各类代码大模型,也整理了稳定的Plus/Pro会员订阅渠道,有需要可自取。
更多推荐


所有评论(0)