用 ChatGPT、Codex 做复杂项目久了以后,很容易遇到一种情况:

最开始只是修一个Bug。

聊到第10轮,已经开始改代码。

第20轮,测试跑了几次。

第30轮,原来的方案被推翻。

第40轮,又补了新的约束。

再往后,你会发现一个很奇怪的现象:

Agent知道的东西明明越来越多,判断却不一定越来越准。

以前已经否定的方案,偶尔又会被重新提出来。

已经修好的问题,又被当成“待解决”。

前面旧代码的状态,也可能和现在仓库完全不一致。

甚至你只是问一个新的子问题,它却继续把几十轮以前的背景一起带进来。

这时候很多人的第一反应是:

对话越长,Agent知道得越多,当然应该继续。

但复杂工程任务里并不一定。

因为上下文的价值不是:

越多越好。

而是:

当前上下文里,还有多少信息仍然有效。

所以真正应该判断的不是:

“聊了多少轮?”

而是:

“当前上下文还在描述现在这个任务吗?”


一、长上下文最大的风险,不是太长,而是旧信息太多

假设任务开始时,你告诉Codex:

订单退款走同步流程。

它按照这个前提分析了十几轮。

后来你们确认:

退款应该改成异步事件。

代码已经修改。

测试也已经围绕新方案重写。

但是前半段对话里仍然保留着大量:

同步退款。

旧调用链。

旧测试结果。

旧方案讨论。

这些内容当时都是真的。

但现在已经过期。

所以一个长对话真正的问题不是:

Token很多。

而是:

历史事实和当前事实混在了一起。

当这种情况越来越严重时,继续当前上下文的收益就会开始下降。


二、什么时候应该继续当前上下文?

不是所有长任务都应该重新开。

如果下面几个条件还成立,我通常会继续。

第一,目标没有改变。

比如从头到尾都是:

修复支付重复回调。

只是逐步深入。

第二,核心代码状态连续。

Agent前面看到的代码和现在仓库基本属于同一个演化过程。

第三,旧结论大部分仍然有效。

没有大量方案被推翻。

第四,当前任务仍然需要前面的推理过程。

比如刚刚做完Root Cause分析,马上要进入实现,这时候重新开反而会损失很多有价值的上下文。

这类任务继续当前会话通常更划算。

因为历史信息仍然是:

有效上下文。


三、第一个明显信号:任务目标已经变了

假设一开始的目标是:

修复订单接口超时。

做到中途以后发现:

真正需要做的是:

重构整个下游调用链。

这已经不是原来的任务规模。

如果还继续沿用旧上下文,里面会存在大量:

围绕“接口超时”的局部判断。

但新任务已经变成:

架构调整。

这个时候就很适合切一个新的上下文。

因为:

Goal Changed → Context Boundary Changed

任务目标发生根本变化以后,旧上下文未必还是最好的工作空间。


四、第二个信号:前面的方案已经被大面积推翻

比如最开始Agent判断:

问题来自Redis。

围绕Redis查了十几轮。

后来通过Trace确认:

真正问题在数据库连接池。

如果继续原会话,前面关于Redis的大量讨论仍然存在。

这时候虽然Agent理论上知道:

Redis方案已经否定。

但长任务里仍可能出现:

旧假设被重新引用。

所以如果出现:

大量旧假设已经失效

就可以考虑重新开。

尤其是:

旧方案占据了对话的大部分篇幅,而新方案才刚刚开始。

这种时候重新开上下文,相当于主动清理噪声。


五、第三个信号:代码状态已经发生巨大变化

这一点特别重要。

比如任务开始时Agent看到的是:

Version A。

几十轮以后已经经过:

重构。

字段修改。

接口调整。

测试重写。

目录结构变化。

现在仓库其实已经变成:

Version D。

但对话前半段仍然充满:

Version A的文件路径。

旧函数。

旧接口。

旧错误。

这种时候继续使用完整历史,就很容易出现:

“这个函数之前不是这样吗?”

但实际上:

早就不是了。

所以如果当前代码状态和对话开始时已经明显不同,

最好考虑建立新的Session Boundary。


六、第四个信号:Agent开始重复已经解决的问题

这是特别容易观察的一个信号。

例如你发现:

Agent又开始解释一个已经解决的Bug。

重新建议已经验证失败的方案。

反复询问已经提供过的信息。

或者开始混淆:

旧需求和新需求。

这些都说明:

当前上下文里的噪声已经开始影响任务判断。

这时候与其继续补:

“前面这个已经解决了。”

“不要再看这个。”

“旧方案忽略。”

不如直接:

重新整理当前状态。


七、重新开上下文,不等于从零开始

这里是最容易误解的地方。

很多人不愿意开新会话,是因为担心:

前面几十轮不是白聊了吗?

其实更好的方式不是:

裸开新会话。

而是在旧会话结束前生成一个:

Handoff Package——交接包。

它只保留当前真正有效的信息。

例如:

当前目标

修复退款重复处理,同时保持旧API兼容。

Current State

幂等Key已经加入。

数据库唯一约束已完成。

Consumer仍需调整。

Confirmed Facts

重复事件来自消息Retry。

数据库事务本身没有重复提交。

已否定方案

不是Redis重复读取。

不是前端重复提交。

关键约束

不能改变现有API。

历史数据必须兼容。

未解决问题

Consumer失败重试仍可能重复调用第三方接口。

验证方式

并发发送10次相同event,只允许一次业务副作用。

这份内容可能只有几百字。

但它比几十轮完整历史更适合作为:

新上下文的起点。


八、真正应该迁移的是“当前状态”,不是“所有历史”

这其实是上下文管理里很重要的区别。

很多人希望Agent记住:

所有发生过的事情。

但真实工程里,真正有价值的通常是:

现在是什么状态。

而不是:

一路上讨论过多少可能性。

所以从旧会话迁移到新会话时,我更推荐保留:

Goal。

Current State。

Confirmed Facts。

Constraints。

Important Decisions。

Open Issues。

Validation。

而不是把:

所有历史聊天。

所有失败方案。

所有中间猜测

重新塞进去。

这叫:

Context Compression。

不是简单缩短文本。

而是把历史过程压缩成当前有效状态。


九、什么时候不建议重新开?

也有几种情况不适合切。

比如刚刚完成一轮复杂Root Cause分析。

关键Evidence都集中在当前会话。

马上就要进入修改阶段。

这时候切出去,可能会损失:

推理链之间的关系。

再比如一个任务只有十几轮,目标、代码、结论都非常稳定。

只是因为“聊得有点长”就重新开,没有必要。

所以Session Boundary不能按:

轮数。

Token。

时间。

机械判断。

真正应该看:

上下文有效性。


十、我更推荐一个简单判断法

准备决定是否开新上下文时,可以问自己5个问题:

1. 当前Goal和最开始还是同一个吗?

2. 前半段的大部分结论现在还成立吗?

3. 当前代码状态和早期状态差别大吗?

4. Agent最近有没有反复引用旧信息?

5. 如果只保留当前状态,历史过程是不是已经没有必要继续参与决策?

如果后面三项越来越明显,

通常就是一个不错的:

Session Boundary。


十一、长任务最好主动设计“阶段边界”

复杂任务甚至可以一开始就不要准备一个会话跑到底。

比如:

Session 1:分析

目标是:

找Root Cause。

输出:

Confirmed Facts + Root Cause + Constraints。

Session 2:实现

只带入:

当前状态和确认后的方案。

Session 3:验证

只带:

修改结果、测试目标、关键约束。

这样每个阶段的上下文都更干净。

也更容易避免:

分析阶段的大量猜测一直污染实现阶段。


十二、多Agent里这个问题更加重要

如果多个Agent共用一个越来越长的共享上下文,问题会更严重。

因为A留下的旧假设。

B留下的临时Decision。

C产生的测试失败。

全部可能继续存在。

最后共享上下文越来越像:

一个历史仓库。

而不是:

当前状态。

所以多Agent Workflow更适合定期生成:

Current State Snapshot。

然后新的Agent优先读取这份Snapshot。

需要追溯历史时,再回头查Evidence。

而不是默认把全部历史都装进当前执行环境。


十三、可以给自己看一个指标:有效上下文占比

这篇只保留一个简单指标:

Effective Context Ratio——有效上下文占比

可以理解为:

当前会话里,仍然会影响下一步判断的有效信息 ÷ 当前关键上下文总量

比如一个长任务里:

大量旧方案已经失效。

旧日志不再相关。

早期代码状态也已经变化。

真正仍然影响当前任务的只剩大约40%。

那说明:

60%的上下文已经开始变成历史噪声。

这个时候继续堆信息的价值就会快速下降。


十四、Plus和Pro怎么判断?

如果你平时使用 ChatGPT、Codex:

主要是短任务。

一次只处理一个明确问题。

十几轮以内基本能够结束。

偶尔做一下代码修改和测试,

这种场景里,Plus通常已经够用。

真正应该先做的是:

任务结束及时总结。

下一阶段只带Current State继续。

不要依赖无限增长的历史上下文。


如果你的开发已经经常出现:

一次任务持续几十轮甚至更久。

大型仓库长期修改。

多个阶段连续执行。

需要不断分析、编码、测试、回归。

一天同时推进很多复杂任务,

这时候更大的任务容量和持续执行能力会更有价值。

这种高频、长任务Workflow下,Pro会更适合。

但即使使用Pro,也不要把“大上下文”理解成:

可以永远不整理上下文。

容量越大,反而越应该主动维护:

Session Boundary和Handoff Package。

否则更多上下文只是:

装下更多已经过期的信息。


最后

一个任务已经聊了几十轮以后,

到底应该继续,还是重新开?

真正的判断标准从来不是:

聊了多少轮。

而是:

当前上下文还剩多少有效信息。

如果目标稳定。

代码连续。

旧结论仍然有效。

继续当前上下文通常更好。

但如果:

目标已经变化。

方案被大面积推翻。

代码状态完全不同。

旧信息不断重新出现。

那就应该考虑:

结束旧Session,把当前有效状态压缩出来,再从一个干净上下文继续。

真正值得带走的不是全部历史。

而是:

Goal。

Current State。

Confirmed Facts。

Constraints。

Open Issues。

Validation。

当Agent Workflow开始具备这种上下文生命周期管理以后,

长任务才不会变成:

聊得越久,历史包袱越重。

而是能够在正确的时候:

保留有效状态,丢掉过期噪声,再继续往前走。

持续分享 Codex、大模型开发与 AI 编程实战内容。
长期深度使用各类代码大模型,也整理了
稳定的Plus/Pro会员订阅渠道,有需要可自取。

Logo

AtomGit AI 社区提供模型库、数据集、Agent、Token等资源

更多推荐