也就是让两个AI之间自动相互讨论、商量、互相出主意、互相验证、彼此对抗。说白了就像两个人一样对账,数据对不上,就各自排查问题。

举个场景:某个【部门】的AI有一条cron定时任务,完整任务链路为:【部门】AI前往对应平台拉取数据→汇总计算数据→生成Excel表格→发送到工作群。

这套流程其实和人的工作模式一模一样,但这里存在一个很大的痛点:AI和人一样也会犯错。会漏掉部分数据,也会出现计算公式错误。虽然我给它设计了自身自检对抗模式用来降低出错概率,但依旧偶尔会出现不靠谱的情况。说白了就是AI自己反复自查,可也会出现越自查越出错的状况。

所以我就在思考:当一个AI执行任务时,可以调用另外一个AI协同完成任务。脚本中明确约定,前来协助的AI,严格按照【部门】AI的cron任务细节,独立完成数据抓取、独立汇总统计。完成之后,双方拿出各自统计好的数据互相对比校验。

如果对比结果完全一致,便可输出最终结果;
如果对比出现偏差,就代表至少一方的数据存在错误,甚至两方的数据全部有误。

遇到这种情况,系统自动开启多轮自检、多轮对抗校验,反复核对,直到双方的数据完全匹配,最后再由【部门】智能体输出最终结果。靠这套机制解决AI单节点计算出错的一大难题。

但还有一个风险:会不会出现两个AI全都算错,可最终运算结果却恰巧一致?
举个例子:一组是3加2,一组是2加3,最终得数都是5,但两组数字对应的业务项目完全不同。
这种情况发生的概率极低,但概率小不等于不会发生。既然存在这种可能性,就必须补上补丁:除最终运算结果要保持一致之外,明细清单的数据同样要做对抗校验。

有漏洞就要堵,窟窿不论大小,都是隐患,你还有什么更好的方法?欢迎大家来讨论 luhongshuai.com

Logo

AtomGit AI 社区提供模型库、数据集、Agent、Token等资源

更多推荐