从百模大战到智能体：AI落地的三次坎坷与破局之道

我算是程序猿

102人浏览 · 2026-07-08 10:57:48

我算是程序猿 · 2026-07-08 10:57:48 发布

记得2023年，ChatGPT引发国内百模大战之际，资金相继涌入模型市场。那一年，投资人见面必谈大模型，仿佛谁不投一个就是落伍。而2023年下半年，资本市场对模型热度骤降，中关村某研究院朋友与我讨论现象原因，我回答是：投资大模型的ROI低于资本预期，回报周期还不明朗，实际原因是落地应用不多。大模型很强，但企业不知道怎么用——这是2023年AI行业最尴尬的真实写照。

随之，全球范围内智算中心建设相继火热。国内在政策支持下，涌现出许多二三线智算公司，从基建开始All in智算中心的建设与扩张，"新质生产力"第一次看到了具象化的希望。然而到了2024年下半年，若干智算中心建设项目合同被迫中止——原因集中在软硬件生态兼容、算力供应、能源等方面，导致技术不成熟、算力资源错配，绿电指标以及客户需求也无法满足。这里面最重要的，还是智算中心与客户需求的不匹配——算力建起来了，却不是客户想用的。

而到2025年，大模型已发展到千亿参数，智算建设国家队相继入场，算力成本进一步降低——更重要的是，智能体（Agent）成为AI落地的最佳载体，终于形成了一套从"模型→算力→工具→应用"的商业落地闭环。大模型负责"想"，智能体负责"做"，企业第一次有了看得见摸得着的产出。

到了2026年，智能体进一步发展，从"被动响应"进化为"主动执行"——能记住你的偏好、从每次执行中学习改进、在你不在时自主按时间表干活。它不再只是一个工具，而是能自主干活的本体。

今天，我们聊一聊当前市场上的主流智能体工具，以及企业里如何选择、如何组合、如何真正让AI落地。

一、智能体的技术原理——为什么Agent是AI落地的"终极载体"

1.1 别把"套壳GPT"当智能体

2024年至今，AI圈最热的两个词：Agent和Workflow。但很多人——包括不少技术决策者——其实分不清这俩。

简单说：如果你做的系统是"用户输入→LLM处理→返回结果"，那叫套壳，不叫Agent。如果你做的系统是"触发条件A→执行步骤B→调用LLM做C→输出D"，那叫Workflow，也不叫Agent。

真正的Agent，核心是一句话：LLM自主决定做什么、用什么工具、按什么顺序做。

1.2 Agent的核心架构：四大组件 + 两大进化引擎

一个合格的AI Agent，必须同时具备以下核心组件：


组件	作用	缺失后果
LLM（大脑）	理解意图、推理、规划	没了大脑，就是普通脚本
Tools（手脚）	执行具体操作：搜索、读写文件、调API、发消息	只能"想"，不能"做"
Memory（记忆）	跨对话记住上下文、用户偏好、历史决策	每次都是"初次见面"，效率极低
Planning（规划）	拆解复杂任务为多步计划，动态调整	遇到复杂任务直接"摆烂"

这四大组件形成了Agent的核心循环：感知→推理→行动→观察→再推理。

感知：接收用户输入，从记忆里提取相关上下文。

推理：LLM分析当前状态，决定下一步做什么。可能调用一个工具，可能问用户澄清，可能直接给出答案。

行动：调用工具，执行实际操作——搜一段文档、写一个文件、发一封邮件。

观察：拿到工具返回结果，放入上下文。如果结果符合预期，继续下一步；如果偏离了，调整计划。

这个循环不断迭代，直到任务完成——或者Agent发现自己的能力边界，向用户求助。

但仅有这个循环还不够。真正让Agent从"一次性工具"进化为"长期伙伴"的，是下面两个进化引擎：

进化引擎一：记忆——让Agent拥有"过去"

记忆不是简单的聊天记录存档。一个真正有用的记忆系统，做三件事：

第一，记住偏好。你告诉它一次"监控脚本用server_monitor.py"，它下次不再问。你纠正过它一次"报表要显示厂区字段"，它永远不再漏。这就是为什么Hermes这种带持久记忆的Agent，越用越省钱——你花在"纠正"上的时间指数级递减。

第二，记住上下文。项目路径、服务器列表、邮件模板、常用的搜索关键词——这些碎片信息在传统Agent里每次都要重述，但有记忆的Agent一次性吸收，永久调用。

第三，记住哪些做法灵、哪些不灵。它会在每次任务完成后自我复盘：这次成功的关键步骤是什么？失败是因为工具不够还是指令不清？把这些经验存入记忆，下次遇到同类任务时自动加载。

进化引擎二：反馈——让Agent拥有"学习曲线"

如果说记忆是Agent的"硬盘"，那反馈就是它的"学习算法"。反馈机制解决一个核心问题：Agent怎么知道自己做得好不好？

真正的反馈闭环包含三步：

自检：任务完成后，Agent自己评估——输出质量够不够？步骤是否最优？有没有遗漏？这和人类的"复盘"是一样的逻辑。
指标闭环：关键任务绑定可量化指标。比如"监控数据采集覆盖率≥95%"，没达标就自动重试或换策略。这不是事后人工检查，而是Agent在运行过程中自己盯着指标、自己修正。
技能固化：当某个任务被反复执行且每次都成功，Agent自动将其固化为"技能"——一个可复用的、经过验证的流程模板。下次遇到同类任务，直接加载技能，而不是从头推理。这就是"越用越强"的本质：Agent把自己跑通的路径封装成资产，逐步积累。

把记忆和反馈结合起来，Agent就有了"成长性"——它不是每次都从零开始的工具，而是一个随着使用不断进化的系统。这才是Agent和Workflow最深的区别：Workflow永远不会"变得更好"，但Agent会。

1.3 Agent vs Workflow：一张图说清楚

这就是Agent和工作流的本质区别：

Workflow：你在设计阶段就画好了所有分支。如果A就做B，如果C就做D。LLM只是某个节点里的"智能处理单元"，没资格决定流程走向。决策权在人手里。

Agent：你给它目标和工具，它自己决定路径。是先去搜资料还是先分析？搜到一半发现信息不够，要不要换个方向搜？要不要中间给用户确认？这些都是LLM现场决策。决策权在模型手里。

打个比方：

Workflow像工厂流水线——高效、确定、可预测，但只处理已知场景。做一个客服FAQ机器人，预设100条问题走100条分支，Workflow足够。

Agent像熟练的助手——你把任务丢给他，他根据经验、现场情况、可用资源，自己想办法完成。你说"帮我分析竞品上周的文章策略，输出一份周报"，Agent得自己搜索、自己筛选、自己判断重点、自己排版——这条路没人能提前画好流程图。

1.4 为什么2025年Agent才真正可用？

不是技术突然突破了，是三个条件同时成熟了：

模型够聪明了。2024年的模型已经能理解复杂指令、做多步推理。2025年的模型在工具调用（function calling）上的准确率大幅提升——这是Agent的硬门槛。
工具生态成型了。MCP协议（Model Context Protocol）让工具接入标准化。以前每接一个工具都得写胶水代码，现在有了通用协议。Agent的"手脚"终于发达了。
工程实践跟上了。大家搞清楚了怎么管理上下文窗口、怎么缓存系统提示、怎么在Agent-loop里做错误恢复。Agent从"玩具"变成了"工程系统"。

图1：AI Agent核心架构（含记忆+反馈进化引擎）

二、智能体选型全景图——找到属于你的那把"刀"

市面上的Agent工具几十款，选型时别被营销话术带偏。我按技术架构和使用场景分成三大类，逐一拆解。

2.1 低代码/无代码平台——给业务团队的Agent工厂

Dify（开源 LLMOps 平台）

定位：开源的AI应用开发平台。可视化编排，拖拽式搭建RAG管道、Agent、工作流。强调"企业级"和"私有化部署"。

核心能力：

• 可视化工作流编排（类似Zapier的AI版）

• 内置RAG引擎（知识库+向量检索）

• Agent模式（支持多工具调用、多轮对话）

• 多模型接入（OpenAI、Claude、本地模型）

• 完善的监控、日志、用量统计

适合谁：不想写代码但需要做AI应用的业务团队。100人以内的公司，用Dify社区版搭一个内部知识库客服Bot，两天上线。

能力边界：

• Agent的自主性有限。"Agent模式"本质是预设工作流里嵌了一个带工具调用的LLM节点——不是真正的自由式Agent。

• 高并发场景性能一般。社区版单机部署，实际承载并发50以内。

• 复杂逻辑还是得写代码。可视化编排适合80%的常见场景，剩下20%的边缘场景要么用代码节点，要么放弃。

一句话评价：“AI应用的WordPress”——门槛低、上线快、中等深度。

Coze（扣子）——字节跳动的Bot工厂

定位：字节推出的AI Bot构建平台，主打"Bot商店"和多平台发布（飞书、微信、抖音、Discord等）。

核心能力：

• 极低门槛的Bot搭建（选模板→配知识库→配插件→发布）

• 丰富的内置插件（搜索、航班、天气、计算器等）

• 多平台一键发布

• 工作流编辑器（类似Dify，但更轻量）

• 中文生态极佳（模板、文档、社区全中文）

适合谁：需要快速做对外Bot、想对接飞书/微信的企业。尤其适合国内场景。

能力边界：

• 平台深度绑定。Bot跑在Coze平台上，数据和逻辑都在字节的云上。私有化部署？不支持。

• Agent能力弱。Coze的"智能体"更接近预设对话树+知识库检索，自主决策能力不如真正的Agent框架。

• 出海受限。国际版Coze（海外）和国内版是隔离的，跨境业务要小心。

一句话评价：“AI Bot的抖音”——流量大、门槛低、但你在别人地盘上玩。

n8n（开源自动化 + AI）

定位：开源的自动化工作流引擎，2024年加入AI能力。技术底子是"节点化自动化"，AI是叠加在上的。

核心能力：

• 400+原生连接器（Google、Slack、GitHub、数据库……）

• 自托管/云托管均可

• AI节点（LLM调用、向量检索、文本分块等）

• 强大的数据处理管道

• 社区版完全开源（Fair-code许可）

适合谁：已经有自动化需求、想把AI"嵌入"现有流程的团队。比如"Slack收到需求→n8n调LLM分析→创建Jira工单→通知负责人"。

能力边界：

• 不是原生Agent。n8n的本质是自动化管道，AI是管道中的"智慧节点"。它能做"智能自动化"，但做不了真正的Agent。

• 学习曲线不低。400+连接器是双刃剑——配置复杂，文档英文为主。

• 代码还是得写。复杂逻辑只能用Code节点（JavaScript/Python）。

一句话评价：“瑞士军刀式的AI自动化管道”——连接一切，AI加持，但不是Agent。

2.2 CLI/开发者工具——给工程师的Agent驾驶舱

Claude Code（Anthropic）

定位：Anthropic官方的CLI编码Agent。在你的终端里运行，直接操作文件系统、执行shell命令、用Git。

核心能力：

• 全自主编码（理解代码库→修改文件→跑测试→修bug→提交PR）

• 终端集成（执行任意命令，读输出，决定下一步）

• 上下文极深（200K token窗口，一次塞进整个代码库的关键部分）

• 支持MCP协议接入外部工具

• 权限控制（可以限制它不能删文件、不能联网等）

适合谁：有经验的开发者。一句话"帮我给这个项目加单元测试"，它会自己看代码、写测试、跑通、提交。

能力边界：

• 只有CLI。没有Web界面，没有移动端。只适合坐在电脑前敲命令的开发者。

• 成本不低。一次复杂任务烧几百万token，API费用可能到几美元。

• 无记忆。每次新会话，除非你手动给context。

• Mac/Linux only（Windows通过WSL）。

一句话评价：“终端里的高级工程师”——能力极强，但贵且只服务懂命令行的人。

Codex CLI（OpenAI）

定位：OpenAI官方的CLI编码Agent。和Claude Code同一赛道，但更强调安全沙箱。

核心能力：

• 基于o-series模型（o3/o4-mini），推理能力强

• 沙箱执行——所有操作在隔离环境中先运行，确认无害才落地

• 本地优先——默认offline模式，不上传代码

• 多模型可选（o3/o4-mini/GPT-5等）

适合谁：安全敏感场景下的开发者。金融、医疗行业，代码不能出本地环境。

能力边界：

• 比Claude Code"更谨慎"，有时过于保守影响效率。

• o-series模型贵。推理模型token消耗大。

• 社区生态不如Claude Code成熟（插件、MCP集成等）。

一句话评价：“安全第一的编码Agent”——适合合规场景，但效率上不如Claude Code激进。

OpenCode（开源社区）

定位：开源的CLI编码Agent。可以理解为"社区版Claude Code"。用任何LLM后端（OpenAI、Anthropic、本地模型）。

核心能力：

• 完全开源，自由魔改

• 支持任何LLM后端

• 终端内全流程编码

• 社区驱动，快速迭代

适合谁：想自己掌控Agent逻辑的团队。可以用本地部署的Qwen或DeepSeek跑，零API成本。

能力边界：

• 用本地模型时能力下降明显。开源模型的工具调用准确率不如Claude/GPT。

• 社区维护，稳定性不如商业产品。

• 文档和最佳实践积累不够。

一句话评价：“自由但需要DIY能力的编码Agent”——开源可控，但效果取决于你挂的模型。

Hermes Agent（开源多通道智能体）

定位：全场景智能体框架。不仅是编码Agent，而是"持久运行的AI助手"——支持定时任务、多平台消息、技能系统、跨会话记忆。

核心能力：

• 持久记忆：跨会话记住上下文、用户偏好、决策历史。不像Claude Code每次都是"初次见面"。

• 技能系统：把搞定过的问题固化为"技能"，下次遇到同类任务直接加载。越用越强。

• 定时任务：真正的"无人值守"——比如每天早上10点自动采集数据、下午4点生成报告。

• 多平台交付：WebUI、Telegram、Discord、Signal、邮箱……同一条消息推送到你想要的任何通道。

• 多模型切换：随时换LLM，从Claude到本地Qwen。

• 子Agent编排：把大任务拆成多个子任务，并行丢给子Agent执行。

• 开源自托管，数据不出自己的服务器。

适合谁：需要AI持续运行的场景——系统运维、定时报告、多平台消息分发。已经在生产环境跑监控脚本、合同提醒、邮件报表的团队。

能力边界：

• 学习曲线偏高。CLI配置、Provider设置、技能编写都需要一定的工程素养。

• 生态年轻。相比Dify的模板市场、Coze的Bot商店，Hermes的社区技能库还不够丰富。

• 需要服务器。不像Coze零运维，你得自己找个机器跑。

一句话评价：“有记忆、会成长的AI管家”——不是一次性工具，而是越用越值钱的长期伙伴。

其他值得关注的CLI工具

WorkBuddy：社区项目，桌面Agent，让AI操控你的鼠标键盘做重复性操作。适合做RPA类任务（填表、数据搬运），但不是通用Agent。

Gemini CLI：Google推出的CLI Agent，依托Gemini模型。2025年刚起步，生态和文档都还在初期。

Qwen-Agent：阿里Qwen团队推出的Agent框架，中文支持好，适合用国产模型的场景。

2.3 IDE集成Agent——在编辑器里直接"对话式编程"

Cursor（AI-first IDE）

定位：以AI为核心的代码编辑器（基于VS Code）。Agent模式可以跨文件修改、执行终端命令。

核心能力：

• Tab补全：预测你接下来要写什么，连按Tab就完成了。

• Composer：选中多文件，一句话让AI同时改。

• Agent模式：AI自己找文件、改代码、跑命令、看报错、修bug。

• 上下文感知：自动索引项目结构。

适合谁：个人开发者，日常编码效率提升。

能力边界：

• 收费。Pro版$20/月。

• Agent能力不如Claude Code——受限于IDE沙箱，不能像CLI Agent那样"为所欲为"。

• 不适合无人值守任务。

一句话评价：“双手不离键盘的AI副驾驶”——日常编码效率神器，但深度Agent任务还得靠CLI。

Windsurf（原Codeium）

定位：AI IDE，主打Cascade模式——“一步到位的多步骤自主编码”。

核心能力：

• Cascade模式：理解你的意图后，自动完成一整串操作（创建文件→写代码→安装依赖→测试）。

• 免费层慷慨。

• 上下文感知和Cursor类似。

适合谁：不想付费Cursor的个人开发者，或者想做全链路任务的。

能力边界：

• Agent自主性有限，比Cursor Agent模式更偏"自动化"而非"自主决策"。

• 生态不如Cursor成熟。

一句话评价：“Cursor的免费替代品”——能力接近，价格友好。

2.4 选型对比速查表

各工具速览

**▸ Dify：**开源 LLMOps 平台，可视化搭 AI 应用。适合内部知识库、客服 Bot。社区版免费私有部署。

**▸ Coze（扣子）：**字节跳动的 Bot 工厂，多平台一键发布。中文生态极佳，但数据和逻辑绑定字节云。

**▸ n8n：**开源自动化引擎，400+连接器。AI是管道中的"智慧节点"，不是原生Agent。适合数据管道和触发式自动化。

**▸ Claude Code：**Anthropic CLI 编码 Agent，全自主编码。200K上下文，支持MCP。贵但能力极强，Mac/Linux only。

**▸ Codex CLI：**OpenAI 安全编码 Agent，沙箱执行+本地优先。适合金融/医疗等合规场景，效率不如Claude Code激进。

**▸ OpenCode：**开源 CLI 编码 Agent，支持任意LLM后端。自由魔改，但用本地模型时能力下降明显。

**▸ Hermes Agent：**全场景智能体框架，持久记忆+定时任务+多平台交付+子Agent编排。适合持续运营场景，越用越强。

**▸ Cursor：**AI-first IDE，Tab补全+Composer+Agent模式。日常编码效率神器，深度Agent任务不如CLI工具。

**▸ OpenClaw：**跨平台个人 AI 助手 (38万⭐)，TypeScript生态。Any OS/Any Platform，开源自托管。适合个人日常AI助手场景。

**▸ WorkBuddy：**社区桌面 RPA Agent，让AI操控鼠标键盘完成重复性操作（填表、数据搬运）。不是通用Agent，专注桌面自动化。

2.5 Agent vs Workflow本质区别

Workflow 的决策权在人手里，Agent 的决策权在模型手里


维度	Workflow	Agent
谁来决策	你预先画好所有分支 if A -> B, if C -> D LLM只是"智能处理单元"	LLM自己决定：先做什么用什么工具、遇意外怎么调整 LLM是"决策者"
处理范围	只处理已知场景 100条FAQ走100条预设分支第101条就懵了	能处理未知场景你丢个模糊目标它自己探路、自己调整
成长性	永远不会变强上线什么样一年后还是什么样	会持续进化记忆积累偏好反馈固化技能，越用越强