前言

前几天,整理了大模型Agent的相关知识,收到了很多小伙伴的关注留言,非常感谢。还有不了解的可以看一下这篇文章:[2025年的风口!| 万字长文,带你纵观大模型Agent,涉及研究痛点、应用场景、发展方向]。今年大模型Agent的风口确实很强,那么今天作者就继续再给大家认真盘一盘大模型Agent在各个领域的“花式玩法”,涉及电影、博客、医疗、金融分析、软件、数据可视化、新闻审查、具身AI、web导航等,并且基本上都有源码的。如果你正在做这方面的工作,亦或者是正在寻求Agent应用灵感,这篇文章或许对你有帮助。

电影生成

现有的长视频生成框架缺乏自动化规划,需要人工输入剧情、场景、摄影和角色互动,导致成本高昂且效率低下。
为此,新加坡国立大学提出了 「MovieAgent」,这是一种通过多智能体链式思维(CoT)规划实现自动化电影生成的方法。MovieAgent能够根据剧本和角色库生成多场景、多镜头的长视频,并保持叙事连贯性、角色一致性、字幕同步和稳定音频。「其引入的层次化CoT推理过程自动构建场景、相机设置和电影摄影,显著减少人力投入」。通过模拟导演、编剧、故事板艺术家和场地经理等角色,MovieAgent简化了生产流程,并在脚本忠实度、角色一致性和叙事连贯性方面取得了新进展。

数据可视化

科学数据可视化对于将原始数据转化为**「易于理解的视觉表示至关重要」,能够帮助进行模式识别、预测和数据驱动的见解呈现。然而,尽管大型语言模型(LLM)在辅助代码生成方面显示出潜力,但在准确性方面仍存在挑战,并需要反复调试。在这里插入图片描述
为此,Adobe提出多Agent框架:PlotGen,可以自动实现科学数据可视化。
「这是一个多代理框架,用于自动化创建科学数据可视化」**。PlotGen通过多个LLM代理协作完成任务:查询规划代理将用户请求分解为可执行步骤,代码生成代理将伪代码转换为Python代码,而三个反馈代理利用多模态LLM对生成图表的数据准确性、文本标签和视觉效果进行迭代优化。实验表明,PlotGen在MatPlotBench数据集上比现有方法表现更好,性能提升了4-6%。

播客生成

现有的自动音频生成方法在生成类似播客的音频节目时面临挑战,尤其是在深度内容生成和富有表现力的声音制作方面。在这里插入图片描述
港中大提出了**「PodAgent框架,旨在有效生成类似播客的音频节目」。PodAgent通过多代理协作系统生成内容丰富的讨论话题,构建声音池以「匹配适合的声音角色」**,并利用LLM增强的语音合成方法生成富有表现力的对话语音。实验结果表明,PodAgent在话题讨论对话内容生成上显著优于直接GPT-4生成,在声音匹配准确性上达到87.4%,并能产生更具表现力的语音。

"读到此处,你可能已经意识到:AI大模型的迭代速度远超想象,仅凭碎片化知识永远追不上技术浪潮。在这里分享这份完整版的大模型 AI 学习资料,已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证!免费领取【保证100%免费】在这里插入图片描述

新闻事实核查

在数字化时代,网络谣言对社会构成威胁,因此自动检测假新闻的需求上升。大型语言模型(LLMs)因其在自然语言处理领域的卓越表现,被探索用于新闻事实核查。在这里插入图片描述
西北大学(US)提出了FactAgent,一**「种无需训练即可使用LLMs识别假新闻的新方法」**。FactAgent模拟专家,通过简化的步骤和内置知识或工具来验证新闻真实性,并在决策过程中提供清晰解释。它比传统人工核查更高效,并且能够适应不同新闻领域。

GitHub 问题解决

GitHub issue 自动消解引起了学术界和工业界的极大关注。普林斯顿大学的 NLP 小组提出了 SWE-bench 用于自动衡量大模型解决这个任务的能力。在这里插入图片描述
面对这个问题,华为&&中科大等提出了一个新的框架 CodeR,专注GitHub问题解答,具体来说它采用了多智能体(Multi-Agent)和预先定义的任务图(Task Graph)来自动解决 GitHub 的 issues:1. 修复和解决 issue 中报告的错误(fix bug),2. 根据issue描述在代码仓库中添加新功能特性(add new feature)。

软件调试

软件调试是一项耗时的工作,涉及故障定位和补丁生成等一系列步骤,每一步都需要深入分析和对底层逻辑的深刻理解。尽管大型语言模型(LLM)在编程任务中展现出潜力,但在调试方面表现仍然有限。在这里插入图片描述
为此,港大提出了FixAgent,它是一个自动化软件调试框架,它利用大型语言模型克服了传统调试工具的三个主要难题:故障定位不精确、复杂逻辑错误处理不足和程序上下文忽视。该框架借鉴了人类调试技巧,通过专业化代理协同、关键变量追踪和程序上下文理解等设计,提高了调试的准确性和效率。与现有的调试模型相比,FixAgent的平均Bug修复准确率提高了20%,且整体正确率高达97.26%。

金融分析

AI4Finance提出了一个开源的大模型AGent平台,旨在帮助金融专业人士和普通用户利用大型语言模型(LLMs)「进行高级金融分析」在这里插入图片描述
FinRobot包含四个主要层:1、「金融AI代理层」:将复杂问题分解为逻辑步骤。2、「金融LLM算法层」:为特定任务配置模型应用策略。3、「LLMOps和DataOps层」:通过训练和微调技术,使用相关数据生成准确模型。4、「多源LLM基础模型层」:集成多种LLM,提供直接访问。FinRobot通过这些层,推动金融领域AI的更广泛应用。

系统资源管理

当前的智能代理在资源分配和利用方面存在效率低下甚至潜在有害的问题,且缺乏合理的调度和资源管理机制,限制了系统的整体效率。在这里插入图片描述
为此,RU创新性的提出一个基于大模型的操作系统架构:AIOS,该架构将LLM作为操作系统的“大脑”,「优化Agent请求的调度,支持上下文切换,实现并发执行,并提供工具服务和访问控制」,结果表明AIOS在多Agent并行执行时的可靠性和效率,展示了其在改善资源利用和提升Agent性能方面的潜力。

医疗助理

三星一种**「基于多Agent的医疗助理系统,旨在解决隐私、延迟和对互联网访问依赖等挑战」**。在这里插入图片描述
具体来说,该系统通过小型、任务特定的Agent优化资源,确保可扩展性和高性能。该系统具备预约、健康监测、药物提醒等功能,使用Qwen Code Instruct 2.5 7B模型的Planner和Caller Agent,在规划和呼叫任务中分别达到85.5和96.5的平均RougeL分数,适合在设备上部署。这种创新方法结合了设备端系统与多智能体架构的优势,为以用户为中心的医疗解决方案开辟了新路径。

具身领域

在具身人工智能领域,处理部分观察信息是一个主要难题。以往的研究通常通过让代理实际探索环境来更新对世界状态的理解。而**「人类可以通过想象来探索未见的世界部分」**,并据此更新认知,从而做出更明智的决策。为了模拟这种人类能力,在这里插入图片描述
JHU提出了Genex框架,它可以让Agent在心理上探索3D世界,如城市场景,并获取想象的观察来更新其信念,以做出更好的决策。

Web信息检索增强

INFOGENT框架

「为了让大模型Agent的联网信息检索能力更强」。UIUC 提出了INFOGENT框架,专门用于网络信息聚合,由三个核心组件构成:导航器(Navigator)、提取器(Extractor)和聚合器(Aggregator)。导航器负责在网页中搜索相关信息源并识别合适的网页;提取器从选定的网页中提取相关内容并传递给聚合器;聚合器则评估提取的内容,决定是否将其纳入最终输出,并向导航器提供反馈以指导后续搜索方向。在这里插入图片描述
INFOGENT支持两种信息访问设置:「直接API驱动访问」「交互式视觉访问」。直接API驱动访问依赖文本视图的网络,利用外部工具(如Google Search API)进行导航和爬虫提取内容;交互式视觉访问则使用网页截图并需要与浏览器交互来导航和访问信息。实验表明,INFOGENT在不同设置下均表现出色:在直接API驱动访问下,INFOGENT在FRAMES数据集上比现有的SOTA多Agent搜索框架MindSearch高出7%;在交互式视觉访问下,INFOGENT在AssistantBench数据集上比现有的信息搜索网络代理高出4.3%。

AutoWebGLM

大多数现有代理在现实世界的 Web 导航任务中的表现都远远不能令人满意:(1) HTML 文本数据的复杂性 (2) 网页上操作的多样性,以及 (3) 由于 Web 的开放域性质而导致的任务难度。在这里插入图片描述
为此,「智谱」提出了一个名为AUTOWEBGLM的「新型自动化web导航Agent」,它通过简化网页内容和使用AI技术来解决现有web Agent处理真实网页时的挑战。AUTOWEBGLM通过特别设计的算法来表示网页,保留重要信息,并利用混合人工智能方法进行训练。此外,该Agent通过强化学习和拒绝采样技术来提高对网页的理解能力和执行任务的效率。

好啦,以上就是本期**「大模型高能玩法」的全部内容!想获取更多大模型的独家深度资料?🔥 快关注 我**,一键解锁前沿技术解析、实战案例和进阶秘籍📚!

从零入门大模型:最全学习路线、实战案例与资源汇总(2025最新版)

人工智能大模型(如ChatGPT、DeepSeek等)正驱动着技术变革,掌握相关技术已成为提升竞争力的关键。然而,大模型技术涉及领域广泛,学习曲线陡峭。为了帮助大家系统性地学习和掌握大模型技术,我们整理了一份资源包,旨在提供从理论基础到实践应用的全面支持。

这份资源包包含以下内容:

大模型学习路线与阶段规划: 提供清晰的学习路径,帮助学习者了解不同阶段的学习目标和所需技能。

人工智能论文PDF合集: 收录了重要的大模型相关论文,涵盖Transformer架构、预训练模型、微调技术等关键领域,方便深入研究。

52个大模型落地案例合集: 汇集了不同行业的大模型应用案例,展示了如何将大模型技术应用于实际问题,并提供参考实现思路。

100+本数据科学必读经典书: 涵盖机器学习、深度学习、自然语言处理等领域的基础理论和算法,为理解大模型技术奠定基础。

600+套大模型行业研究报告: 提供市场分析、技术趋势、竞争格局等信息,帮助了解大模型技术的行业应用和发展前景。

这份资源包对于想要系统学习大模型技术的人来说,无疑是一份极具价值的指南。首先,要充分利用其中的“大模型学习路线与阶段规划”,这相当于你的学习地图,这份指南出自于我们体系教程《NLP大模型人才培养计划》。

务必仔细研读,了解每个阶段的目标、所需技能和学习内容,并根据自身情况进行调整,制定个性化的学习计划。可以将大的学习路线分解为更小的、可实现的目标,并设定完成时间,这有助于保持学习动力和跟踪进度。

添加👇方联系方式领取【保证100%免费

在这里插入图片描述

咨询大模型人才培养计划 &免费领取本文资源

大模型学习路线与阶段规划

本路线旨在帮助学员掌握大模型相关技术栈,以及大模型在行业场景中的应用,包含企业级大模型项目实战。

各阶段详细学习内容:

阶段一:自然语言处理(NLP)与AI基础

  • 目标: 掌握NLP与深度学习AI的基础知识,为后续大模型学习打下坚实基础。

  • 学习内容:

    • 自注意力机制(self-attention)
    • 如何让模型学习到文本中不同语段的上下文联系?
    • 巧用位置编码,传递语句前后顺序关系
    • 核心计算流程:编码(Encoder)和解码(Decoder)
    • 实践任务一: 使用Pytorch手撸Transformer
    • 实践任务二: 全能的Transformer,解决时序预测问题
    • 循环神经网络结构拆解
    • 如何解决长序列的知识遗忘问题?—长短期记忆神经网络
    • 基于PyTorch实现RNN代码架构
    • 如何赋予模型双向学习能力?
    • 在不同任务中的RNN的用法区别:分类、序列标注等
    • 实践任务: 基于RNN的分词任务实战
    • 卷积神经网络结构拆解
    • 基于PyTorch实现CNN代码架构
    • 卷积网络中的经典层(Layer)及其实现方法
    • 卷积网络中的经典模块(Module)及其实现方法
    • 使用卷积网络建模的经典模型介绍
    • 实践任务: 使用CNN搭建文本分类模型
    • 实践任务二: 深度学习开发环境搭建
    • 实践任务一: 从0实现逻辑回归模型
    • 人工智能的发展路径
    • 机器学习优化方法和应用
    • 深度学习的发展和应用范式的演变
    • 卷积神经网络(CNN)
    • 循环神经网络(RNN)
    • Transformer架构

阶段二:自然语言处理实战

  • 目标: 结合实际场景,掌握NLP技术栈中的任务分类及相关技术。

  • 学习内容:

    • BERT的模型结构解析
    • BERT预训练方法
    • Mask掩码机制:让模型自己做「完形填空」
    • 长段落上下文信息增强,预测下一句(NSP训练策略)
    • 数据准备: 准备训练数据、基础文本预处理
    • 最简单的编码方法:One-Hot
    • 词袋表示(N-Grams词袋)
    • 基于词频统计的表示方法(TF-IDF)
    • 词嵌入(Word2vec、Glove、FastText)
    • 可视化词向量
    • 实践任务: 手写Word2vec
    • 问题定义
    • 数据获取方法
    • 数据探索(EDA)&数据整理(Wrangling)&预处理(Initial Preprocessing)
    • 如何将数据转化成机器可识别的语言?— 特征工程
    • 算法的高级艺术:抽象方法和建模策略
    • 如何衡量算法模型的好坏?—评估方法及其重要性
    • 将自然语言处理算法部署成应用能力
    • 实践任务: 数据分析和预处理实战
    • 第一个自然语言处理流程
    • 文本表示方法
    • 预训练模型 - BERT

阶段三:多模态大模型与知识图谱自动化构建

  • 目标: 掌握多模态大模型架构,以及如何利用大模型自动化构建知识图谱。

  • 学习内容:

    • 知识图谱Schema建设方案
    • 基于大模型的实体识别和关系构建方法
    • 基于大模型的输入存储和图谱查询方法
    • 自动化迭代策略
    • 实践内容:
    • 学习如何使用大模型根据行业数据特点帮助简历并完善知识图谱schema
    • 学习如何在Prompt中通过ICL增强大模型对任务的理解
    • 学习如何通过微调大模型,优化实体识别和关系关系构建效果
    • 学习如何让大模型理解知识图谱的总体架构,从而让大模型能够根据用户输入去自动生成数据存储和查询知识图谱的指令
    • 如何驱动大模型周期性得评估知识图谱结构的优劣,自动生成优化方案
    • 学习如何构建指令模板
    • 学习如何微调训练多模态大模型
    • 搭建图像要素自动识别和多模态问答demo系统
    • 多模态大模型
    • 基于大模型的知识图谱自动化构建项目实战

阶段四:企业级大模型应用落地方案 - RAG实战

  • 目标: 从0-1搭建通用性RAG应用框架,并应用于多个行业场景。

  • 学习内容:

    • 企业级应用框架设计与实现
    • 三个标准流程的抽象与搭建方法(RAG.Chain)
    • 灵活的功能组件实现策略(RAG.Module)
    • 自定义文档加载器:PDF图文信息增强识别
    • 自定义开发文档分割组件:中文段落切分优化方案
    • 依赖服务的接入方法:向量数据库、大模型推理服务、embedding、重排序模型
    • RAG评估流程搭建
    • 基于LangSmith和langfuse搭建RAG流程监控系统
    • RAG场景化进阶:基于知识图谱的增强策略(接入现有图谱数据、GraphRAG)
    • RAG任务介绍 & 技术发展历程
    • RAG依赖哪些组件和能力?(向量数据库、大模型推理服务)
    • 模块化RAG系统架构设计 — 从理论到实战
    • 主流的(开源)RAG应用开发框架
    • RAG生态工具和能力
    • 实践内容:

阶段五:Agent项目实战

  • 目标: 掌握Agent技术,应对系统状态变化不可控的复杂场景。

  • 学习内容:

    • 学习如何通过Prompt引导Agent进行推理
    • 学习Agent推理和验证流程的实现方法
    • 学习如何让Agent在合适任务上调用外部能力来增强效果
    • 学习如何搭建多Agent系统
    • 学习如何解决多跳问题:ReAct的实现方法
    • 「人人都是AI开发专家」实践一:基于ModelScope Agent搭建一个应用开发助手
    • 「人人都是AI开发专家」实践二:基于Coze搭建一个知识问答机器人
    • Agent通用架构介绍
    • Agent中的规划(Planning)和推理(Reasoning)能力
    • Agent的文本输出和工具调用
    • 经典AI Agent案例分析
    • ModelScope-Agent项目拆解
    • 实践内容:

阶段六:大模型应用算法工程师面试辅导

  • 目标: 提升面试技巧,成功斩获大模型应用算法工程师职位。

  • 学习内容:

    • 在企业中的发展路径
    • 职业规划:如何快速升职加薪
    • 技术层面如何持续性的自我提升
    • 优秀简历模板讲解
    • 典型简历抽样点评
    • 大模型面试知识点整理和分享(八股文)
    • 一线互联网大厂的面试流程及侧重点
    • 面试技巧分享
    • 面试时的几大忌讳
    • 面试攻略及指导
    • 大模型应用算法工程师的职业规划

人工智能论文PDF合集

切忌贪多嚼不烂。建议从综述性论文入手,了解特定领域的整体情况和关键研究方向。同时,关注奠定大模型基础的经典论文,例如 Transformer 架构的论文。阅读时,精读与泛读结合,对于重要的论文仔细阅读并理解细节,对于其他论文则快速浏览以了解主要思想。务必做好笔记,记录论文的关键信息、创新点和实验结果,方便以后回顾。

52个大模型落地案例合集

52个大模型落地案例合集”是理论联系实际的绝佳素材。通过案例分析,了解大模型是如何应用于实际问题的,并思考这些案例是否可以应用于你感兴趣的领域。学习案例中的成功经验和遇到的挑战,并尝试复现一些简单的案例,加深理解。

100+本数据科学必读经典书

“100+本数据科学必读经典书”是夯实基础的基石。将书籍按照主题进行分类,例如机器学习、深度学习、自然语言处理、统计学、编程等,并根据自身背景和学习目标,选择合适的书籍。

从入门书籍开始,逐步深入。阅读时,参考其他读者的评论和推荐,选择高质量的书籍,并避免贪多嚼不烂,一次只读几本书,确保理解并掌握内容。

600+套大模型行研报告

“600+套大模型行研报告”是了解行业趋势的重要窗口。通过阅读行研报告,了解大模型技术的最新发展趋

部分资源内容展示

图片

图片

图片

图片

在这里插入图片描述

如果你对AI大模型入门感兴趣,那么你需要的话可以点击这里大模型重磅福利:入门进阶全套104G学习资源包免费分享!在这里插入图片描述

Logo

GitCode 天启AI是一款由 GitCode 团队打造的智能助手,基于先进的LLM(大语言模型)与多智能体 Agent 技术构建,致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话,还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力,真正做到“一句话,让 Al帮你完成复杂任务”。

更多推荐