知序
返回
保存草稿
发布
H1
H2
H3
1
2
3
Excalidraw 图
AI 写作
AI 优化
目录
输入内容后显示目录
Markdown
# 01 - Agent 概述与核心思想 > 导读:本文从"面试官问『你说的 Agent,跟直接调一个大模型 API 有什么区别』时该怎么答"这个高频疑问出发,把 AI Agent(智能体)的核心范式、四大组件、感知—思考—行动—观察循环、与 RAG 的边界、类型划分与最小可运行实现逐项讲透,最后给出工程实践与踩坑。适合准备 AI 应用 / Agent 方向面试、或刚要从"调 Prompt"跨到"做 Agent"的同学。  *图:Agent 的核心循环——感知、思考、行动、观察* ## 一、先建立全局认知 ### Q:Agent 到底是什么?跟"会聊天的 LLM"差在哪? A:结论先行——**Agent 的核心范式是"LLM 作为推理引擎 + 工具(Tools)作为执行手段 + 记忆(Memory)作为上下文 + 规划(Planning)作为策略",它与传统 LLM 最本质的差别不是"回答得更好",而是能自主决策下一步做什么、是否调用工具、何时结束任务**。它不只是回答,而是真的在"做事"。 为什么这个区别值得单独拎出来讲?因为很多人对 Agent 的第一印象是"一个更会聊天的模型",于是把 Agent 理解成"换了个更强的基座模型"。但如果你真的把两者的控制流画出来,会发现它们根本不是同一个东西:  *图:普通 LLM 与 Agent 的执行形态对比:一问一答 vs 闭环执行* ```text 普通 LLM(一问一答): 用户提问 ──▶ LLM 生成 ──▶ 回答 ──▶ 结束 (单向、一次、无外部交互) Agent(闭环执行): 用户提目标 ──▶ LLM 规划 ──▶ 调用工具 ──▶ 观察结果 ▲ │ └──────── 再思考 ◀──────────┘ (循环、多步、可调用外部系统、可自主终止) ``` 判断一句话是不是 Agent,可以抓三个特征: 1. **有工具**:能访问模型训练数据之外的信息或系统(搜索、数据库、代码执行、业务 API)。 2. **有闭环**:上一轮的结果会作为下一轮推理的输入,允许"走一步看一步"地调整。 3. **有自主性**:调不调工具、调哪个、什么时候停,由模型基于上下文决定,而不是写死在代码里的 if-else。 生活类比:普通 LLM 像一个只会回答问题的百科全书;Agent 像一个能帮你跑腿办事的助手——你只说要什么结果,中间"先查天气、发现下雨、再提醒带伞"这一串动作是它自己串起来的。  *图:普通 LLM 与 Agent 工作方式对比* ### Q:为什么说 LLM 从"知识库"升级成了"调度器"? A:结论先行——**因为 Agent 里的 LLM 不再只依赖训练数据作答,而是根据任务需求动态调度外部工具、知识库和 API 来完成目标,这是 LLM 从"被动响应"到"主动执行"的关键跃迁**。 拆开看,这个"调度器"角色带来三点结构性变化: | 维度 | 知识库角色(普通 LLM) | 调度器角色(Agent) | |---|---|---| | 信息来源 | 训练时固化在权重里的知识 | 运行时从任意工具/API 实时获取 | | 时效性 | 有训练截止日期 | 与外部系统同步,可拿到实时数据 | | 行为边界 | 只能输出文本 | 可产生真实副作用(下单、改库、发消息) | | 失败模式 | 幻觉、知识过时 | 除幻觉外,还有选错工具、参数错、死循环 | 第三行很关键:**当模型从"说话"变成"动手"之后,错误的代价从"答错一句"上升到"改错数据"**。这也是后面所有工程约束(参数校验、权限、最大步数、人工审批)存在的根本原因。 ```text 用户:"帮我查一下北京明天的天气,如果下雨就提醒我带伞" Agent 的思考过程: 思考:我需要查天气,用天气 API 工具 行动:调用 weather_api("北京", "明天") 观察:返回 {"天气": "小雨", "温度": "15°C"} 思考:明天下雨,需要提醒带伞 行动:生成最终回答 回答:"北京明天小雨,15°C,记得带伞。" ``` 注意这段轨迹里,**"如果下雨就提醒带伞"这个分支没有写在任何代码里**,是模型读完 Observation 之后自己判断出来的。换成普通 LLM,它极可能直接编一个温度然后说"记得带伞"——流程看起来一样,事实性完全不同。 ### Q:Agent 的四大核心组件各管什么?少一个会怎样? A:结论先行——**LLM 是大脑负责推理决策,工具是手脚负责与外部世界交互,记忆是笔记本负责突破上下文窗口限制,规划是策略负责把复杂目标拆成可执行步骤;四者缺一块都会让 Agent 明显残废,但缺失的"症状"各不相同**。 逐个展开,并且给出"如果缺失会怎样"——这是面试里最能体现你是否真做过的地方: **1. LLM(大语言模型)——"大脑"** 负责理解用户意图、制定执行策略、决定调用哪些工具、判断任务是否完成。它的选择直接影响 Agent 的整体质量:更聪明的模型能做出更好的决策,代价是更高的延迟和成本。缺了它,工具再全也只是 RPA。 **2. 工具(Tools)——"手脚"** 工具是 Agent 与外部世界交互的唯一通道,可以是搜索 API、数据库查询、代码执行器、文件操作——任何能被封装为"函数调用"的外部能力。**工具的设计质量决定了 Agent 能做什么**:没有数据库工具,再强的模型也查不到订单。 **3. 记忆(Memory)——"笔记本"** 解决 LLM 上下文窗口(Context Window)有限的限制。短期记忆是当前对话的上下文,长期记忆是跨对话保持的信息(用户偏好、此前学到的经验)。**没有记忆,Agent 每次都像"初次见面"**,用户说了三遍"我不喜欢 Java"它依然推荐 Java。 **4. 规划(Planning)——"策略"** 决定如何把复杂目标拆解为可执行的子任务。好的规划能力让 Agent 从"单步工具调用"升级到"多步自主执行",是 Agent 智能程度的核心体现。缺了规划,Agent 能做的只是"一问一工具",遇到"写一篇 RAG 技术博客"这种目标就直接卡住。  *图:Agent 的核心循环——感知、思考、行动、观察* ```text ┌──────────────────────────────┐ │ LLM(大脑/调度器) │ │ 理解意图 · 推理 · 决策 · 判断 │ └───┬────────┬────────┬────────┘ │ │ │ ┌──────▼──┐ ┌───▼────┐ ┌─▼──────────┐ │ 工具 │ │ 记忆 │ │ 规划 │ │ 手脚 │ │ 笔记本 │ │ 策略 │ │ 搜索/DB │ │ 短期+长期│ │ 目标拆解 │ │ 代码/API │ │ 偏好/经验│ │ 多步执行 │ └─────────┘ └────────┘ └────────────┘ ``` ### Q:四个组件里,如果只能先做好一个,应该先做哪个? A:结论先行——**优先把"工具"做扎实。因为工具决定了 Agent 能力的天花板,而 LLM 与记忆更多决定它能否稳定地触达这个天花板;工具缺失是不可补偿的,模型更强也救不回来**。 三点理由: 1. **缺失与不足的性质不同**。模型弱一点,结果是"决策质量差一些",通过 Prompt 打磨、给示例、换模型都还能补救;而没有数据库工具时,"查一下订单状态"这个任务是**根本做不到**的,属于能力缺失,无法通过调 Prompt 绕过。 2. **工具质量的收益是"乘法"的**。工具的描述、参数定义、错误信息会在每一次决策中被用到,**一处描述改清楚,所有涉及它的任务都受益**;而模型和记忆的投入更偏"线性"——换更强模型、加一层记忆,都是花钱和加工程换来的稳定提升。 3. **两者投入的"确定性"不同**。工具是可以被测试、被审计、被权限约束的确定性资产;LLM 的行为是概率性的。**先建确定性资产,再用它去约束概率性部分**,是风险最低的推进顺序。 **但"优先"不等于"只做工具"**。一个只有工具、没有规划能力的系统,本质上仍是"一问一工具"的调用器,只能完成单步任务;**四者的正确关系是:工具划定能力边界,规划决定能否多步抵达,记忆保证过程不丢信息,LLM 负责协调这三者。** ## 二、理解核心机制 ### Q:Agent 的核心循环到底怎么转? A:结论先行——**Agent 的核心循环是"感知(Perceive)→ 思考(Think)→ 行动(Act)→ 观察(Observe)→ 再思考"的闭环,直到模型判断任务完成才退出**。 把循环展开成可落地的 7 步,这是几乎所有 Agent 框架(无论 LangChain、LangGraph 还是手写)都在实现的东西:  *图:Agent 感知-思考-行动-观察循环与执行流程* ```text 感知(Perceive)→ 思考(Think)→ 行动(Act)→ 观察(Observe)→ 循环 具体流程: 1. 接收用户目标 2. LLM 思考:我需要做什么?用什么工具? 3. 调用工具执行动作 4. 观察工具返回的结果 5. LLM 再次思考:任务完成了吗?还需要做什么? 6. 如果没完成 → 回到步骤 2 7. 如果完成了 → 生成最终回答 ``` 为什么必须是"循环"而不是"一条链"?因为**任务的后续步骤往往依赖于前一步的真实结果,而真实结果在规划时是未知的**。用户在提问时并不知道明天下不下雨,模型在调用天气工具前也不知道;只有拿到 Observation,后面的"是否提醒带伞"才有依据。循环结构天然容纳了这种"信息逐步到位"的过程。  *图:Agent 感知、思考、行动与观察闭环* ### Q:循环里为什么必须有"观察"这一步?没有观察会怎样? A:结论先行——**观察是工具执行结果回灌给 LLM 的唯一通道;没有观察,循环就断了闭环,模型只能靠猜,相当于把 Agent 退化成"盲调工具的单向流程"**。 具体来说,观察承担三个职责: 1. **提供事实**:把工具返回的真实数据(`{"天气": "小雨"}`)交给模型,替代其内部猜测。 2. **提供纠错信号**:工具失败、超时、参数错误都会通过观察回灌,让模型有机会换个方法。 3. **提供终止判据**:模型正是通过观察判断"信息是否已经足够",从而决定继续循环还是给最终答案。 ```text 有观察: Action: get_weather(北京, 明天) Observation: 失败——参数 date 需为 YYYY-MM-DD 格式 Thought: 参数格式不对,我改用 2026-09-15 重试 没观察(等价于把结果丢掉): Action: get_weather(北京, 明天) Thought: 我已经查到了天气,直接回答 → 只能编造,幻觉 ``` 这里有个容易被忽略的工程点:**Observation 的内容质量直接决定纠错是否可能**。如果工具失败时只返回一个 `None` 或 `Error`,模型拿不到"为什么错、该怎么改",只能反复重试同一个错误参数。所以工具的错误信息必须"有信息量"(这一点在工具调用章节会专门展开)。 ### Q:一个任务在 Agent 内部究竟长什么样? A:结论先行——**它是一串带类型的步骤记录(Thought / Action / Observation / Final Answer),既用于驱动下一步推理,也用于事后追踪与评测**。 下面是一条典型的完整轨迹,注意每一步都同时具备"给模型看"和"给人看"两种用途: ```text 用户:北京明天天气怎么样? Step 1 Thought: 用户问天气,我需要调用天气工具 Action : get_weather Input : {"city": "北京", "date": "明天"} Observation: {"天气": "晴", "温度": "18°C"} Step 2 Thought: 已经拿到天气信息,可以直接回答 Final Answer: 北京明天晴天,气温 18°C,适合出行。 ``` **为什么要强调"带类型"?** 因为解析器需要靠类型判断下一步该干什么:`THOUGHT_ACTION` 就去执行工具并把 Observation 追加进消息历史;`FINAL_ANSWER` 就结束循环返回结果;解析失败就要提示模型重写。把步骤类型化,等于把"模型说了什么"和"系统该做什么"解耦,这是工程上能稳定运行的前提。 ## 三、Agent、RAG 与普通 LLM 的边界 ### Q:Agent、RAG、普通 LLM 三者是什么关系? A:结论先行——**它们不是三选一的竞品,而是"能力递增"的谱系:普通 LLM 只有内置知识,RAG(Retrieval-Augmented Generation,检索增强生成)在其上增加知识检索能力,Agent 再增加工具调用、自主决策与多步执行能力;而且 Agent 完全可以把 RAG 当作自己众多工具中的一个来用**。 - **普通 LLM**:只有内置知识,回答基于训练数据,知识有截止日期,无法访问外部信息。 - **RAG**:查询时先从外部知识库检索相关内容,再结合检索结果生成回答,解决"知识更新"和"幻觉"问题。 - **Agent**:在前两者基础上增加工具调用、自主决策、多步执行;RAG 只是它的一个工具("检索"工具)。 ```text 普通 LLM RAG Agent 能力 纯文本生成 检索+生成 推理+工具+行动 交互方式 一问一答 一问一答 多步循环 外部数据 无 向量数据库 任意工具/API 自主性 无 无 有(自主决策) 适用场景 简单问答 知识密集型问答 复杂任务执行 Agent 可以包含 RAG 作为其中一个工具 ```  *图:Agent、RAG 与普通 LLM 对比* ### Q:那到底什么才是三者的"分水岭"? A:结论先行——**关键区别不在"有没有 RAG",而在控制流(Control Flow):普通 LLM 和 RAG 是"用户提问 → 系统回答"的单向流程;Agent 是"用户提目标 → 自主规划并执行多步操作 → 最终交付结果"的闭环流程**。 这个"分水岭"极其重要,因为它直接决定了一个需求该用什么架构。判断方法可以固化成三问: | 自问 | 若回答"是" | 若回答"否" | |---|---|---| | 步骤是否需要根据中间结果动态变化? | 倾向 Agent | 倾向固定工作流 / RAG | | 是否需要产生外部副作用(下单、发信、改库)? | 倾向 Agent(必须加权限与幂等) | RAG 够用 | | 是否只需"检索 → 排序 → 生成"? | 明确用 RAG / 工作流,别上 Agent | 可以考虑 Agent | **这里最常见的架构过度设计就是把"检索 → 排序 → 生成"这种固定三段式做成 Agent**。固定流程用 RAG 或普通工作流(Workflow)更可控、成本更低、延迟更小;只有当任务真的需要依中间结果自主选择下一步动作、处理分支或编排多种工具时,Agent 的额外复杂度才划算。 ### Q:Agent 按能力可以分成哪几类? A:结论先行——**按自主性从低到高分为对话型、任务型、自主型、多 Agent 系统四类:前两类是当前落地主力,自主型还不够成熟、容易跑偏,多 Agent 系统适合大型复杂系统**。 ```text 1. 对话型 Agent: 客服机器人、个人助手 重点:理解意图、多轮对话、工具调用 2. 任务型 Agent: 代码生成、数据分析、自动化流程 重点:任务分解、工具编排、结果验证 3. 自主型 Agent: AutoGPT、BabyAGI 重点:自主设定子目标、长期规划 目前还不够成熟,容易跑偏 4. 多 Agent 系统: 多个 Agent 协作完成复杂任务 重点:角色分工、通信协调 ``` 选型的现实建议是**从第 1、2 类起步**:它们的目标边界清楚、有明确的完成判据,工程上好控;第 3 类"自主型"今天的可靠性仍不足以支撑无人值守的生产场景;第 4 类只有在单 Agent 已经稳定、且确实存在"专业分工"需求时才引入,否则多出来的通信与协调成本会大于收益。 ### Q:对话型 Agent 和任务型 Agent,在工程实现上的重点有什么不同? A:结论先行——**对话型的重点是"意图理解 + 上下文连续性",工程上要投在记忆与多轮状态管理;任务型的重点是"任务分解 + 结果验证",工程上要投在规划、工具编排与完成判据上**。 | 对比维度 | 对话型 Agent | 任务型 Agent | |---|---|---| | 目标形态 | 一轮轮澄清、持续服务 | 一次交付一个可验收的结果 | | 主要难点 | 指代消解、意图漂移、上下文丢失 | 步骤分解、工具编排、结果正确性 | | 关键组件 | 记忆(短期为主,长期偏好为辅) | 规划 + 工具 + 验证 | | 结束条件 | 用户满意即可,通常无硬性判据 | 必须有可验证的交付标准 | | 典型失败 | "忘了前面说过什么" | "做了一半就说做完了" | | 延迟容忍度 | 低(用户在等即时回复) | 相对高(用户预期要跑一会儿) | **这张表最实用的一行是"延迟容忍度"**:对话型 Agent 因为要即时回复,通常必须做流式输出、限制单轮工具调用;任务型 Agent 因为用户预期它要"跑一段时间",反而可以承受更多轮次去换取更高的完成质量。**同一套 ReAct 循环,在这两类场景里该配的 `max_iterations` 和超时策略往往完全不同。** ## 四、最小可运行实现 ### Q:一个能跑起来的最小 Agent 长什么样? A:结论先行——**用 LangChain 的 `create_tool_calling_agent` + `AgentExecutor`,定义两个工具、写一个带 `agent_scratchpad` 的 Prompt,就能得到一个最小可运行的 Agent**。 ```python from langchain_openai import ChatOpenAI from langchain.agents import tool, AgentExecutor, create_tool_calling_agent from langchain.prompts import ChatPromptTemplate, MessagesPlaceholder # 定义工具 @tool def calculator(expression: str) -> str: """计算数学表达式,输入如 '2 + 3 * 4'""" return str(eval(expression)) @tool def search(query: str) -> str: """搜索信息""" return f"搜索结果:{query} 的相关信息..." # 创建 Agent llm = ChatOpenAI(model="gpt-4o") tools = [calculator, search] prompt = ChatPromptTemplate.from_messages([ ("system", "你是一个有用的助手,可以使用工具来帮助用户。"), MessagesPlaceholder("chat_history", optional=True), ("human", "{input}"), MessagesPlaceholder("agent_scratchpad"), ]) agent = create_tool_calling_agent(llm, tools, prompt) executor = AgentExecutor(agent=agent, tools=tools, verbose=True) # 运行 result = executor.invoke({"input": "123 * 456 等于多少?"}) print(result["output"]) ``` **关键点逐条解读**(面试常追问细节): - `@tool` 装饰器会把函数名、类型注解和 **docstring** 转成工具的 Schema;docstring 写得清不清楚,直接决定模型会不会在正确的时机调用它。 - `MessagesPlaceholder("agent_scratchpad")` 是 Agent 循环的"草稿纸",用来放置中间产生的 Thought / Action / Observation,让模型在下一轮能看到自己做过什么。**没有它,模型每轮都是失忆的**。 - `MessagesPlaceholder("chat_history", optional=True)` 承载短期记忆(对话历史),`optional=True` 表示首轮没有历史也能正常构造 Prompt。 - `AgentExecutor` 负责真正的循环调度:解析模型输出 → 调用工具 → 把结果塞回 scratchpad → 再问模型,直到出现最终答案或触达步数上限。`verbose=True` 会把每一步打印出来,是排查"为什么它选了错工具"的第一手材料。 - `calculator` 用了 `eval()`,这在示例里为了简洁可以,**生产环境绝不可直接执行模型生成的表达式**,必须沙箱化或换用安全的表达式求值方式。 ## 五、工程实践与踩坑 ### Q:为什么说 Agent 目前还不够可靠?主要失败模式有哪些? A:结论先行——**Agent 的不确定性来自"多步 + 开放决策 + 外部依赖"的叠加:它可能误解目标、产生幻觉、选错工具或参数、误判工具结果、陷入循环,并受外部服务失败影响;缓解手段是结构化输出、参数校验、最大步数、重试、人工审批和结果验证**。 把失败模式与对应措施对成表,是工程落地最有用的清单: | 失败模式 | 典型表现 | 工程对策 | |---|---|---| | 目标误解 | 答非所问,做了一堆无关动作 | 澄清式追问、目标结构化、交付标准前置 | | 幻觉 | 没查就说"已查到" | 强制工具优先、禁止无来源断言、结果校验 | | 选错工具 / 参数错 | 相似工具混用、必填缺失 | 工具描述写清边界与示例、Schema 校验、报错可读 | | 误判工具结果 | 失败当成成功继续往下走 | 工具返回结构化 success 标记,失败必须显式处理 | | 死循环 | 同一工具同参数反复调 | 单工具调用次数上限、最大迭代步数、检测重复 | | 外部服务失败 | 超时、限流、5xx | 超时设置、重试与退避、降级、熔断 | ### Q:如何为一个 Agent 定义清晰的"完成"条件? A:结论先行——**把自然语言目标翻译成可验证的交付标准(必需字段齐全、工具返回成功、引用覆盖关键结论、测试通过),同时显式定义失败、超时与人工升级条件,避免模型仅凭主观判断宣布结束**。 为什么这一步非做不可?因为**模型判断"我做完了"是主观的**,而系统需要客观的退出条件。缺少客观判据时,最常见的线上问题是"模型自信地提前收尾"——任务只完成了一半就说"已完成"。落地做法: ```text 完成条件(可验证) ✅ 输出包含交付物要求的全部必填字段 ✅ 关键结论都有工具返回作为依据 ✅ 若涉及代码,测试通过 退出条件(必须定义) ⛔ 达到 max_iterations 仍无最终答案 → 返回降级提示 ⛔ 工具连续失败 N 次 → 停止并上报 ⛔ 命中高风险操作 → 转人工审批 ``` ### Q:Agent 和传统 RPA(机器人流程自动化)有什么区别? A:结论先行——**RPA 按预定义规则和固定流程执行,输入一变就容易失效;Agent 由 LLM 根据上下文推理、选择工具并动态调整步骤,适合非结构化和开放任务;代价是行为更不确定,需要额外加约束与验证**。  *图:确定性(规则)与开放性(推理)的取舍* ```text 确定性(规则) 开放性(推理) RPA ◀──────────────────────────────────────▶ Agent 固定流程、稳定、易审计 动态步骤、灵活、需约束 输入结构化 输入自然语言 变化即失效 可处理长尾与分支 ``` 实践中两者常常是互补关系:**用 Agent 做"理解意图 + 动态决策",把最终的确定性动作交给 RPA 化的接口**——这样既拿到了灵活性,又保住了关键动作的稳定性与可审计性。 ### Q:什么时候"不该"用 Agent? A:结论先行——**当流程固定为"检索 → 排序 → 生成",或者任务完全可以在模型知识边界内完成时,普通工作流或 RAG 更可控、成本更低、延迟更小,此时不该引入 Agent**。 原因在于 Agent 的每一轮循环都要付出一次 LLM 调用的延迟和 Token 成本,还要承担工具选错、参数错、死循环等额外风险。**如果任务不存在"根据中间结果改变后续动作"的需求,Agent 的额外自由度只带来风险,不带来收益**。一句话决策:**有分支、有副作用、有不确定步骤 → 考虑 Agent;线性流程 → 用工作流**。 ### Q:Agent 的延迟和成本主要由什么决定?怎么压? A:结论先行——**主要决定因素是"循环轮数 × 每轮的成本":每一轮循环都要付出一次 LLM 调用的延迟与 Token 成本,外加工具自身的执行时间;因此压缩手段集中在减少轮数、并行工具调用、以及用流式输出改善体感**。 把一次 Agent 请求的耗时拆开,可以看到优化点分别落在哪: ```text 总延迟 ≈ Σ(每轮 LLM 推理时间 + 工具执行时间) 轮数由什么决定? - 任务本身的步骤数(不可压缩) - 是否走了弯路(选错工具、反复重试 → 可压缩) - 是否误判了"还没完成"(可压缩) - max_iterations 的上限设置 每轮成本由什么决定? - 模型大小与输出长度 - 注入的上下文长度(记忆、工具 Schema、历史) ``` 对应的压缩手段与适用条件: | 手段 | 效果 | 代价 / 边界 | |---|---|---| | 流式输出 | 不减少总耗时,但显著降低"感知等待" | 需要端到端支持流式 | | 工具调用并行化 | 独立的多工具调用可压缩轮次 | 有依赖关系的调用不能并行 | | 降低 `max_iterations` | 直接封顶最坏耗时 | 太小会让复杂任务被迫中途放弃 | | 快慢模型分层 | 简单步骤用快模型,省时省钱 | 需要判别"哪些步骤简单" | | 裁剪注入上下文 | 每轮 Token 与推理时间下降 | 裁多了会丢信息、降低准确率 | **一个常见误区是把"减少轮数"等同于"降低 Agent 复杂度"**——其实更安全的做法是**先治"弯路",再动上限**:把工具描述写清楚、把错误信息写明白,让模型少走弯路,轮数自然下降;直接砍 `max_iterations` 只是把失败提前,并没有提升效率。 ## 小结 - **Agent = LLM + 工具 + 记忆 + 规划**;LLM 从"知识库"升级为"调度器",这是从被动响应到主动执行的关键跃迁。 - **核心循环**:感知 → 思考 → 行动 → 观察 → 再思考,直到满足完成条件;观察是闭环的关键,缺了它 Agent 就退化成盲调。 - **三者边界看控制流**:普通 LLM / RAG 是单向流程,Agent 是闭环;RAG 可以只是 Agent 的一个工具。 - **类型与选型**:对话型、任务型先落地;自主型尚不成熟;多 Agent 系统按需引入。 - **可靠性靠约束**:结构化输出、参数校验、最大步数、重试、人工审批、结果验证,缺一不可。 - 落地节奏建议:**从简单的工具调用 Agent 开始,逐步增加复杂度**。 ## 思考题 1. Agent 和传统的 RPA(机器人流程自动化)有什么区别? - **参考答案:** RPA 按预定义规则和固定流程执行,输入变化时容易失效;Agent 由 LLM 根据上下文推理、选择工具并动态调整步骤,适合非结构化和开放任务。代价是 Agent 的行为更不确定,需要增加约束与验证。 2. 为什么说 Agent 目前还不够可靠?主要的失败模式有哪些? - **参考答案:** 它可能误解目标、产生幻觉、选择错误工具或参数、误判工具结果、陷入循环,并受外部服务失败影响。通过结构化输出、参数校验、最大步数、重试、人工审批和结果验证降低风险。 3. 一个只会调用搜索工具并汇总结果的系统,什么时候还不应被设计成 Agent? - **参考答案:** 若流程固定为"检索 → 排序 → 生成",普通工作流或 RAG 更可控、成本更低。只有任务需要根据中间结果自主选择后续动作、处理分支或编排多种工具时,才需要 Agent。 4. 如何为一个 Agent 定义清晰的"完成"条件? - **参考答案:** 把自然语言目标转成可验证的交付标准,例如必需字段齐全、工具返回成功、引用覆盖关键结论或测试通过;同时定义失败、超时和需要人工升级的条件,避免模型仅凭主观判断结束。
预览
发布文章
添加摘要让读者更快了解文章内容
取消
确认发布
AI 写作助手
输入一个主题,AI 将为你生成一篇 Markdown 博客文章
AI 正在写作中...
取消
开始生成
AI 优化助手
描述你的修改需求,AI 将在原文基础上进行补充或微调
AI 正在优化中...
取消
开始优化
画布
从已有图里选
✕
图名
保存后生成 /images/excalidraw/<图名>.svg(只能用字母、数字、短横线、下划线、点)
取消
保存并插入