一、先建立一个画面大模型像“大脑”Agent 像“完整的人”你可以把大模型想象成一个非常聪明、知识很多的人但他被关在一个玻璃房里他能听懂你说话他能推理、能写文章、能写代码但他看不见外面的文件上不了网记不住你三个月前说过什么也不能真的帮你发邮件、查数据库、点按钮。所以大模型本身更像一个“大脑”而不是一个能独立干活的人。Agent 做的事情就是给这个大脑装上手脚工具系统让它能上网、读文件、跑代码档案室记忆系统让它记住当前任务和长期信息项目经理规划模块让它把复杂目标拆成多步神经中枢Orchestrator负责循环调度、判断什么时候继续、什么时候结束。这样它才能围绕一个目标持续做事而不是你问一句它答一句。二、Agent 是什么和大模型有什么本质不同一句话定义Agent 是以大模型为决策核心具备自主规划、工具调用、记忆和闭环反馈能力能围绕复杂目标持续行动的智能体。普通大模型应用通常是你问一句它答一句。每次请求独立、被动、无状态。Agent 更像是你给它一个目标“帮我写一份竞品分析。”它会自己拆任务1. 明确竞品范围2. 搜索市场数据3. 读取内部文档4. 调 Python 做图表5. 生成报告6. 发现数据不够重新搜索7. 最后输出完整分析。它不只是“说”它还能“做”。本质区别维度普通大模型Agent驱动方式被动响应目标驱动、自主行动任务粒度单轮问答、单步生成多步任务、复杂目标状态通常无状态有短期/长期记忆能力输出文本规划 工具 行动 反馈与外部世界隔离通过工具真实交互执行闭环一次性生成观察结果反馈指导下一步模型角色产品本身大脑/决策中枢之一有三个关键词最重要自主规划给复杂目标能拆成多步。能行动通过工具调用跟外部世界交互。有闭环每步结果会反馈回来指导下一步。还有一个关键点模型本身只是“大脑”工具的真正执行是你的代码。模型只负责决策比如生成一个 JSON 表示“我要调用搜索工具”真正发 HTTP 请求的是你的程序。三、Agent 基本架构四件套 一个总控经典四核心组件LLM 核心大脑负责推理和决策工具系统手脚负责真实行动记忆系统档案室负责存当前状态和长期信息规划模块项目经理负责任务拆解和重规划。工程上通常还有一个隐藏角色Orchestrator / Controller总控负责循环调度、状态管理、终止判断。文字架构图用户目标 ↓ Orchestrator 总控 ├─ LLM Core 大脑推理、决策、路由 ├─ Planner 规划拆解、计划、重规划 ├─ Memory 记忆短期 Context 长期向量库 └─ Tools 工具MCP / Function Calling / API / 代码 ↓ Environment 环境网页、数据库、文件、业务系统 ↑ Observation 观察结果 ↓ 反馈回 LLM继续循环直到完成四、核心组件逐一拆解 名词解释1. LLM 核心大脑LLMLarge Language Model大语言模型。它本质是概率生成模型根据上下文预测下一个 token。它擅长理解、推理、生成但不天然会读文件、上网、发邮件。Token模型处理文本的最小单位。中文里可能一个字或词英文里可能是子词。上下文长度、成本、速度都和 token 有关。Prompt提示词你给模型的输入。Agent 里不只是用户问题还包括系统指令、工具描述、历史记忆、观察结果。System Prompt系统提示词定义 Agent 的角色、目标、规则、工具使用方式、输出格式。比如“你是一个谨慎的调研 Agent必须先搜索再回答”。Context Window上下文窗口模型一次能看到的 token 上限。短期记忆通常就放在这里。推理与决策LLM 核心负责判断下一步是思考、调工具、还是直接给答案。路由决定当前任务交给哪个工具、哪个子 Agent、哪个流程。终止条件什么时候结束。比如任务完成、达到最大步数、人工中断、错误无法恢复。一句话LLM 核心是整个系统的决策中枢所有信息汇总到它这里。2. 工具系统手脚模型本身不读文件、不上网、不操作数据库。工具系统就是它接触外部世界的“手脚”。Tool / 工具一个可被调用的外部能力比如搜索、浏览器、代码解释器、数据库查询、发邮件、日历、企业内部 API。Function Calling函数调用。模型根据工具描述生成结构化的调用参数比如{ tool: search_web, args: { query: 2025 竞品分析 市场数据 } }真正执行这个调用的是你的代码。Tool Schema工具描述告诉模型这个工具叫什么、干什么、参数有哪些、必填还是选填。Schema 写得越清楚模型选错工具的概率越低。MCPModel Context Protocol模型上下文协议。由 Anthropic 提出的开放协议用来标准化 LLM 与外部数据、工具、资源的连接。你可以把它理解成 AI 世界的 USB-C以前每个工具都要写一套适配现在按 MCP 标准接入就能即插即用。MCP 不是工具本身而是协议常见角色有 MCP Client、MCP Server能力包括 Resources、Tools、Prompts。API应用程序接口。工具底层通常就是调 API。Sandbox沙箱。执行代码、访问文件、运行命令时要在隔离环境里做防止越权、删库、泄露。Permission权限控制。哪些工具能用、能访问哪些数据、是否需要人工审批。Observation观察结果。工具执行后返回的内容比如搜索结果、API 响应、代码输出。它会作为反馈进入下一轮推理。一句话工具系统是 Agent 的行动层模型负责决策代码负责执行。3. 记忆系统档案室如果只有上下文Agent 执行长任务一定会“失忆”。记忆系统解决的是记住当前任务状态、记住跨任务历史。短期记忆 / 工作记忆放在 Context Window 里存当前任务的中间状态。比如已经搜了什么、发现了什么、下一步要做什么。长期记忆跨任务保存的信息比如用户偏好、历史事实、业务知识。通常用向量数据库、知识图谱或关系库实现。向量数据库Vector Database存向量表示的数据库。常见有 Milvus、Pinecone、Weaviate、Chroma、pgvector。它擅长语义检索不是关键词匹配。Embedding嵌入。把文本、图片等转成高维向量。语义相近的内容向量距离更近。RAGRetrieval-Augmented Generation检索增强生成。先从知识库检索相关内容再交给模型生成。RAG 常被用作长期记忆的一种实现但 RAG 不等于完整 Agent 记忆。检索与 Rerank先粗排召回一批相关记忆再用重排模型精排把最相关的放进上下文。记忆衰减工程上的一大挑战。不是模型参数遗忘而是外部记忆的检索权重随时间降低防止过时信息干扰。常见做法时间衰减、重要性评分、TTL、摘要压缩、定期遗忘。摘要压缩把长对话或长任务历史压缩成摘要节省上下文同时保留关键信息。一句话短期记忆在 Context长期记忆在向量库核心是写入、检索、更新、遗忘。4. 规划模块项目经理面对“帮我写个竞品分析”这种大目标LLM 必须靠规划模块把它拆解成小步骤。任务分解把复杂目标拆成子任务比如搜索、阅读、对比、写报告。DAG有向无环图。任务之间有依赖关系比如“先搜索再总结再写报告”。CoTChain-of-Thought思维链。让模型一步步推理适合线性问题。ToTTree of Thoughts思维树。多分支探索、评估、回溯适合需要尝试多种方案的复杂问题。ReActReason Act边做边想。循环是Thought → Action → Observation → Thought…… 它动态调整适合探索型任务。Plan-and-Execute先定好计划再执行。全局性好适合步骤明确的稳定任务缺点是环境变化时不够灵活。Reflexion反思。任务失败后让模型总结原因写入记忆下一轮改进。重规划执行中发现计划不可行重新调整步骤。实际落地通常是两者结合先做粗略计划执行中用 ReAct 微调。一句话规划模块决定“先做什么、后做什么、做错了怎么改”。5. Orchestrator总控Orchestrator编排器。负责调度 Agent、管理状态、控制循环、处理异常。它管的事情包括当前走到哪一步下一步该让 LLM 决策还是直接调工具工具返回结果后怎么写回记忆什么时候重试什么时候终止出错了怎么降级。没有总控Agent 很容易变成一团乱麻。五、运行闭环ReAct 循环长什么样伪代码while not done: thought llm.think( goaluser_goal, memorymemory.get_context(), toolstool_schemas ) if thought.action: result execute_tool(thought.action, thought.args) # 你的代码执行 memory.add_observation(result) else: return thought.answer关键点模型只输出决策工具由你的代码执行结果变成 ObservationObservation 写回记忆下一轮再决策直到完成或触发终止条件。这就是 Agent 的闭环。没有闭环通常只是 Workflow 或 Chain。六、扩展名词工程落地常被问到Agentic Workflow智能体工作流。介于固定 Workflow 和完全自主 Agent 之间流程有预定义节点但节点内由 LLM 决策。Multi-Agent多 Agent 协作。比如 Planner、Researcher、Coder、Reviewer、Executor。好处是分工坏处是通信成本高、幻觉放大、调试困难。Human-in-the-loop人在回路。关键步骤人工审批比如发邮件、付款、删数据。Guardrails护栏。防止提示注入、越权、数据泄露、危险操作。Tracing / 可观测性记录每一步的 prompt、工具调用、token 消耗、延迟、错误。没有可观测性Agent 就是黑盒。评估指标任务成功率、步骤数、工具调用准确率、成本、延迟、人工干预率。七、常见误区Agent 不是更长的 Prompt。它必须有规划、工具、记忆、闭环。模型不执行工具。模型只生成调用意图执行在你的代码。RAG 不是 Agent 的全部。RAG 是检索增强记忆只是 Agent 一部分。MCP 不是工具是协议。它让工具接入标准化。有工具调用不一定是 Agent。如果流程完全写死那叫 Workflow。多 Agent 不是银弹。单 Agent 工具 记忆往往先跑通更重要。八、总结记住一句话LLM 是大脑工具是手脚记忆是档案规划是项目经理Orchestrator 是神经中枢环境是战场Observation 是反馈。Agent 不是某个单一技术而是一套系统架构。它让大模型从“会聊天”变成“能做事”。