LangChain 概述
1.为什么需要 Langchain1.1 从传统应用到智能体时代PC 时代是网页移动时代是AppAI 时代是智能应用 / 智能体 Agent而 LangChain 就是用来开发 AI 智能应用的工具链1.2 单一大语言模型的局限性直接调用一个大模型它很聪明但有三个天生的短板知识受限于训练数据大模型的知识截止于训练数据的时间点无法获取当下最新数据。比如你问它昨天的新闻、公司最新的财报它不知道 —— 因为它被关在训练那一刻的 时间胶囊 里。无法直接与外部系统交互无法主动查询数据库调用API读取数据库访问互联网和外部应用只能输出文字。像一个被关在玻璃罩里的聪明人 —— 看得见摸不着。不具备状态保持能力不具备上下文记忆的能力LangChain 存在的意义就是给这个 聪明但受限 的大模型装上三样东西外接知识库RAG、动手的工具Tools/Agent、以及上下文记忆Memory1.3 LangChain 框架定位LangChain定位LangChain 作为大模型和应用层之间的中间层开发框架解决原生 LLM 知识、交互、记忆三大短板核心定位有3点打通大模型与外部资源统一接口对接数据库、检索引擎、API、文件系统等解决知识问题封装底层复杂逻辑抽象工具调用、记忆等能力降低智能体开发难度解决交互记忆问题支撑多智能体协作依托 LangGraph 等生态从单智能体拓展至多智能体协作可构建工业 级智能体1.4 LangChain应用场景围绕补知识、接工具、加记忆 三大能力LangChain 已经形成了六大成熟应用场景1.RAG 检索增强生成痛点解决大模型知识滞后和幻觉问题功能检索外部知识库文档/数据库并向量化让模型基于最新、最相关的资料回答应用构建企业知识库并将其接入大模型让 AI 基于知识库内容回答问题不再胡说八道也不用每次更新知识就重新训练模型2.Agent 智能体痛点解决 LLM 无法直接执行复杂任务的问题功能 将模型作为“推理引擎”自主规划路径并动态调用外部工具 实现复杂任务应用让大模型自己思考下一步该做什么、调用哪个工具 —— 比如你说 帮我订明天去北京的机票Agent 会自动查航班、比对价格、完成预订而不是只给你一段文字建议3.对话系统和聊天机器人痛点解决多轮对话中的“记忆”流失问题功能集成记忆管理系统记住用户偏好和历史交互并结合私有数据如教育教材、订单库提供专业服务应用给聊天机器人加上记忆和业务数据对接能力做到多轮对话上下文不断线还能查订单、查教材变成真正能用的客服 / 助手4.多模态应用痛点跨越单一文本交互的限制功能融合图像识别、语音转文字等技术让模型具备处理音视频和图片的综合推理能力应用图片识别、语音转写、文字处理、语音合成一条龙做能看能听能说的 AI 应用5.内容自动生成痛点解决生成内容格式不标准、质量不稳定的问题功能配合提示词模板Templates与输出解析器Parsers自动产出规范的报告、合同或 邮件应用从业务系统取数据套模板自动输出法律文书、周报、合同解决大模型输出格式不稳定的问题6.数据连接与处理痛点解决非结构化数据难以被模型直接利用的问题功能 强大的数据连接能力使大模型能够与各种数据源和结构化数据交互。比如从 PDF、Excel 中提取关键信息或实现自然语言与 SQL 的自动转换应用读 PDF、读 Excel、自动写 SQL 查数据库、生成可视化报告 —— 把大模型变成一个能直接操作企业数据的分析师1.5 大模型相关岗位AI 大模型完整技术栈分为 5 层本专栏 LangChain 开发聚焦最上层「应用与 Agent 层」对应岗位大模型与 Agent 应用开发工程师1. 算力与 Infra 基础设施层内容GPU/NPU 算力集群、K8s、Docker、Dify 部署等底层平台对应岗位大模型运维、Infra 工程师职责负责硬件资源调度、容器化、模型服务部署保障模型稳定运行2. 数据治理层内容结构化 / 非结构化数据、数据清洗、标注、数据接口对应岗位数据开发 / 清洗工程师职责采集、清洗、标注高质量数据是大模型训练、RAG 知识库的原料来源3. Model Foundation 通用基座大模型层内容文心一言、通义千问、ChatGPT、豆包等通用基础大模型Ollama、LocalAI 本地推理引擎对应岗位大模型基座开发 / 优化工程师职责基座模型预训练、推理加速、底层模型能力优化。4. 行业 / 多模态层内容面向制造、医疗、金融、电商的行业大模型文本、图像、音视频多模态模型对应岗位大模型微调 / 算法工程师职责基于通用基座做行业微调开发多模态能力让模型适配垂直领域。5. 应用与Agent层内容B 端智能制造、智能客服、C 端AI 问答、文生图、G 端城市大脑业务 Agent 编排LangChain、LangGraph、多智能体 Multi-Agent 系统 典型 Agent代码助手、工作流自动化、简历筛选助手对应岗位大模型与 Agent 应用开发工程师C端应用面向普通个人消费者比如AI问答文生图/文生视频AI翻译个人简历助手等应用B端应用面向企业组织解决企业业务效率问题比如电商平台的AI客服工厂里的AI助手企业内部文档助手G端应用面向政府机构解决政务效率问题比如城市大脑智慧交通在线业务2.LangChain 是什么2.1 LangChain 发展时间线第1阶段诞生2022年10月创始人哈佛大学的机器学习项目工程师 哈里森·蔡斯项目在 ChatGPT 发布前一个月开源名称来自Language语言模型 Chain链式连接核心思想把大模型和外部数据、工具连接起来最初只有两大基础组件LLM 抽象层 Chain 链式调用初期只是个人开源小项目关注度很低第2阶段爆发增长期2022 年底 — 2023 全年GitHub Star 快速飙升也就是图里曲线陡峭上升的一段陆续完善核心模块Prompt 模板、Memory 记忆、Tool 工具调用、RAG 检索增强、Agent 智能体推出 LangSmith调试 / 观测平台、LangHub 提示词仓库生态快速扩大2023 年 4 月完成融资公司化运营大量开发者用 LangChain 开发知识库问答、企业 AI 助手第3阶段架构重构期2024 年初发布 v0.1.0重大架构拆分拆出 langchain-core 核心包、langchain-community 社区组件包推出 LCEL LangChain 表达式语言支持声明式链式编写正式发布 LangGraph从简单线性 Chain升级为支持循环、分支、状态持久化的图式工作流专门用来开发复杂 Agent、多智能体系统推出 LangServe方便把 LangChain 应用快速部署成 API 服务第4阶段Agent 成熟生态期2024 下半年至今正式推出 Deep Agent官方定位为Agent Harness智能体执行框架在LangGraph 和 LangChain 之上运行标志着LangChain 生态进入新阶段让开发者可构建基于多智能体的复杂化智能 体系统框架稳定性持续提升成为企业落地 RAG、Agent 应用的主流开发框架GitHub Star 持续稳步上涨就是图右侧平缓向上的曲线2.2 Langchain v1.2主要模块LangChain 2024 架构拆分core 为轻量核心社区 / OpenAI 等供应商包独立维护langgraph 负责 Agent 编排classic 向后兼容旧版代码。langchain-core官方推荐的核心API比如 Runnable, BaseMessage等langchain-classic冗余代码移或不推荐使用的经典API移到此比如0.x中常用而1.x移除的API都 在这里langchain-community第三方集成比如合作伙伴包 langchain-openailangchain anthropic等按需安装、避免臃肿langgraph深度整合 LangGraph 1.0协调多个ChainAgentTools完成更复杂的任务并 且还支持循环调用是langchain图形化的增强版想要关注更多API可访问官方文档 LangChain - Python API Reference | LangChain Reference2.3 API文档官网 LangChain: the open agent platform to own your intelligenceGithub地址 LangChain中文文档地址 LangChain 概述 - LangChain 文档 - LangChain 教程英文文档地址 LangChain overview - Docs by LangChainAPI文档查询地址 langchain | LangChain Reference3.LangChain 家族四大支柱截至2025年11月LangChain 已从一个独立的开发框架成长为一个覆盖智能体系统全生命周期的技术生态。该生态由四大核心支柱构成LangChain 、 LangGraph 、 Deep Agent 与LangSmith1. 基础能力层LangChain积木化基础组件大模型连接、工具调用、数据加载、向量库、提示词模板等作用给上层提供最基础能力单元是 RAG、简单链式应用的基石2. 运行时编排层LangGraph负责状态管理、分支判断、循环流程、多智能体协作区别于旧版线性 Chain不再是单向顺序执行可以让 Agent 反复思考、循环调用工具适合复杂任务3. 智能体抽象层Deep Agent更高阶封装核心能力复杂任务拆解、自主决策接收用户的大目标自动拆成多个子任务自主判断下一步动作是 Agent “思考” 的顶层抽象4. 监控与评估层LangSmith项目上线后的观测平台能力应用监控、性能评估、问题调试可以追踪每一轮大模型调用日志、查看输入输出、评估回答质量定位幻觉、调用失败等问题持续迭代优化应用上三层框架不是竞争关系并非互斥复杂项目完全可以同时应用到这三层4.大模型应用场景介绍大模型应用技术特点门槛低天花板高4.1 RAG开发4.1.1 背景大模型的知识受限于训练数据随着 LLM 规模扩大训练成本与周期相应增加模型无法实时学习到最新的信息或动态变化导致 LLM 难以应对诸如“请推荐现在的热门影片”等时间敏感的问题。大模型幻觉涉及到大模型从未在训练过程中学习过的信息时大模型无法给出准确的答复转而开始臆想和编造答案4.1.2 何为RAGRAGRetrieval-Augmented Generation检索增强生成RAG操作过程图1检索-增强-生成过程检索可以理解为第10步增强理解为第13步这里的提示词包含检索到的数 据生成理解为第15步图2这些过程中的难点文件解析文件切割知识检索知识重排序文件解析如果是pdf内部包含文件、图片、表格图片上还有文字需要处理。文件切割没有固定的格式知识重排序在 RAG 应用中随着文档数量增加召回准确率会下降引入reranker重排器可对初步召回的较多 chunk如 top 20 或 top 50进行精排提高召回准确率防止LLM 处理无关信息减少时间和成本。此外与基于基本矢量搜索的 RAG 相比reranker 增强型 RAG 的成本更高但与仅依靠LLM 生成答案相比它的成本低些reranker使用场景适合追求回答高精度和高相关性的场景中特别适合使用 Reranker例如专业知识库或者客服不适合引入 reranker 会增加召回时间增加检索延迟。服务对响应时间要求高时使用 reranker可能不合适4.2 Agent开发Agent 智能体充分利用 LLM 的推理决策能力通过增加规划、记忆和工具调用的能力构造一个能够独立思考、逐步完成给定目标的 Agent智能体现代 Agent 架构一个数学公式来表示Agent LLM Planning Tools Memory ActionAgent 核心要素被细化为以下模块LLM大语言模型提供推理、规划和知识理解能力是AI Agent的决策中枢规划决策Planning通过任务分解、反思与自省框架实现复杂任务处理例如利用思维链 Chain of Thought将目标拆解为子任务并通过反馈优化策略工具使用Tools调用外部工具如API、数据库扩展能力边界记忆Memory短期记忆存储单次对话周期的上下文信息属于临时信息存储机制受限于模型的上下文窗口长度长期记忆可以横跨多个会话或时间周期可存储并调用核心知识非即时任务。比如关于用户的偏好过去执行过的指令等行动Action实际执行决策的模块涵盖软件接口操作如自动订票和物理交互如机器人执行搬运比如检索、推理、编程等。4.3 大模型应用开发的4个场景4.3.1 场景1纯 PromptPrompt是操作大模型的唯一接口当人看你说一句ta回一句你再说一句ta再回一句..4.3.2 场景2Agent Function Calling函数调用AgentAI 主动提要求Function Calling需要对接外部系统时AI 要求执行某个函数当人看你问 ta「我明天去杭州出差要带伞吗」ta 让你先看天气预报你看了告诉tata 再告诉你要不要带伞4.3.3 场景3RAGRAG需要补充领域知识时使用Embeddings把文字转换为更易于相似度计算的编码这种编码叫向量向量数据库把向量存起来方便查找向量搜索根据输入向量找到最相似的向量举例考试答题时到书上找相关内容再结合题目组成答案4.3.4 场景4Fine-tuning微调微调在预训练大模型基础上用自己的标注数据继续训练修改模型内部参数把知识 / 风格内化进模型本身举例努力学习考试内容长期记住活学活用特点成本最高通常在上述场景解决不了问题的情况下再使用4.4 如何选择相关技术面对一个需求如何开始如何选择技术方案以下是常用思路