专栏
40 章讲透模型调用、Prompt、RAG、Tools、Agent、Memory、LangGraph、LangSmith 与企业级落地。
34 篇文章
按专栏章节顺序连续阅读。
一、为什么很多人调通了大模型 API，却做不出真正的 AI 应用？ 现在调用一个大模型已经很简单。你只要拿到 API Key，写几行代码，就可以让模型回答问题。Demo 阶段看起来很顺利：用户输入一句话，模型返回一段文字...
上一篇我们讲了 LangChain 到底是什么。 这一章继续往下拆：LangChain 不是一个单点工具，而是一套组件体系。你可以把它想成一条 AI 应用生产线：前面接用户问题，中间接模型、知识库和业务系统，后面接结构化...
这一章讲清楚 LangChain 模型层的核心：Chat Model。它就像一个“统一插座”，让业务系统用同一套接口去调用 OpenAI、Claude、Gemini、Qwen、DeepSeek、Ollama 等不同模型。...
大模型对话不是“字符串输入、字符串输出”这么简单。真正进入模型上下文的，是一组带角色、内容和元数据的消息列表。 1. Messages 是大模型对话的骨架 很多人刚学 LangChain，会把模型调用理解成：我给模型一段...
从模板语法、ChatPromptTemplate、MessagesPlaceholder 到源码级执行链路 一、为什么 Prompt 不能一直写在代码里？ 很多人刚接触大模型应用时，第一反应是：不就是把一句话发给模型吗？...
01 先把问题讲透：为什么需要结构化输出？ 大模型最擅长的是“像人一样说话”。这也是它最大的问题。人能看懂一段话，系统不一定能看懂。系统要的是字段、类型、枚举、范围、布尔值、数组。不是一段情绪饱满的解释。 比如用户问：“...
大模型很强。它会写代码，会总结，会分析，会对话。 但它有三个硬伤：不知道你的私有数据，训练知识会过期，上下文窗口也不是无限大。 RAG 就是为了解决这三个问题。它不是让模型重新训练一次，也不是把所有资料都塞给模型。它的核...
一、Loader 是 RAG 的入口，不是普通文件读取 很多人第一次用 LangChain 做知识库，代码通常是这样的： loader = PyPDFLoader("产品手册.pdf") docs = loader.lo...
一、前言 Document Loader 只是把资料读进来。Text Splitter 才决定这些资料怎么进入知识库。 切分太大，检索像大海捞针。切分太小，语义被切碎。一个好的 Chunk，要能被召回，也要能独立表达完整...
Embedding 不是可有可无的组件，它是 RAG 的地基。地基歪了，后面 Retriever、Rerank、Prompt 再漂亮也救不回来。 一、Embedding 到底是什么？ Embedding，就是把一段文字变...
1、Vector Store 不是普通数据库 普通数据库更擅长精确匹配。你查订单号，它能准。你查用户 ID，它也能准。 但 RAG 场景不是这么问的。用户不会说“我要第 32 页第 5 段”。用户只会问：“合同里违约责任...
01 前言 Retriever 是 RAG 的入口。它接收一个 query，返回一组 List[Document]。模型不是先出场，资料先出场。 前面几章我们讲了 Loader、Splitter、Embedding、Ve...
RAG 最容易踩的坑，不是“没有召回”。 而是召回了一堆看起来相关、实际会干扰模型的资料。 所以，成熟的 RAG 链路不会把 TopK 直接塞进 Prompt。 它会先召回，再重排，再压缩。 1. 为什么召回 TopK...
这一章不再单讲一个组件，而是把前面所有 RAG 组件合起来：从文件上传，到向量入库，再到用户提问、检索证据、模型回答、日志追踪。 01 先搞清楚：企业知识库问答不是 Demo Demo 只要能回答。企业系统要能上传、能解...
前面几章，我们把 RAG 的底层链路讲完了：文档进来，切分，向量化，入库，检索，重排，最后把上下文交给模型。 但这还不够。 RAG 让模型会“查资料”。Tools 让模型能“办事情”。 没有 Tools，大模型只是一个会...
一、模型不会真的调用工具 很多人第一次看 Tool Calling，会以为模型自己会查数据库、调接口、执行函数。错。模型没有直接执行你代码的权限。它能做的，是看懂你给它的工具说明，然后输出一段结构化数据。 这段结构化数据...
01 Agent 到底是什么？ 普通大模型，只会回答。Agent 不一样，它可以先判断，再行动，再根据结果继续判断。 一句话：Agent = 会使用工具的大模型循环。 用户问“帮我分析这只股票今天为什么涨”，普通问答可能...
1. 前言 前面几章，我们讲了 Tools、Tool Calling、Agent Loop。现在进入新版 LangChain Agent 的入口：create_agent。 它是新式 Agent 的总装厂。你把 mode...
1. Agent 不是员工，是实习生 Agent 能规划，能调用工具，能连续执行。 这很强。也很危险。 因为模型会犯错。它可能调错工具，填错参数，误解返回值，重复调用接口，甚至尝试执行高风险动作。 所以生产级 Agent...
1. 前言 Agentic RAG 的核心，不是把 RAG 写得更复杂。 它只是把“检索知识库”这件事，从固定步骤，变成 Agent 可以选择调用的工具。 普通 RAG：用户一问，系统就查。Agentic RAG：用户一...
记忆不是“多带几轮聊天记录”。记忆是一个可读、可写、可压缩、可持久化的上下文系统。 1. 记忆不是历史消息 很多人第一次做多轮对话，会把历史消息全部拼进 Prompt。刚开始没问题。聊十轮、二十轮以后，问题就来了：上下文...
1. 短期记忆到底是什么？ Short-term Memory = 当前 thread 内的状态保存。它让 Agent 在同一段会话里记住前面发生过什么。 LangChain 官方把短期记忆叫做 thread-level...
1. 长期记忆到底是什么？ 短期记忆解决“这轮对话怎么接上”。长期记忆解决“这个用户下次再来，我还认不认识他”。 在 LangChain / LangGraph 里，短期记忆通常跟 thread 绑定；长期记忆放在 St...
一、Prompt 只是入口，上下文才是现场 很多人做 AI 应用，第一反应是改 Prompt。 但线上 Agent 出错，往往不是 Prompt 写得不够玄，而是模型看到的上下文不对。 一句话讲透 Context Eng...
一、LangGraph 不是更花哨，而是更可控 简单 Agent，靠一个模型循环调用工具就够。 复杂 Agent，不能只靠模型自由发挥。 因为真实业务不是聊天。真实业务有流程、有状态、有分支、有审批、有失败恢复。 Lan...
01 先用一句话讲透 LangGraph LangGraph 不是把组件用竖线连起来。它把一个复杂 Agent 变成一张图。 图里有三个核心角色：State、Node、Edge。State 保存当前任务的全部关键状态。N...
智能客服不是把模型接到聊天框里，而是把“识别、检索、工具、质检、转人工、留痕”串成一张可控的图。 前面我们已经讲了 LangGraph 的基础。现在进入实战：用 LangGraph 搭一个智能客服 Agent。 1. 智...
前面几章我们已经把 Agent、Tool、LangGraph 都讲完了。现在要补上最关键的一环：人工介入。 没有 HITL 的 Agent，很像没有刹车的自动驾驶。它能跑，也可能跑得很快，但真正上线会让人害怕。 企业里最...
Agent 想上线，必须有 Middleware。它不是锦上添花，而是生产系统的安全带。 01 Middleware 是 Agent 的“拦截器” 裸 Agent 的逻辑很简单：模型思考，决定调工具，工具返回，模型继续。...
在普通接口里，后端必须等模型、工具、RAG、Agent 全部跑完，才能一次性返回。用户看到的是空白。 在流式接口里，模型 token、工具进度、节点状态、人工中断、最终结果，都可以一段一段推给前端。用户知道系统还活着，也...
开篇：Agent 能跑起来，不等于能上线 前面我们已经讲了 Tools、Agent、Memory、LangGraph、Middleware 和 Streaming。到这里，很多人会以为：Agent 跑起来了，项目就完成了...
开篇：AI 应用没有日志，就是黑盒 大模型应用最怕的不是慢，也不是贵。最怕的是：用户说答案错了，你不知道错在哪。 普通业务系统出了问题，看接口日志、SQL 日志、异常堆栈，大多能定位。但大模型应用不一样。一次回答背后可能...
AI 应用上线，最怕一句话：我感觉效果还行。 一、为什么必须做评测？ 大模型应用和普通后端服务不一样。普通接口只要输入一样，结果基本稳定。大模型不一样，它会受模型版本、Prompt、检索结果、上下文顺序、工具返回、温度参...
Demo 能跑，不代表生产能扛。上线之后，真正考验的是成本控制、故障恢复和工程治理。 一、上线不是“模型更强”，而是“系统更稳” 很多大模型项目，演示时很惊艳，上线后很狼狈。不是模型不行，而是工程没有兜住。用户一多，问题...