专栏
分享 ai 大模型高频面试题，大厂大模型面试高频问题等回答思路
77 篇文章
按专栏章节顺序连续阅读。
01 Agent 不是插件 很多人第一次理解 AI Agent，会把它等同于“能联网”“能调插件”“能调用函数”。这个说法只说对了一小半。工具调用只是 Agent 的手脚，真正让它像“执行者”的，是目标驱动的自主闭环。...
一、Agent 不是一个模型，而是一套执行系统 很多人一讲 Agent，就容易只想到“大模型 + 工具调用”。这个说法没错，但太浅薄。真正能跑长任务、能查资料、能改状态、能复盘经验的 Agent，至少要有四个核心组件：L...
面试最容易被问懵的问题 面试官问：Workflow、Agent、Tools 这三个概念怎么理解？它们到底有什么区别？ 很多人会下意识回答：Tools 是工具，Agent 会调工具，Workflow 是多个 Agent 串...
一、为什么要学 Agent 设计范式？ 很多人一讲 Agent，就只会说“LLM 自己思考、自己调用工具”。这句话没错，但太粗。真正落到工程里，问题会立刻变成：任务流程要不要固定？下一步由代码决定，还是由模型决定？失败后...
一、ReAct 不是“模型自己循环” ReAct 的核心很简单：让模型在回答复杂问题时，不是一口气把答案吐出来，而是按“思考、行动、观察”的节奏推进任务。它先判断下一步该做什么，再调用工具拿结果，然后把工具结果作为新的上...
从“边想边干”到“先规划再执行”，再到“自我检查修正”的工程落地指南 很多人第一次接触 Agent 范式时，会把 ReAct、Plan-and-Execute、Reflection 当成三个并列方案，然后纠结到底哪个更先...
大模型不是万能工作台。复杂任务如果一次性塞进去，模型会在搜索、分析、写作、校验之间来回跳，最后输出看似完整，实际经不起检查。任务拆分要解决的，就是让 Agent 每一步只专注一件事。 如果把 Agent 比作一个会干活的...
从四层记忆、读写闭环到生产级 Memory Service 架构 很多人一提到 Agent 记忆，就会想到“把聊天记录存起来”。这个理解只对了一小半。真正能落地的记忆系统，不是把历史消息无限塞进上下文，而是把信息分层：哪...
一、Agent 为什么需要记忆？ 没有记忆的 Agent，很像一个“每次见面都重新认识你”的助手。你今天告诉它代码风格要简洁，明天再让它写脚本，它可能又回到默认风格。原因不是模型不聪明，而是它没有把关键偏好沉淀下来。 所...
Multi-Agent 的直观模型：一个调度者，多个专业 Agent 协同完成复杂任务。 面试官问：你了解 Multi-Agent 吗？为什么要用多个 Agent，而不是一个 Agent 直接干到底？ 很多人的第一反应是...
Single-Agent 与 Multi-Agent 的核心差异 很多人第一次做 Agent 系统，最容易犯一个错误：一听到“复杂任务”，马上就想上 Multi-Agent。 但在真实工程里，Agent 不是越多越强。A...
记忆压缩不是“把聊天记录删掉”，而是把低密度历史变成高信号上下文，让 Agent 在有限窗口里继续保持目标、决策和约束的一致性。 做 Agent 的时候，最容易踩的坑不是模型不会回答，而是它聊着聊着开始“忘事”。前面明明...
核心观点：框架适合起步，手写适合掌控。真正成熟的工程方案，不是“框架党”和“手搓党”二选一，而是把 Agent 的核心决策链路掌握在自己手里，把非核心能力交给成熟生态。 01 手搓不是炫技，是为了拿回控制权 做 Agen...
面试官问：“Agent 的反思机制怎么实现？”很多人第一反应是：让模型不满意就重新生成一次。 这个回答只说对了一点点。真正的 Reflection 不是随机重试，而是一个有标准、有反馈、有修改、有停止条件的闭环。它像人写...
多 Agent 系统真正难的不是“多几个角色”，而是让这些角色有秩序地传信息、换任务、收敛结果。 开篇：多 Agent 协作不是“几个 Prompt 互相调用” 很多人讲 Multi-Agent，容易停留在“一个负责搜索...
RAG 的全称是 Retrieval-Augmented Generation，也就是“检索增强生成”。 它不是单纯搜索，也不是把资料重新训练进模型，而是在大模型回答之前，先去外部知识库检索相关内容，再让模型基于这些证据...
RAG 解决的不是“幻觉”一个问题，而是大模型的知识边界问题 知识过期 · 私有知识缺失 · 答案幻觉 · 可追溯生成 · 企业级知识库问答 别把 RAG 说成“让模型更聪明” 很多人介绍 RAG，第一句话就说：RAG...
RAG 和 Fine-tuning 的核心区别 前言：这道题最容易掉进“二选一”的坑 面试官问：RAG 和微调有什么区别？很多人的第一反应是：RAG 是查知识库，微调是训练模型。这个回答没错，但不够。真正能拉开差距的回答...
RAG 的 Chunking 不是简单把文章切碎，而是决定“检索系统能不能刚好找到那一段证据”。切错了，后面再好的向量库、再贵的大模型，也只能在错误材料上努力。 一、文档为什么不能整篇存进向量库？ 很多人第一次做 RAG...
分数线出来的那一刻，几家欢喜几家愁。但接下来这几天，才是最容易拉开差距的时候。 前言 分数线一公布，很多家庭的手机就没停过。亲戚问，老师问，家长群里也在问：过线了吗？能上本科吗？这个分数亏不亏？ 真正懂高考的人都知道，分...
从 Overlap 到语义边界、句子窗口、父子 Chunk、命题化切割与 Contextual Retrieval 文档切割时语义被切断，很多人第一反应是加 overlap，但 overlap 只是兜底。真正的工程答案，...
面试里问 RAG，很多人会把重点放在“向量数据库”和“Prompt 组装”上，却把 Embedding 轻轻带过：文本转向量嘛，调个 API 就行。 这其实是一个很危险的误区。RAG 能不能把正确资料找出来，第一步就卡在...
01｜RAG 里的 Embedding，不是越“聪明”越好，而是越适合检索越好 很多人第一次回答“Embedding 算法有哪些”时，容易只说 Word2Vec 或 BERT。这个回答不算错，但会暴露一个问题：没有把 N...
别把向量数据库理解成“存向量的 MySQL” 很多同学第一次做 RAG，会以为向量数据库只是把 embedding 数组塞进一个字段里，然后再像 MySQL 一样查询。这个理解很容易踩坑：普通数据库擅长的是精确匹配，向量...
从 Chroma Demo 到 Milvus 生产：数据量、性能、瓶颈与调优 核心观点： 向量数据库不是 RAG 的“存储配件”，而是召回质量和线上稳定性的核心基础设施。真正的实战能力，要能讲清楚选型、数据量、索引参数、...
离线阶段把知识库“整理好”，在线阶段把用户问题“查准、排好、拼稳、答得有依据”。RAG 的难点不在“把向量库接上”，而在每一步是否能持续稳定地把正确证据送到模型面前。 一、为什么不能只说“检索 + 生成”？ 很多人第一次...
很多人做 RAG，第一反应是：“我已经把文档向量化了，为什么还是搜不准？” 问题通常不在大模型，而在检索。RAG 的核心不是把所有文档都塞给模型，而是在用户问题进来后，从知识库里找到最能支撑答案的证据。证据找错了，模型再...
Query Rewrite 的核心作用：把“人类表达”变成“检索表达” 一、为什么 RAG 需要 Query Rewrite？ 很多 RAG 项目上线后，最大的问题不是模型不会回答，而是检索阶段就没有把正确资料找回来。用...
从向量检索、BM25、多 Query，到 RRF 融合与 Rerank 精排 一、多路召回解决的是“单一路径漏答案”的问题 在 RAG 系统里，生成答案之前，最关键的一步是把正确证据召回来。很多系统早期只做向量检索：用户...
很多 RAG 项目一开始都像“把文档切块、向量化、Top-K 塞给大模型”。Demo 能跑，线上一问就出问题：用户换个说法检索不到；召回一堆相似片段但真正能回答的没有排到前面；上下文越塞越长，成本上升，答案反而不稳。 真...
一、高级 RAG 不是堆名词，而是让流程会决策 很多人第一次做 RAG，流程都差不多：文档切块、向量化、存进向量库，用户提问后召回 Top-K，再把上下文塞给大模型。这个 Demo 很快能跑起来，但到了生产环境，问题马上...
从单跳召回到多跳关系推理，一文讲清 Graph DB 在 RAG 中的真正价值 一、图数据库不是替代向量检索，而是补“关系推理”短板 普通 RAG 的第一反应是“把问题向量化，然后去向量库里找最相似的文档片段”。这个思路...
从“检索质量门控”到“答案逐条溯源”的生产级方案 一、为什么做了 RAG 还会幻觉？ 很多人以为 RAG 把知识库内容塞进 Prompt，模型就不会乱说。这个理解只对了一半。RAG 的确能降低幻觉，但不能自动消灭幻觉。因...
核心观点：RAG 评估不是给系统打一个“好不好”的主观分，而是把问题拆成检索、生成、线上结果三层，用指标定位问题，用坏样本驱动优化。 一、为什么不能只靠感觉评估 RAG？ 很多团队刚做 RAG 时，最常见的评估方式是人工...
先说结论： 生产级 RAG 的知识库更新，不是“重新跑一遍脚本”，而是围绕 doc_id、content_hash、version_id 和 ACL 建立一套持续同步系统。普通修改最稳的方式是“按文档删除旧 chunk，...
一、RAG 最难的不是搭起来，而是调到可信可用 一个基础 RAG Demo，一两天就能跑起来：把 PDF 读出来，切 chunk，做 embedding，塞进向量库，用户提问时召回几段文本，再交给大模型回答。看起来很完整...
1. Function Calling 到底是什么 Function Calling 不是让大模型自己去联网、查库、发请求。大模型本身并不会直接执行代码，它做的是“决策”：判断当前问题是否需要调用工具，如果需要，就按照开...
前言： • 预训练让模型学会语言，但不会天然学会可执行的工具调用。 • SFT 让模型见过标准工具调用样本，学会按 schema 输出结构化 tool_calls。 • RLHF/RLAIF 让模型学会边界感：该调才调，...
从 SFT 到 RLHF：让模型不仅会调工具，还知道什么时候该调 开篇：模型不是天生会“调工具” 很多人第一次接触 Function Call，会以为模型在预训练时看过很多 API 文档和代码，所以自然就会调用工具。这个...
MCP（Model Context Protocol，模型上下文协议）不是某个模型的插件，也不是 Function Calling 的同义词。它更像 AI 时代的 USB-C 接口：AI 应用不用为 GitHub、数据库...
MCP 由哪几部分组成？一篇讲透组件分工 很多人第一次看 MCP，会把它理解成“AI 调工具”。这个说法没错，但太粗了。因为 MCP 不是单个函数调用能力，而是一套协议：它规定 AI 应用、连接模块、外部服务之间怎么建立...
很多人第一次看到 MCP，会把它理解成 Function Calling 的升级版。这个说法不准确。MCP 和 Function Calling 不是谁淘汰谁，而是解决的问题不在同一层。 更通俗一点：Function C...
开场：这不是二选一，而是看场景 很多人第一次接触 MCP 时，会把它和 Function Calling 放在一起比较：既然两者都能让大模型调用工具，那是不是用了 MCP 就不用 Function Calling 了？这...
说透推理模型、Function Calling 和 MCP 之间的真实关系 开头：这个问题不是“厂商没适配”这么简单 很多人第一次听到这个问题，会下意识回答：可能是模型太新，SDK 还没接好，等更新就行。这个回答只说对了...
先给一个通俗回答 很多人一听到 Skill，就以为它只是“把一段 Prompt 保存起来，下次继续用”。这个理解太浅了。 更准确地说，Agent Skill 是一个可复用的能力包：里面有任务说明、操作流程、脚本、模板、参...
很多人第一次看到 MCP 和 Agent Skill，会觉得它们都在给 Agent 增强能力，所以容易把两者混在一起。其实它们不是一类东西，也不是谁替代谁。MCP 更像工具和数据的标准接口；Skill 更像一份可复用的操...
导语：别再把三者当成三个平行方案 Function Calling、MCP、Skill 都和“让大模型干活”有关，但它们解决的不是同一个问题。把它们混在一起，就很容易出现两个误区：要么觉得有了 MCP 就不需要 Func...
很多人第一次看到 A2A，会下意识把它当成 MCP 的竞品：都是协议，都是 Agent 相关，好像只是换了一套调用格式。这个理解很容易把方向搞反。MCP 关注的是“一个 Agent 怎么接工具和数据源”，A2A 关注的是...
很多人一听 MCP 要让 AI 调工具，就下意识以为它一定用 WebSocket，或者以为它就是普通 HTTP REST。这个理解容易踩坑。MCP 的关键不在于“某一种网络协议”，而在于把消息格式和传输方式拆开：上层统一...
为什么 AI 流式输出常用 SSE，而强交互场景更适合 WebSocket 很多人一听到“实时通信”，第一反应就是 WebSocket。理由也很简单：WebSocket 是双向的，听起来更强。 但做 AI 流式对话时，真...
把 WebRTC 和 WebSocket 的区别讲透 很多人一听到“实时通信”，第一反应就是 WebSocket。做文本聊天、直播弹幕、状态同步，它确实好用。但到了 AI 实时语音、视频通话、低延迟音频交互，WebRTC...
一、为什么需要大模型网关？ 刚开始做 AI 应用时，很多团队都是业务服务直接调用模型 API：客服服务调一个模型，营销服务调一个模型，代码助手再接一个模型。这样做在 Demo 阶段很快，但到了生产环境，问题会集中爆发。...
大语言模型不是“会聊天的机器人”，也不是“参数多一点的 NLP 模型”。它的本质，是一个用海量文本训练出来、能够根据上下文不断预测下一个 token 的生成式模型。 传统 NLP 更像一条流水线：先分词，再做词性标注、实...
一、一句话讲清 Transformer Transformer 是一种处理序列数据的神经网络架构。它最关键的设计是 Self-Attention：让一句话里的每个 token 都能直接和其他 token 建立联系，再按重...
大模型为什么越聊越慢？为什么同样是 Transformer，有的模型能撑长上下文，有的很容易被 KV Cache 卡住？MHA、MQA、GQA、FlashAttention 这几个词经常一起出现，但它们解决的并不是同一个...
Transformer 很强，但它有一个天然短板：Self-Attention 只擅长计算 token 之间的相关性，并不自带“第几个词在前、第几个词在后”的概念。位置编码就是为了解决这个问题。 1. Transform...
很多人第一次接触大模型时，会以为模型是直接“读字”的。其实不是。模型真正处理的是一串数字，这些数字来自 tokenizer 的切分结果。Tokenizer 的价值，就是把人类能读的文本，转换成模型能处理的 token i...
开篇：训练大模型不是简单“喂数据” 很多人第一次理解大模型训练时，会把它想成“把数据塞进去，模型就会回答问题”。这个说法太粗了。真正的大模型训练更像培养一个新人：先让他读大量资料形成基础能力，再给他看标准问答学会工作方式...
大模型为什么越训越强？为什么有些能力像“突然冒出来”？ 开篇：别把 Scaling Law 理解成“越大越好” 很多人一听 Scaling Law，就会下意识理解成“模型参数越多越强”。这句话只说对了一小半。真正影响大模...
很多人第一次接触大模型微调，会把全量微调、LoRA、QLoRA、SFT、DPO、RLHF 全部背成一串名词。真正做项目时，这样理解很容易踩坑。因为这些词不是同一层面的“平行选项”：有些是在说怎么改参数，有些是在说模型要学...
LoRA 到底厉害在哪里？ 很多人第一次接触 LoRA，只记住一句话：它能减少可训练参数，让普通显卡也有机会微调大模型。这个回答没有错，但只说到了表面。 LoRA 真正改变的是微调方式：基础模型不再被整块重写，而是保留原...
面试官问：“SFT 之后还要训练什么？”只回答“RLHF”并不完整。更重要的是讲清楚三件事：谁来判断回答好不好、这个判断怎样变成训练信号、模型最后怎样被更新。 可以把大模型想成一名刚读完很多书的新人。预训练让它见多识广，...
先说结论：DPO 和 PPO 不是“新旧替代关系” DPO 和 PPO 都是在 SFT 之后继续做偏好对齐，让模型不只“能回答”，还更倾向于给出人类认为有帮助、真实、安全、符合场景的回答。它们最大的差别，不是名字里有没有...
解码策略到底是什么？ 大模型不是一次写完整段话，而是每次预测“下一个 token”的概率。解码策略负责从这些候选中选出一个，再把它拼回上下文，继续下一轮。 一句话理解： 模型负责打分，解码策略负责做选择。选择规则不同，最...
同一个模型，为什么每次回答不一样？ 你把同一句话发给大模型，第一次回答很稳，第二次换了个说法，第三次甚至突然跑偏。很多人会把这种差异归因于“模型有随机性”，但真正控制这份随机性的，往往就是 Temperature、Top...
KV Cache 与 Prompt Caching 看起来像两个名词，其实都在解决同一件事：已经算过的内容，不要再算一遍。区别只是前者主要发生在一次生成内部，后者把复用范围扩大到了不同请求之间。 一句话先记住：KV Ca...
很多人对量化的理解，只停在“把模型变小” 一个 7B 模型用 FP16 保存，理论上仅权重就接近 14GB；换成 4-bit，权重理论体积约为 3.5GB。看起来只是“少占显存”，但真正难点在后半句：模型参数原本是连续浮...
写好 Prompt，不是把话说得更长 很多人把 Prompt 工程理解成“寻找一句神奇口令”。实际项目里，真正决定稳定性的不是口号，而是把任务边界、上下文、输出协议和验收方法写清楚。模型只能根据当前输入推断你的意图；没有...
CoT，不只是“让模型一步步思考” 很多人第一次接触 Chain-of-Thought（CoT，思维链），会把它理解成一句提示词： “请一步步思考。” 这句话确实可能有效，但它只说到了表面。真正重要的是：为什么把中间步骤...
从根因、检测到 RAG 校验与工程治理 开场：最危险的不是模型答错，而是它错得像真的 大模型可以写出语法流畅、结构完整、语气自信的答案。但“语言像专家”不代表“事实来自可靠证据”。当模型编造一个不存在的论文、把时间和人物...
参数越大，为什么每次计算反而可以更省？ 看到 DeepSeek-V3 的“671B 总参数、每个 token 激活 37B”时，很多人的第一反应是：这不是自相矛盾吗？模型明明有 6710 亿参数，为什么推理时只算 370...
一、部署框架解决的不是“能不能跑”，而是“能不能扛流量” 直接调用 Transformers 的 generate()，很适合验证模型是否能工作，却不等于具备生产服务能力。在线请求的长度、到达时间和生成长度都不一样，朴素...
评测不是“看榜单”，而是回答三个问题 当团队准备换模型、改 Prompt、升级 RAG 或引入 Agent 时，最容易犯的错误是打开排行榜，挑一个分数最高的模型，然后直接上线。排行榜能告诉你模型大概处于什么能力区间，却不...
从“会回答”到“能完成任务”，真正变化的是系统架构，而不只是换了一个更聪明的模型。 一句话定义 Agent 是一个由大模型驱动、能够在循环中读取状态、选择工具、执行动作并根据结果继续决策的系统。它不是单次 Functio...
RAG 不是“把文档塞进向量库”这么简单 很多团队第一次做 RAG，会把流程理解为：文档切块、生成 Embedding、存入向量数据库、检索 Top-K、交给大模型回答。这个流程能跑通 Demo，却很难直接支撑企业知识库...
传统 RAG 擅长寻找相似段落，但面对跨文档关系、复杂事件链和全库主题总结时，经常出现“每一段都找到了，却没有把它们连起来”的问题。GraphRAG 与 LightRAG 都试图解决这个缺口，但两者并不是同一个方案的轻重...
Harness Engineering：为什么模型很强，Agent 还是经常做不稳？ 过去，大家遇到 AI 输出不理想，第一反应是把提示词再写长一点；Agent 出现后，工程师又开始研究怎样把检索结果、记忆和工具说明塞进...
