专栏
分享 ai 大模型高频面试题,大厂大模型面试高频问题等回答思路
62 篇文章
按专栏章节顺序连续阅读。
01 Agent 不是插件 很多人第一次理解 AI Agent,会把它等同于“能联网”“能调插件”“能调用函数”。这个说法只说对了一小半。工具调用只是 Agent 的手脚,真正让它像“执行者”的,是目标驱动的自主闭环。...
一、Agent 不是一个模型,而是一套执行系统 很多人一讲 Agent,就容易只想到“大模型 + 工具调用”。这个说法没错,但太浅薄。真正能跑长任务、能查资料、能改状态、能复盘经验的 Agent,至少要有四个核心组件:L...
面试最容易被问懵的问题 面试官问:Workflow、Agent、Tools 这三个概念怎么理解?它们到底有什么区别? 很多人会下意识回答:Tools 是工具,Agent 会调工具,Workflow 是多个 Agent 串...
一、为什么要学 Agent 设计范式? 很多人一讲 Agent,就只会说“LLM 自己思考、自己调用工具”。这句话没错,但太粗。真正落到工程里,问题会立刻变成:任务流程要不要固定?下一步由代码决定,还是由模型决定?失败后...
一、ReAct 不是“模型自己循环” ReAct 的核心很简单:让模型在回答复杂问题时,不是一口气把答案吐出来,而是按“思考、行动、观察”的节奏推进任务。它先判断下一步该做什么,再调用工具拿结果,然后把工具结果作为新的上...
从“边想边干”到“先规划再执行”,再到“自我检查修正”的工程落地指南 很多人第一次接触 Agent 范式时,会把 ReAct、Plan-and-Execute、Reflection 当成三个并列方案,然后纠结到底哪个更先...
大模型不是万能工作台。复杂任务如果一次性塞进去,模型会在搜索、分析、写作、校验之间来回跳,最后输出看似完整,实际经不起检查。任务拆分要解决的,就是让 Agent 每一步只专注一件事。 如果把 Agent 比作一个会干活的...
从四层记忆、读写闭环到生产级 Memory Service 架构 很多人一提到 Agent 记忆,就会想到“把聊天记录存起来”。这个理解只对了一小半。真正能落地的记忆系统,不是把历史消息无限塞进上下文,而是把信息分层:哪...
一、Agent 为什么需要记忆? 没有记忆的 Agent,很像一个“每次见面都重新认识你”的助手。你今天告诉它代码风格要简洁,明天再让它写脚本,它可能又回到默认风格。原因不是模型不聪明,而是它没有把关键偏好沉淀下来。 所...
Multi-Agent 的直观模型:一个调度者,多个专业 Agent 协同完成复杂任务。 面试官问:你了解 Multi-Agent 吗?为什么要用多个 Agent,而不是一个 Agent 直接干到底? 很多人的第一反应是...
Single-Agent 与 Multi-Agent 的核心差异 很多人第一次做 Agent 系统,最容易犯一个错误:一听到“复杂任务”,马上就想上 Multi-Agent。 但在真实工程里,Agent 不是越多越强。A...
记忆压缩不是“把聊天记录删掉”,而是把低密度历史变成高信号上下文,让 Agent 在有限窗口里继续保持目标、决策和约束的一致性。 做 Agent 的时候,最容易踩的坑不是模型不会回答,而是它聊着聊着开始“忘事”。前面明明...
核心观点:框架适合起步,手写适合掌控。真正成熟的工程方案,不是“框架党”和“手搓党”二选一,而是把 Agent 的核心决策链路掌握在自己手里,把非核心能力交给成熟生态。 01 手搓不是炫技,是为了拿回控制权 做 Agen...
面试官问:“Agent 的反思机制怎么实现?”很多人第一反应是:让模型不满意就重新生成一次。 这个回答只说对了一点点。真正的 Reflection 不是随机重试,而是一个有标准、有反馈、有修改、有停止条件的闭环。它像人写...
多 Agent 系统真正难的不是“多几个角色”,而是让这些角色有秩序地传信息、换任务、收敛结果。 开篇:多 Agent 协作不是“几个 Prompt 互相调用” 很多人讲 Multi-Agent,容易停留在“一个负责搜索...
RAG 的全称是 Retrieval-Augmented Generation,也就是“检索增强生成”。 它不是单纯搜索,也不是把资料重新训练进模型,而是在大模型回答之前,先去外部知识库检索相关内容,再让模型基于这些证据...
RAG 解决的不是“幻觉”一个问题,而是大模型的知识边界问题 知识过期 · 私有知识缺失 · 答案幻觉 · 可追溯生成 · 企业级知识库问答 别把 RAG 说成“让模型更聪明” 很多人介绍 RAG,第一句话就说:RAG...
RAG 和 Fine-tuning 的核心区别 前言:这道题最容易掉进“二选一”的坑 面试官问:RAG 和微调有什么区别?很多人的第一反应是:RAG 是查知识库,微调是训练模型。这个回答没错,但不够。真正能拉开差距的回答...
RAG 的 Chunking 不是简单把文章切碎,而是决定“检索系统能不能刚好找到那一段证据”。切错了,后面再好的向量库、再贵的大模型,也只能在错误材料上努力。 一、文档为什么不能整篇存进向量库? 很多人第一次做 RAG...
分数线出来的那一刻,几家欢喜几家愁。但接下来这几天,才是最容易拉开差距的时候。 前言 分数线一公布,很多家庭的手机就没停过。亲戚问,老师问,家长群里也在问:过线了吗?能上本科吗?这个分数亏不亏? 真正懂高考的人都知道,分...
从 Overlap 到语义边界、句子窗口、父子 Chunk、命题化切割与 Contextual Retrieval 文档切割时语义被切断,很多人第一反应是加 overlap,但 overlap 只是兜底。真正的工程答案,...
面试里问 RAG,很多人会把重点放在“向量数据库”和“Prompt 组装”上,却把 Embedding 轻轻带过:文本转向量嘛,调个 API 就行。 这其实是一个很危险的误区。RAG 能不能把正确资料找出来,第一步就卡在...
01|RAG 里的 Embedding,不是越“聪明”越好,而是越适合检索越好 很多人第一次回答“Embedding 算法有哪些”时,容易只说 Word2Vec 或 BERT。这个回答不算错,但会暴露一个问题:没有把 N...
别把向量数据库理解成“存向量的 MySQL” 很多同学第一次做 RAG,会以为向量数据库只是把 embedding 数组塞进一个字段里,然后再像 MySQL 一样查询。这个理解很容易踩坑:普通数据库擅长的是精确匹配,向量...
从 Chroma Demo 到 Milvus 生产:数据量、性能、瓶颈与调优 核心观点: 向量数据库不是 RAG 的“存储配件”,而是召回质量和线上稳定性的核心基础设施。真正的实战能力,要能讲清楚选型、数据量、索引参数、...
离线阶段把知识库“整理好”,在线阶段把用户问题“查准、排好、拼稳、答得有依据”。RAG 的难点不在“把向量库接上”,而在每一步是否能持续稳定地把正确证据送到模型面前。 一、为什么不能只说“检索 + 生成”? 很多人第一次...
很多人做 RAG,第一反应是:“我已经把文档向量化了,为什么还是搜不准?” 问题通常不在大模型,而在检索。RAG 的核心不是把所有文档都塞给模型,而是在用户问题进来后,从知识库里找到最能支撑答案的证据。证据找错了,模型再...
Query Rewrite 的核心作用:把“人类表达”变成“检索表达” 一、为什么 RAG 需要 Query Rewrite? 很多 RAG 项目上线后,最大的问题不是模型不会回答,而是检索阶段就没有把正确资料找回来。用...
从向量检索、BM25、多 Query,到 RRF 融合与 Rerank 精排 一、多路召回解决的是“单一路径漏答案”的问题 在 RAG 系统里,生成答案之前,最关键的一步是把正确证据召回来。很多系统早期只做向量检索:用户...
很多 RAG 项目一开始都像“把文档切块、向量化、Top-K 塞给大模型”。Demo 能跑,线上一问就出问题:用户换个说法检索不到;召回一堆相似片段但真正能回答的没有排到前面;上下文越塞越长,成本上升,答案反而不稳。 真...
一、高级 RAG 不是堆名词,而是让流程会决策 很多人第一次做 RAG,流程都差不多:文档切块、向量化、存进向量库,用户提问后召回 Top-K,再把上下文塞给大模型。这个 Demo 很快能跑起来,但到了生产环境,问题马上...
从单跳召回到多跳关系推理,一文讲清 Graph DB 在 RAG 中的真正价值 一、图数据库不是替代向量检索,而是补“关系推理”短板 普通 RAG 的第一反应是“把问题向量化,然后去向量库里找最相似的文档片段”。这个思路...
从“检索质量门控”到“答案逐条溯源”的生产级方案 一、为什么做了 RAG 还会幻觉? 很多人以为 RAG 把知识库内容塞进 Prompt,模型就不会乱说。这个理解只对了一半。RAG 的确能降低幻觉,但不能自动消灭幻觉。因...
核心观点:RAG 评估不是给系统打一个“好不好”的主观分,而是把问题拆成检索、生成、线上结果三层,用指标定位问题,用坏样本驱动优化。 一、为什么不能只靠感觉评估 RAG? 很多团队刚做 RAG 时,最常见的评估方式是人工...
先说结论: 生产级 RAG 的知识库更新,不是“重新跑一遍脚本”,而是围绕 doc_id、content_hash、version_id 和 ACL 建立一套持续同步系统。普通修改最稳的方式是“按文档删除旧 chunk,...
一、RAG 最难的不是搭起来,而是调到可信可用 一个基础 RAG Demo,一两天就能跑起来:把 PDF 读出来,切 chunk,做 embedding,塞进向量库,用户提问时召回几段文本,再交给大模型回答。看起来很完整...
1. Function Calling 到底是什么 Function Calling 不是让大模型自己去联网、查库、发请求。大模型本身并不会直接执行代码,它做的是“决策”:判断当前问题是否需要调用工具,如果需要,就按照开...
前言: • 预训练让模型学会语言,但不会天然学会可执行的工具调用。 • SFT 让模型见过标准工具调用样本,学会按 schema 输出结构化 tool_calls。 • RLHF/RLAIF 让模型学会边界感:该调才调,...
从 SFT 到 RLHF:让模型不仅会调工具,还知道什么时候该调 开篇:模型不是天生会“调工具” 很多人第一次接触 Function Call,会以为模型在预训练时看过很多 API 文档和代码,所以自然就会调用工具。这个...
MCP(Model Context Protocol,模型上下文协议)不是某个模型的插件,也不是 Function Calling 的同义词。它更像 AI 时代的 USB-C 接口:AI 应用不用为 GitHub、数据库...
MCP 由哪几部分组成?一篇讲透组件分工 很多人第一次看 MCP,会把它理解成“AI 调工具”。这个说法没错,但太粗了。因为 MCP 不是单个函数调用能力,而是一套协议:它规定 AI 应用、连接模块、外部服务之间怎么建立...
很多人第一次看到 MCP,会把它理解成 Function Calling 的升级版。这个说法不准确。MCP 和 Function Calling 不是谁淘汰谁,而是解决的问题不在同一层。 更通俗一点:Function C...
开场:这不是二选一,而是看场景 很多人第一次接触 MCP 时,会把它和 Function Calling 放在一起比较:既然两者都能让大模型调用工具,那是不是用了 MCP 就不用 Function Calling 了?这...
说透推理模型、Function Calling 和 MCP 之间的真实关系 开头:这个问题不是“厂商没适配”这么简单 很多人第一次听到这个问题,会下意识回答:可能是模型太新,SDK 还没接好,等更新就行。这个回答只说对了...
先给一个通俗回答 很多人一听到 Skill,就以为它只是“把一段 Prompt 保存起来,下次继续用”。这个理解太浅了。 更准确地说,Agent Skill 是一个可复用的能力包:里面有任务说明、操作流程、脚本、模板、参...
很多人第一次看到 MCP 和 Agent Skill,会觉得它们都在给 Agent 增强能力,所以容易把两者混在一起。其实它们不是一类东西,也不是谁替代谁。MCP 更像工具和数据的标准接口;Skill 更像一份可复用的操...
导语:别再把三者当成三个平行方案 Function Calling、MCP、Skill 都和“让大模型干活”有关,但它们解决的不是同一个问题。把它们混在一起,就很容易出现两个误区:要么觉得有了 MCP 就不需要 Func...
很多人第一次看到 A2A,会下意识把它当成 MCP 的竞品:都是协议,都是 Agent 相关,好像只是换了一套调用格式。这个理解很容易把方向搞反。MCP 关注的是“一个 Agent 怎么接工具和数据源”,A2A 关注的是...
很多人一听 MCP 要让 AI 调工具,就下意识以为它一定用 WebSocket,或者以为它就是普通 HTTP REST。这个理解容易踩坑。MCP 的关键不在于“某一种网络协议”,而在于把消息格式和传输方式拆开:上层统一...
为什么 AI 流式输出常用 SSE,而强交互场景更适合 WebSocket 很多人一听到“实时通信”,第一反应就是 WebSocket。理由也很简单:WebSocket 是双向的,听起来更强。 但做 AI 流式对话时,真...
把 WebRTC 和 WebSocket 的区别讲透 很多人一听到“实时通信”,第一反应就是 WebSocket。做文本聊天、直播弹幕、状态同步,它确实好用。但到了 AI 实时语音、视频通话、低延迟音频交互,WebRTC...
一、为什么需要大模型网关? 刚开始做 AI 应用时,很多团队都是业务服务直接调用模型 API:客服服务调一个模型,营销服务调一个模型,代码助手再接一个模型。这样做在 Demo 阶段很快,但到了生产环境,问题会集中爆发。...
大语言模型不是“会聊天的机器人”,也不是“参数多一点的 NLP 模型”。它的本质,是一个用海量文本训练出来、能够根据上下文不断预测下一个 token 的生成式模型。 传统 NLP 更像一条流水线:先分词,再做词性标注、实...
一、一句话讲清 Transformer Transformer 是一种处理序列数据的神经网络架构。它最关键的设计是 Self-Attention:让一句话里的每个 token 都能直接和其他 token 建立联系,再按重...
大模型为什么越聊越慢?为什么同样是 Transformer,有的模型能撑长上下文,有的很容易被 KV Cache 卡住?MHA、MQA、GQA、FlashAttention 这几个词经常一起出现,但它们解决的并不是同一个...
Transformer 很强,但它有一个天然短板:Self-Attention 只擅长计算 token 之间的相关性,并不自带“第几个词在前、第几个词在后”的概念。位置编码就是为了解决这个问题。 1. Transform...
很多人第一次接触大模型时,会以为模型是直接“读字”的。其实不是。模型真正处理的是一串数字,这些数字来自 tokenizer 的切分结果。Tokenizer 的价值,就是把人类能读的文本,转换成模型能处理的 token i...
开篇:训练大模型不是简单“喂数据” 很多人第一次理解大模型训练时,会把它想成“把数据塞进去,模型就会回答问题”。这个说法太粗了。真正的大模型训练更像培养一个新人:先让他读大量资料形成基础能力,再给他看标准问答学会工作方式...
大模型为什么越训越强?为什么有些能力像“突然冒出来”? 开篇:别把 Scaling Law 理解成“越大越好” 很多人一听 Scaling Law,就会下意识理解成“模型参数越多越强”。这句话只说对了一小半。真正影响大模...
很多人第一次接触大模型微调,会把全量微调、LoRA、QLoRA、SFT、DPO、RLHF 全部背成一串名词。真正做项目时,这样理解很容易踩坑。因为这些词不是同一层面的“平行选项”:有些是在说怎么改参数,有些是在说模型要学...
LoRA 到底厉害在哪里? 很多人第一次接触 LoRA,只记住一句话:它能减少可训练参数,让普通显卡也有机会微调大模型。这个回答没有错,但只说到了表面。 LoRA 真正改变的是微调方式:基础模型不再被整块重写,而是保留原...
面试官问:“SFT 之后还要训练什么?”只回答“RLHF”并不完整。更重要的是讲清楚三件事:谁来判断回答好不好、这个判断怎样变成训练信号、模型最后怎样被更新。 可以把大模型想成一名刚读完很多书的新人。预训练让它见多识广,...