2026 进阶版 · LLM INTERVIEW NOTES
大模型面试资料¶
覆盖 算法、应用开发、产品与解决方案 三条路线。不是八股合集,而是“能推公式、能算账、能讲项目”的面试训练手册。
29 篇正文
386 道背题库
约 500 个题目 / 追问
200 条术语
8 类项目深挖
按岗位选路线¶
快速入口¶
| 你现在要做什么 | 直接看 |
|---|---|
| 每天随机抽几道题,先想后看答案 | 进入背题库 |
| 3 天后面试,先扫高频问法 | 真实面经高频题(192 问) |
| 项目要被追问,准备答辩 | 项目深挖与追问(151 问) |
| 现场手写 MHA、LoRA、采样、ReAct | 手撕代码题(12 类) |
| 练一个端到端系统设计 | 系统设计题(8 个) |
| 查公式、显存、模型配置 | 公式与数字速查 |
| 查术语的中英文说法 | 术语中英对照(200 条) |
关于这套资料¶
一套面向大模型相关岗位的系统化面试资料,覆盖算法(训练/微调/对齐/推理)、应用开发(RAG/Agent/上下文工程)、产品与解决方案三条路线。
与常见“八股合集”的区别:
- 题库驱动:整理了 2025–2026 公开面经中的高频问法,按主题归类并给出原创答案要点。
- 项目导向:单独用一章拆解项目深挖,覆盖训练、SFT、RL、推理、RAG、Agent、多模态、评测八类项目。
- 进阶深度:PPO/DPO/GRPO 推导、显存与容量计算、上下文工程、Harness/HITL/ACL 等 2026 新考点。
- 可练习:含手撕代码题、系统设计题、90 秒答题框架和数字口径清单。
- 可随机背题:站点新增“背题库”,每天按日期从 386 道题中随机抽题,支持 5/10/20/30 道、分类筛选、答案折叠和“换一批”。
- 规模:29 篇正文 + 背题库、约 500 个题目/追问、200 条术语,另附公式速查与公开来源链接。
当前版本:2026-10。大模型领域迭代很快,具体模型规格、价格、榜单请以官方文档和原始论文为准。资料中的数字均标注“量级/估算”,用于建立直觉,不作为工程验收依据。
2026 面试在考什么¶
根据公开面经与题库的整理,近两年有三个明显变化:
- 从“背定义”到“推公式 + 算账”:RoPE 要能推相对位置,SwiGLU 要能算 \(8d/3\),KV Cache 要能现场估显存,分布式要能给 70B 配并行。
- 从“技术点”到“项目数字”:几乎每道概念题后面都会接“你们具体怎么做的、效果怎么量化、失败 case 怎么定位”。
- 应用岗新增四大重灾区:上下文工程(压缩/污染/预算)、Skill 与 Harness、HITL 与 ACL、Token 治理与可观测性;RAG 从“一次检索”升级到 Agentic RAG。
对应地,本资料把“基础文档”和“进阶专题/题库”分开:先用基础文档建立框架,再用题库和项目章节做面试表达训练。
适合谁¶
- 准备大模型算法岗(预训练、后训练、推理优化、多模态)的候选人。
- 准备大模型应用岗(RAG、Agent、应用架构)的工程师。
- 准备 AI 产品/解决方案岗的产品经理、架构师。
- 已有基础,但一被追问“为什么、怎么算、项目里怎么落地”就答不深的人。
- 想系统梳理知识体系、而不是收藏一堆面经的学习者。
目录结构¶
大模型面试资料/
├── README.md
├── 00-面试准备指南.md # 岗位地图、自评、计划、简历、系统设计框架
├── 01-基础理论/
│ ├── 01-Transformer与注意力机制.md
│ ├── 02-语言模型与训练目标.md
│ ├── 03-位置编码-归一化与激活函数.md
│ └── 04-架构演进与MoE.md
├── 02-训练与微调/
│ ├── 01-数据与Tokenizer.md
│ ├── 02-分布式训练与显存优化.md
│ ├── 03-SFT与参数高效微调.md
│ └── 04-对齐-RLHF-DPO-GRPO.md
├── 03-推理与部署/
│ ├── 01-推理优化与KV-Cache.md
│ ├── 02-量化-蒸馏-剪枝.md
│ └── 03-推理框架与工程化.md
├── 04-应用开发/
│ ├── 01-RAG系统设计.md
│ ├── 02-Agent与工具调用.md
│ └── 03-Prompt工程与评估.md
├── 05-产品与落地/
│ └── 01-场景选型与落地方案.md
├── 06-面试题库/
│ ├── 01-算法岗高频问答.md # 85 题,按七组编排
│ ├── 02-应用岗高频问答.md # 65 题,按 RAG/Agent/Prompt/工程/产品
│ ├── 03-系统设计题.md # 8 个端到端设计,含容量估算
│ ├── 04-真实面经高频题.md # 2025–26 公开面经归纳,192 个问法
│ ├── 05-项目深挖与追问.md # 8 类项目、150+ 追问与答辩示例
│ └── 06-手撕代码题.md # MHA/RoPE/LoRA/KV Cache/采样/ReAct 等
├── 07-速查/
│ ├── 01-公式与数字速查.md
│ └── 02-术语中英对照.md # 200 条
└── 08-进阶专题/
├── 01-对齐算法推导与对比.md # PPO/DPO/GRPO/DAPO/GSPO/RLVR
├── 02-分布式训练与显存计算.md # 显存账、ZeRO、3D 并行、70B 算例
├── 03-推理系统与容量规划.md # Roofline、PagedAttention、容量算例
├── 04-上下文工程与Agent工程.md # Harness/Skill/MCP/HITL/ACL/记忆
└── 05-评测与实验设计.md # 污染检测、LLM-judge、RAG/Agent 评测、A/B
四条学习路径¶
路径 A:算法岗(预训练 / 后训练 / 推理)¶
| 阶段 | 内容 | 目标 |
|---|---|---|
| 第 1 周 | 01-基础理论 全部 + 00 |
推注意力公式、算参数量、讲清架构演进 |
| 第 2 周 | 02-训练与微调 全部 |
画训练流程、估显存、讲清 LoRA 与对齐 |
| 第 3 周 | 08-进阶专题/01、02 + 03-推理与部署/01 |
白板推 PPO/DPO/GRPO,配 70B 并行,算 KV Cache |
| 第 4 周 | 03-推理与部署/02、03 + 08-进阶专题/03、05 |
量化、部署、容量规划、评测与实验设计 |
| 第 5 周 | 06-面试题库/01、04、05 |
高频题 + 项目深挖 + 数字口径 |
| 第 6 周 | 06-面试题库/06 + 07-速查 + 模拟面试 |
手撕、速查、限时表达 |
路径 B:应用开发岗(RAG / Agent)¶
| 阶段 | 内容 | 目标 |
|---|---|---|
| 第 1 周 | 01-基础理论/01、02 + 03-推理与部署/01 |
理解模型边界、延迟与成本来源 |
| 第 2 周 | 04-应用开发 全部 |
设计 RAG/Agent 链路,讲清评估与失败模式 |
| 第 3 周 | 08-进阶专题/04 + 04-应用开发/02 |
上下文工程、Harness、MCP、HITL、ACL |
| 第 4 周 | 05-产品与落地 + 06-面试题库/03 |
场景选型、容量估算、系统设计 |
| 第 5 周 | 06-面试题库/02、04、05 + 07-速查 + 08-进阶专题/05 |
应用题、项目追问、成本与评测口径 |
路径 C:产品 / 解决方案岗¶
| 阶段 | 内容 | 目标 |
|---|---|---|
| 第 1 周 | 00 + 01-基础理论/02、04 |
理解模型能力、成本与架构取舍 |
| 第 2 周 | 03-推理与部署/03 + 04-应用开发/01、02 |
判断技术可行性、交付边界与指标 |
| 第 3 周 | 05-产品与落地 + 06-面试题库/03 |
场景选型、TCO/ROI、合规、系统设计 |
| 第 4 周 | 06-面试题库/04、05 + 07-速查/02 |
用业务语言讲技术方案,准备项目复盘 |
路径 D:7 天冲刺¶
| 天 | 内容 |
|---|---|
| D1 | 06-面试题库/04 通读,标记不会的题 |
| D2 | 08-进阶专题/01、02,手推 DPO/GRPO、显存账 |
| D3 | 08-进阶专题/03、04,练容量规划与上下文工程 |
| D4 | 06-面试题库/05,把自己的项目逐题过一遍 |
| D5 | 06-面试题库/01 或 02,每题 90 秒口述 |
| D6 | 06-面试题库/06 手写 MHA/LoRA/采样/ReAct |
| D7 | 07-速查 + 模拟面试 + 自我介绍/反问 |
按面试轮次准备¶
| 轮次 | 重点文档 | 练习 |
|---|---|---|
| 一面(基础+项目) | 01、02-03/04、03-01、06-01/02 |
公式口述、项目 90 秒版 |
| 二面(深度+场景) | 08-01/02/03/05、06-04/05 |
白板推导、项目数字拷打、评测口径 |
| 三面(架构+判断) | 05、06-03、08-04 |
系统设计、取舍与风险 |
| 主管面 | 00、05 |
业务价值、优先级、复盘 |
| HR 面 | 00 |
动机、规划、薪资、稳定性 |
题库怎么用¶
资料里有四类题库,定位不同,不要重复刷:
| 文档 | 定位 | 用法 |
|---|---|---|
06-01 算法岗高频问答 |
系统覆盖 85 个算法考点 | 第一遍查漏,第二遍口述 |
06-02 应用岗高频问答 |
系统覆盖 65 个应用考点 | 结合项目讲,不要只背定义 |
06-04 真实面经高频题 |
2025–26 公开面经问法 + 趋势 | 面试前 3 天快速扫,按频次排优先级 |
06-05 项目深挖与追问 |
8 类项目的追问链 | 每个项目至少过 20 题,准备失败案例 |
06-06 手撕代码题 |
模型/Agent 特色手撕 | 手写一遍,重点记维度和边界 |
06-03 系统设计题 |
8 个端到端设计 | 白板练 3 个,控制 30–40 分钟 |
建议节奏:
- 先分类:按岗位筛掉不需要的题(如产品岗不必深挖 CUDA)。
- 再口述:每题 90 秒,先结论、再机制、再工程代价、最后项目数字。
- 后手写:公式与代码必须落到纸上,不能只在脑子里“感觉会”。
- 最后模拟:找同伴连续追问 5 层,训练抗压与结构化表达。
来源与引用¶
本资料的题目方向来自以下公开面经/题库,答案与分类为原创整理,不复制原文:
- 牛客:同花顺 50 道大模型高频题
- 牛客:2025–26 阿里系算法面经整理
- 牛客:大模型算法工程师面试题汇总
- datawhale hello-agents 面试总结
- wdndev/llm_interview_note
- 面灵 AI:265 道大模型/Agent 真题(2026)
- 吴师兄:大模型项目面试题
- LLM180
- 小林coding:530+ 题
- 牛客:淘天/快手 Agent 面经
频次与“公司标签”仅作方向参考,样本有限,不代表任何公司的完整题库。面试请以目标岗位 JD 与最新公告为准。
标注约定¶
- 量级/估算:用于建立直觉,不保证精确;面试时先说明假设。
- 公开资料:模型规格、价格、榜单等来自公开信息,可能随版本变化。
- 公式:LaTeX 编写,可在支持 MathJax/KaTeX 的编辑器中渲染。
- 代码:以理解原理为目标,生产环境需使用融合算子、分布式框架与成熟推理引擎。
- 来源:题目来自公开面经,答案原创;如涉及版权问题,请联系删除。
内容边界¶
不覆盖:
- 传统机器学习/深度学习完整基础(反向传播、CNN、RNN 等),建议另行补课。
- 强化学习理论全貌(MDP、策略梯度证明),只讲大模型对齐用到的部分。
- 具体公司内部架构、数据与业务细节。
- CUDA/算子开发底层实现(只讲原理与性能直觉)。
- 最新论文逐篇解读(提供稳定框架,需自行跟进前沿)。
维护建议¶
- 每读完一篇,在“面试高频问题”旁标注掌握程度(会讲 / 会推 / 会写)。
- 遇到新模型或论文,优先更新
07-速查与相关章节的“代表模型”表,而不是重写全文。 - 面试后把真实问题补进
06-04,把项目追问补进06-05,形成个人版本。 - 通用资料的价值在框架,个人错题本才是提分关键。
祝面试顺利。真正的护城河不是背下多少答案,而是你能把“为什么这样设计、代价是什么、什么时候不适用”讲清楚。