大模型术语中英对照

导读：本文按架构、训练、对齐、推理、应用、评估、产品与合规七组整理常用术语，共 200 条。 每条给出中文、英文和一句话解释，适合面试前快速建立中英映射，也便于阅读论文和框架文档。 英文缩写首次出现时给出全称；同一概念在不同社区的译法可能不同，本文采用大模型工程中最常见的说法。

核心要点

• 架构术语重点区分 MHA、MQA、GQA、MLA 以及 MoE 的“总参数/激活参数”。
• 训练与对齐术语要能说清目标函数和数据形态，而不只是记住缩写。
• 推理与应用术语最终都要落到延迟、吞吐、成本、权限和评测指标上。

一、架构（30 条）

中文	English	一句话解释
大语言模型	Large Language Model (LLM)	以海量文本预训练、具备通用语言理解与生成能力的参数化模型。
Transformer	Transformer	以自注意力和前馈网络为核心、支持高度并行训练的序列建模架构。
自注意力	Self-Attention	同一序列内每个位置根据与其他位置的相似度聚合信息。
注意力头	Attention Head	注意力层中的一个独立子空间，学习不同类型的依赖关系。
多头注意力	Multi-Head Attention (MHA)	多个注意力头并行计算后拼接，每个头拥有独立 Q/K/V 投影。
多查询注意力	Multi-Query Attention (MQA)	所有 query 头共享一组 K/V，显著降低 KV Cache。
分组查询注意力	Grouped-Query Attention (GQA)	query 头分组共享 K/V，在质量与缓存之间折中。
多头潜在注意力	Multi-head Latent Attention (MLA)	用低秩潜在向量压缩 K/V，降低长上下文缓存开销。
前馈网络	Feed-Forward Network (FFN)	Transformer 中逐位置的两层或多层 MLP，通常占参数主体。
SwiGLU	Swish-Gated Linear Unit (SwiGLU)	带门控的 FFN 变体，用 SiLU 门控提升同参数预算下的效果。
残差连接	Residual Connection	把子层输入直接加到输出上，缓解深层网络的梯度消失。
层归一化	Layer Normalization (LayerNorm)	对每个 token 的隐藏维度做均值方差归一化。
均方根归一化	Root Mean Square Normalization (RMSNorm)	只按均方根缩放、不减均值的归一化，计算更省。
位置编码	Positional Encoding	向模型注入 token 顺序信息的机制。
旋转位置编码	Rotary Position Embedding (RoPE)	通过旋转 Q/K 表示相对位置，支持长上下文外推。
上下文窗口	Context Window	模型一次前向可处理的最大 token 数。
因果掩码	Causal Mask	禁止当前位置关注未来 token 的上三角掩码。
仅解码器	Decoder-only	只使用因果自注意力的自回归架构，当前通用大模型主流。
编码器-解码器	Encoder-Decoder	编码器理解输入、解码器生成输出，适合翻译等序列到序列任务。
词表	Vocabulary	分词器可识别的 token 集合。
分词器	Tokenizer	把文本切分为 token 并映射为 ID 的组件。
字节对编码	Byte Pair Encoding (BPE)	通过反复合并高频字节对构造子词词表的算法。
词嵌入	Token Embedding	把 token ID 映射为连续向量的查找表。
输出投影	Output Projection (LM Head)	把隐藏状态映射到词表 logits 的矩阵。
混合专家	Mixture of Experts (MoE)	用路由器为每个 token 选择少量专家计算，扩大总参数而不等比增加算力。
路由器	Router	为 token 打分并选择 top-k 专家的门控网络。
专家	Expert	MoE 中独立的前馈子网络，通常只被部分 token 激活。
负载均衡损失	Load Balancing Loss	惩罚专家负载过度集中，避免路由塌缩。
状态空间模型	State Space Model (SSM)	用递归状态建模序列、可线性复杂度训练的架构族。
多模态大模型	Multimodal Large Language Model (MLLM)	同时处理文本、图像、音频或视频等模态的大模型。

二、训练（30 条）

中文	English	一句话解释
预训练	Pretraining	在大规模无标注语料上学习通用表示的阶段。
自监督学习	Self-Supervised Learning	从数据本身构造监督信号，无需人工标签。
下一 token 预测	Next-Token Prediction	根据左侧上下文预测下一个 token 的自回归目标。
掩码语言建模	Masked Language Modeling (MLM)	遮住部分 token 并让模型还原，常用于编码器预训练。
缩放定律	Scaling Law	损失随参数、数据和算力呈幂律下降的经验规律。
计算最优	Compute-Optimal	在固定训练算力下让参数与数据达到最优配比。
数据去重	Data Deduplication	删除重复或近重复文档，减少记忆和训练浪费。
数据污染	Data Contamination	训练数据混入评测题目或答案，导致分数虚高。
序列打包	Sequence Packing	把多条短样本拼成定长序列，减少 padding 并提升吞吐。
课程学习	Curriculum Learning	按由易到难或由短到长的顺序组织训练数据。
学习率预热	Learning Rate Warmup	训练初期逐步升高学习率，避免早期更新过猛。
余弦退火	Cosine Annealing	按余弦曲线逐步降低学习率到较小值。
AdamW	Adam with Decoupled Weight Decay	将权重衰减与梯度更新解耦的 Adam 优化器变体。
混合精度训练	Mixed-Precision Training	矩阵计算用低精度、累加和敏感操作用高精度。
BF16 浮点格式	BF16 (Brain Floating Point 16)	16 位浮点，动态范围接近 FP32，训练中常无需 loss scaling。
FP8 浮点格式	FP8	8 位浮点，需硬件支持和缩放策略，可进一步省显存提算力。
梯度裁剪	Gradient Clipping	限制梯度范数，防止爆炸性更新导致训练发散。
梯度累积	Gradient Accumulation	多个微批累积梯度后再更新，模拟更大 batch。
损失尖峰	Loss Spike	训练损失突然大幅上升的异常现象。
激活检查点	Activation Checkpointing	只存少量激活，反向时重算，以计算换显存。
数据并行	Data Parallelism (DP)	每卡复制模型、切分数据，再同步梯度。
张量并行	Tensor Parallelism (TP)	把单层矩阵按行或列切到多卡，层内并行计算。
流水线并行	Pipeline Parallelism (PP)	按层切分模型，微批在多 stage 间流水执行。
专家并行	Expert Parallelism (EP)	把 MoE 专家分布到不同设备，通过 all-to-all 路由 token。
零冗余优化器	Zero Redundancy Optimizer (ZeRO)	分片优化器状态、梯度和参数，降低单卡显存。
完全分片数据并行	Fully Sharded Data Parallel (FSDP)	PyTorch 原生的参数/梯度/优化器全分片训练方式。
集合通信	Collective Communication	多卡之间 all-reduce、all-gather、all-to-all 等协同操作。
模型浮点运算利用率	Model FLOPs Utilization (MFU)	有效模型 FLOPs 与硬件峰值 FLOPs 的比值。
吞吐量	Throughput	单位时间处理的 token 数或请求数。
灾难性遗忘	Catastrophic Forgetting	在新数据上微调后丢失原有通用能力的现象。

三、对齐（24 条）

中文	English	一句话解释
监督微调	Supervised Fine-Tuning (SFT)	用指令-回答数据继续训练，让模型学会遵循任务格式。
指令微调	Instruction Tuning	用多样化指令数据提升模型对新任务的零样本泛化。
参数高效微调	Parameter-Efficient Fine-Tuning (PEFT)	只训练少量新增参数或低秩增量，降低微调成本。
低秩适配	Low-Rank Adaptation (LoRA)	冻结原权重，学习低秩矩阵增量来适配下游任务。
量化低秩适配	Quantized LoRA (QLoRA)	以 4-bit 量化基座配合 LoRA，进一步降低微调显存。
适配器	Adapter	插入 Transformer 层中的小型可训练模块。
人类反馈强化学习	Reinforcement Learning from Human Feedback (RLHF)	用人类偏好训练奖励模型，再用强化学习优化策略。
奖励模型	Reward Model (RM)	对回答质量或人类偏好打分的模型。
近端策略优化	Proximal Policy Optimization (PPO)	用裁剪概率比限制策略更新幅度的强化学习算法。
直接偏好优化	Direct Preference Optimization (DPO)	无需显式奖励模型和在线 rollout，直接用偏好对优化策略。
组相对策略优化	Group Relative Policy Optimization (GRPO)	对同一 prompt 的成组回答做组内归一化优势估计。
拒绝采样	Rejection Sampling	多次采样后按奖励或验证器筛选合格样本。
最佳 N 选	Best-of-N	采样 N 个回答并选分数最高的一个。
奖励攻击	Reward Hacking	策略利用奖励模型漏洞刷分，而非真正提升质量。
KL 约束	Kullback-Leibler Constraint	惩罚当前策略偏离参考模型，防止语言能力退化。
偏好数据	Preference Data	同一输入下标注哪个回答更好或给出排序的数据。
过程奖励模型	Process Reward Model (PRM)	对推理中间步骤打分，提供更密集的奖励信号。
结果奖励模型	Outcome Reward Model (ORM)	只对最终答案或整体结果打分。
宪法式 AI	Constitutional AI	用一组原则和 AI 反馈约束模型行为，减少人工偏好标注。
AI 反馈强化学习	Reinforcement Learning from AI Feedback (RLAIF)	用 AI 裁判代替部分人类偏好标注进行对齐。
对齐税	Alignment Tax	安全或偏好对齐导致通用能力、创造力下降的代价。
谄媚	Sycophancy	模型倾向于迎合用户观点而非坚持事实。
越狱	Jailbreak	用特殊提示绕过模型安全策略，诱导违规输出。
红队测试	Red Teaming	主动构造对抗输入，寻找安全、偏见和可靠性漏洞。

四、推理与部署（34 条）

中文	English	一句话解释
推理	Inference	使用训练好的模型对输入生成输出的过程。
预填充	Prefill	并行处理输入 prompt 并建立 KV Cache 的阶段。
解码	Decode	逐 token 自回归生成输出的阶段。
首 token 延迟	Time to First Token (TTFT)	从请求发出到收到第一个输出 token 的时间。
每输出 token 时间	Time Per Output Token (TPOT)	解码阶段平均生成一个 token 所需时间。
token 间延迟	Inter-Token Latency (ITL)	相邻输出 token 之间的时间间隔。
键值缓存	KV Cache	缓存历史 token 的 K/V，避免解码时重复计算前缀。
分页注意力	PagedAttention	用固定大小 block 和页表管理 KV Cache，减少碎片并支持共享。
快速注意力	FlashAttention	通过分块和在线 softmax 减少 HBM 读写，显存近线性。
连续批处理	Continuous Batching	每次解码迭代动态加入/移除请求，提高 GPU 利用率。
静态批处理	Static Batching	一批请求全部结束后才接收下一批，容易产生空转。
前缀缓存	Prefix Caching	复用相同前缀的 KV Cache，降低 TTFT 和重复 prefill。
分块预填充	Chunked Prefill	把长 prompt 切成 chunk 与 decode 交替调度，平滑延迟。
投机解码	Speculative Decoding	小模型草拟多个 token，大模型并行验证以提高吞吐。
草稿模型	Draft Model	投机解码中快速生成候选 token 的小模型。
量化	Quantization	用低比特表示权重或激活，降低显存和带宽需求。
训练后量化	Post-Training Quantization (PTQ)	训练完成后用校准数据把模型转换为低精度。
量化感知训练	Quantization-Aware Training (QAT)	训练时模拟量化误差，让模型适应低精度。
仅权重量化	Weight-Only Quantization	只压缩权重，激活仍用高精度，decode 场景常用。
GPTQ 量化	GPTQ	基于二阶信息的逐层训练后权重量化方法。
激活感知权重量化	Activation-aware Weight Quantization (AWQ)	根据激活分布保护重要通道的权重量化方法。
平滑量化	SmoothQuant	把激活异常值迁移到权重，改善 INT8 激活量化。
知识蒸馏	Knowledge Distillation	用教师模型的软标签或生成结果训练更小的学生模型。
预填充-解码分离	Prefill-Decode Disaggregation (PD)	把计算密集的 prefill 与带宽密集的 decode 分池部署。
解码策略	Decoding Strategy	决定每步如何从概率分布中选择 token 的规则。
温度	Temperature	调整 logits 分布的陡峭程度，高温更随机、低温更确定。
核采样	Nucleus Sampling (Top-p)	从累计概率达到 p 的最小 token 集合中采样。
束搜索	Beam Search	同时保留多个候选序列，按累计概率扩展。
算术强度	Arithmetic Intensity	每字节内存访问对应的浮点运算数，决定计算或带宽瓶颈。
访存受限	Memory-Bound	性能主要受显存带宽而非峰值算力限制，decode 常属此类。
计算受限	Compute-Bound	性能主要受浮点算力限制，大 batch prefill 常属此类。
模型服务	Model Serving	把模型封装为可调度、可监控、可扩缩容的在线服务。
算子融合	Operator Fusion	把多个小算子合并为一个 kernel，减少启动和访存开销。
CUDA 图	CUDA Graph	把固定计算图捕获为图并重复执行，降低 kernel 启动开销。

五、应用（35 条）

中文	English	一句话解释
检索增强生成	Retrieval-Augmented Generation (RAG)	先检索外部知识，再把证据放入上下文生成答案。
文档切分	Chunking	把长文档切成适合检索和放入上下文的片段。
文本块	Chunk	检索与引用的基本文档单元。
嵌入模型	Embedding Model	把文本映射为稠密向量以支持语义检索。
双塔编码器	Bi-Encoder	query 和文档分别编码，可预建索引，适合召回。
交叉编码器	Cross-Encoder	query 与文档联合编码，精度高但计算贵，适合重排。
重排	Rerank	对召回候选重新打分排序，提高上下文精度。
语义缓存	Semantic Cache	用向量相似度复用历史答案，命中快但存在误匹配风险。
BM25 检索	BM25 (Best Matching 25)	基于词频和逆文档频率的经典稀疏检索算法。
稀疏检索	Sparse Retrieval	用关键词或高维稀疏向量匹配文档。
稠密检索	Dense Retrieval	用低维稠密向量做语义相似度检索。
混合检索	Hybrid Retrieval	融合稀疏与稠密召回，兼顾关键词和语义。
倒数排名融合	Reciprocal Rank Fusion (RRF)	按各检索器排名倒数求和融合多路结果。
查询改写	Query Rewriting	补全指代、纠错或扩展查询，提升召回率。
假设文档嵌入	Hypothetical Document Embeddings (HyDE)	先生成假设答案，再用其向量检索相似文档。
多跳问答	Multi-hop QA	需要串联多个证据或推理步骤才能回答的问题。
向量数据库	Vector Database	存储向量并支持近似最近邻检索与元数据过滤的系统。
近似最近邻	Approximate Nearest Neighbor (ANN)	用近似索引快速找相似向量，牺牲少量召回换速度。
分层可导航小世界	Hierarchical Navigable Small World (HNSW)	基于多层图的高召回 ANN 索引。
元数据过滤	Metadata Filtering	按租户、时间、权限等结构化字段筛选检索结果。
依据归因	Grounding	把生成内容绑定到可核验的外部证据。
引用	Citation	标注答案对应的文档、段落或页码。
智能体	Agent	能规划、调用工具并根据环境反馈迭代完成任务的大模型应用。
推理-行动框架	ReAct (Reasoning and Acting)	交替进行思考、行动和观察的 Agent 范式。
函数调用	Function Calling	模型输出结构化工具调用请求，由运行时执行。
工具使用	Tool Use	模型调用搜索、计算、数据库或 API 扩展能力。
模型上下文协议	Model Context Protocol (MCP)	标准化模型应用与外部工具、资源连接方式的协议。
规划	Planning	把目标拆成子任务并安排执行顺序。
记忆	Memory	保存对话状态、用户偏好和历史经验的机制。
多智能体	Multi-Agent	多个具备不同职责的 Agent 协作或竞争完成任务。
编排	Orchestration	管理 Agent、工具、状态、重试和终止条件的控制层。
沙箱	Sandbox	限制代码执行和工具访问范围的隔离环境。
人在回路	Human-in-the-Loop (HITL)	在关键节点引入人工确认、审核或接管。
提示注入	Prompt Injection	恶意内容试图覆盖系统指令或诱导模型越权。
护栏	Guardrail	对输入、输出和工具调用做安全与合规约束的机制。

六、Prompt 与评估（26 条）

中文	English	一句话解释
提示工程	Prompt Engineering	设计指令、示例和上下文以稳定获得目标输出。
系统提示	System Prompt	位于对话最高优先级、定义角色和边界的指令。
零样本	Zero-shot	不给示例，仅靠指令完成任务。
少样本	Few-shot	在提示中提供少量输入输出示例。
思维链	Chain-of-Thought (CoT)	让模型先展开中间推理再给出答案。
自洽性	Self-Consistency	多次采样推理路径并投票选择最一致答案。
结构化输出	Structured Output	让模型按 JSON Schema 等格式返回可解析结果。
约束解码	Constrained Decoding	在解码时限制 token 集合，保证语法或格式合法。
LLM 裁判	LLM-as-a-Judge	用强模型按 rubric 为另一个模型的输出打分。
成对比较	Pairwise Comparison	让裁判在两条回答中选择更好的一条。
Elo 评分	Elo Rating	根据成对胜负更新模型相对实力的评分体系。
基准测试	Benchmark	用固定任务集和指标比较模型能力的评测集。
幻觉	Hallucination	模型生成看似合理但缺乏事实依据的内容。
忠实度	Faithfulness	答案是否被给定上下文或证据支持。
事实性	Factuality	答案是否符合客观世界事实。
pass@k	pass@k	采样 k 个答案中至少一个通过测试的概率。
精确匹配	Exact Match (EM)	预测与标准答案完全一致的评测指标。
F1 分数	F1 Score	精确率与召回率的调和平均。
校准	Calibration	模型置信度与实际正确率的一致程度。
期望校准误差	Expected Calibration Error (ECE)	按置信度分桶后加权平均的校准误差。
A/B 测试	A/B Testing	随机分流比较两个版本对业务指标的影响。
离线评估	Offline Evaluation	用固定测试集在部署前评估模型或策略。
在线评估	Online Evaluation	通过真实流量、用户反馈和业务指标评估效果。
数据污染	Benchmark Contamination	评测题目泄漏进训练数据，导致分数不可信。
提示版本管理	Prompt Versioning	对 prompt 的版本、模型、参数和变更做可追溯管理。
回归测试	Regression Testing	每次改动后重跑固定用例，防止已有能力退化。

七、产品与合规（21 条）

中文	English	一句话解释
概念验证	Proof of Concept (POC)	用小规模实验验证技术可行性和业务价值。
最小可行产品	Minimum Viable Product (MVP)	用最少功能满足核心用户需求、快速验证市场的版本。
服务等级协议	Service Level Agreement (SLA)	对可用性、延迟、支持等服务质量作出的正式承诺。
服务等级目标	Service Level Objective (SLO)	团队内部设定的可量化服务质量目标。
总拥有成本	Total Cost of Ownership (TCO)	包含研发、调用、算力、运维和人工在内的全生命周期成本。
投资回报率	Return on Investment (ROI)	收益相对投入的比值，用于判断项目经济性。
单位经济模型	Unit Economics	单个请求、用户或任务层面的收入与成本结构。
限流	Rate Limiting	限制单位时间内的请求数、token 数或并发量。
灰度发布	Canary Release	先向小比例流量发布新版本，验证后再逐步扩大。
影子流量	Shadow Traffic	把真实流量复制给新版本但不影响用户，用于对比观察。
回滚	Rollback	发现新版本异常时快速恢复到上一稳定版本。
可观测性	Observability	通过日志、指标和追踪理解系统内部状态的能力。
调用链追踪	Tracing	用 trace ID 串联检索、模型、工具和数据库调用。
数据驻留	Data Residency	数据在特定国家或区域存储和处理的合规要求。
个人可识别信息	Personally Identifiable Information (PII)	能直接或间接识别自然人的信息，需要脱敏和访问控制。
通用数据保护条例	General Data Protection Regulation (GDPR)	欧盟关于个人数据处理、删除和跨境传输的法规。
模型卡	Model Card	记录模型用途、训练数据、评测结果和限制的说明文档。
负责任 AI	Responsible AI	在公平、透明、安全、隐私和问责方面约束 AI 开发与使用。
人工接管	Human Handoff	把低置信度、高风险或用户要求的问题转交人工处理。
降级	Fallback	主模型或工具失败时切换到缓存、小模型或人工流程。
内容安全	Content Safety	对违法有害、暴力、仇恨、色情和自伤等内容进行识别与处置。

使用建议

• 先掌握高频缩写：LLM、MHA、GQA、MoE、SFT、RLHF、PPO、DPO、GRPO、KV Cache、RAG、MCP。
• 面试时不要只展开英文全称，补一句“它解决什么问题、代价是什么”，例如 GQA 降低 KV Cache 但可能损失质量。
• 阅读论文时把术语表当索引：遇到不熟的词先定位所属环节，再回看该组的公式和指标。
• 产品与合规术语容易在应用岗被追问，建议结合一个真实项目说明权限、日志、转人工和回滚。

本文档为面试复习资料，公式与数字建议结合原始论文复核。