大模型岗的面试风向这两年变化比很多人想象中要快得多。早几年问的是“Transformer里Attention怎么算”现在再拿这套去准备大概率会在二面三面栽跟头。我自己最近半年密集参与了多个大模型相关岗位的面试也帮团队做过不少轮技术面一个很直观的感受是面试官已经不满足于考察候选人“知不知道”而是更在意你能不能把模型用起来、调明白、跑得稳。这篇文章就把我观察到的面试风向、典型的题目套路、以及答题时的思路框架一次性说清楚给正在准备大模型岗的朋友一个明确的方向参考。1. 大模型岗面试风向的底层逻辑从“考知识”转向“考工程”1.1 为什么风向变了两年前的大模型岗位JD写的基本都是“熟悉Transformer、熟悉Bert、了解GPT系列”面试题也集中在模型结构、损失函数、激活函数这些教科书内容上。但到了现在尤其是ChatGPT带火这波大模型浪潮之后岗位需求已经从“懂模型”变成了“会用模型、能部署模型、能优化模型”。我接触过不少候选人基础八股背得滚瓜烂熟问Self-Attention为什么除以根号d能讲十分钟不停。但一到实际场景题比如“线上GPU显存不够你怎么把7B模型跑起来”就开始支支吾吾。这种候选人往往拿不到offer原因不是说基础不重要而是面试官清楚模型原理随时可以查但工程判断力和动手解决问题的能力才是岗位上真正稀缺的。所以现在的面试风向本质上是从“考知识”转到了“考工程”。StreamingLLM为什么能解决长文本推理的显存爆炸问题、FlashAttention到底省了什么、LoRA的低秩矩阵怎么和原有权重合并这些问题背后全是对工程实践的理解深度。1.2 面试官到底在考察什么拆开来看大模型岗面试官核心关注五个维度的能力第一是原理理解的颗粒度。不是背结论而是能不能讲清楚一个机制为什么有效、边界在哪里。比如LoRA为什么能省显存本质是因为它冻结了预训练权重只训练增量低秩矩阵所以反向传播时不需要存储完整梯度。第二是工程落地的熟练度。模型训练、微调、量化、推理加速、分布式并行有没有真实用过遇到OOM会怎么排查心里有没有体感。我给团队面试时经常问“你最近一次OOM是什么场景怎么解决的”这个问题比任何八股都能快速区分真假。第三是业务场景的转化力。给定一个业务需求比如“客服对话摘要生成”候选人能不能把它拆解为可执行的模型方案包括数据怎么准备、用什么底座模型、微调还是RAG还是Prompt Engineering就够、评估指标怎么定。这个维度现在权重越来越高。第四是深度方向的敏锐度。RAG、Agent、Scaling Law、MoE、多模态这些热点的本质是什么不是追新而是理解它们解决什么问题。候选人在面试前至少要对两三个方向有自己的独立思考。第五是学习能力与自驱力。大模型领域三个月可能就换一波技术栈面试官非常在意候选人的信息获取渠道、源码阅读习惯、实验迭代方式。这一块没有标准答案但没有实际操作经验的人一聊就能听出来。2. 大模型面试题五大类型深度拆解从八股到实战2.1 模型原理基础题仍在考察但深度加深原理题不是说消失了而是从“是什么”进阶到“为什么是这样”和“如果改成别的会怎样”。经典问题比如为什么注意力机制要除以根号d_k这个问题的好回答不能止于“防止点积过大导致softmax饱和”。更进一步的理解是Q和K点积的结果是一个长度为d_k维向量求和数值量级随d_k增大而线性增长除以根号d_k是为了把方差稳定在1左右。再深一层可以提到如果d_k变大而不缩放softmax会接近one-hot分布梯度趋近于0训练无法推进。为什么GPT用Decoder只用Decoder的注意力而不用双向注意力要理解这是由生成任务定义的自回归生成时每一步只能看到之前的token否则会造成信息泄露。面试官进一步会问“那BART和T5为什么用Encoder-Decoder结构”答案是这些模型在预训练时做了文本破坏与复原任务Encoder要建模双向上下文Decoder生成时才约束单向。位置编码到底编码了什么基本答法是RoPE、ALiBi、Learned Embedding的区别。但加分的答法是把自己代入到实际场景长文本外推时学到的绝对位置编码差而旋转位置编码RoPE和ALiBi在长度外推上天然更友好这也是很多开源模型在长上下文场景选择这些方案的原因。原理题吃透的关键不在于背多少而在于建立“机制-问题-设计选择”的映射。我建议准备时不要看面经而是直接读模型源码把每个模块对应的设计动机标出来这样即使遇到没见过的模型架构也能按同一套逻辑现场推演。2.2 训练与微调题现在面试的核心权重区这部分的比重明显上升几乎每一轮技术面必有涉及。常见题目包括LoRA与QLoRA的完整流程。面试官会让你讲LoRA的原理但更会追问秩r怎么定alpha怎么设置为什么量化后还能保持效果LoRA和Adapter的区别是什么全力回答这些问题核心在于都要落到“参数高效微调”的本质——用低秩近似来约束参数量避免灾难性遗忘的同时大幅降低显存开销。而QLoRA是在LoRA基础上把底座模型量化到4-bit再用NF4类型和Double Quantization减少存储误差我实际用下来4-bit微调7B模型的显存开销稳定在12-14G左右一张消费级显卡就能跑。全参数微调、LoRA微调、Prompt Tuning怎么选。这里我会反问业务场景和资源条件。全参数微调效果好但贵LoRA介于中间是目前最主流的如果底座够强、任务是格式转化类Prompt Tuning或者Ice Breaker的套路就够了。具体到计算资源可以给面试官展示一个数据全参数微调7B用DeepSpeed ZeRO-3至少需要4张80G的A100LoRA单张24G的4090就能跑。这个体感差异足够说明选择逻辑。DeepSpeed ZeRO的三个阶段。ZeRO-1只做优化器状态切分ZeRO-2把梯度也切了ZeRO-3把参数、梯度、优化器状态全部切分到各卡配合CPU Offload进一步让显存消耗转移到内存。很多候选人能背出来但一问“视频训练该选哪个Stage显存不够时要不要开Offload”就卡壳。我通常建议追求训练效率用ZeRO-2显存实在不够且单卡带宽不错的情况下再上ZeRO-3Offload。2.3 推理优化与量化题高频且区分度最大这也是现在面试场上的“高分区”。题目非常具体比如现有7B模型单张16G卡每token延迟20ms要优化到10ms以内你会怎么做这道题没有一个固定答案它考察的是优化手段的取舍。我的回答链路是先用TensorRT-LLM做结构化推理优化配合KV Cache量化、FasterTransformer算子融合通常能拿到30%-50%收益再上INT8/INT4量化其中AWQ比GPTQ在实际部署中更好因为它激活感知对效果影响更小最后是服务层优化比如动态batching和PagedAttention提升吞吐量。每一步都有参数和数据支撑面试官想看到的就是这种有主次、有预期的方案。KV Cache是什么怎么估算显存这个问题几乎必问。KV Cache就是把历史token的Key和Value缓存下来避免每一步重新计算。显存估算公式是2 * batch_size * seq_len * num_layers * hidden_size * 2K和V各一份* 2字节FP16。以7B模型、batch1、seq_len2048为例算下来大概在1.2G左右如果和上下文长度到32K显存开销就变成十几G所以长上下文部署必须上量化技术和窗口缓存策略。Prefill和Decode阶段为什么分开优化这两个阶段的计算特征完全不同Prefill是计算密集型的矩阵乘法适合用高并发和更大batchDecode是访存密集型的向量操作GPU利用率低要提升吞吐就要做连续批处理、投机采样等。能把这两个阶段的差异说清楚再落到“所以服务框架会把它们调度分离”这个结论面试官的印象会很好。2.4 RAG与Agent场景题没有标准答案但有高分链路整个RAG链路涉及文档解析、分块策略、Embedding模型选择、向量检索、重排序、Prompt组装。面试官核心会问RAG流程里哪个部分最影响效果我的经验是很多人以为是Embedding或向量库其实出问题最多的是文档解析和分块。比如PDF里的表格、多栏排版解析完就可能乱了。分块大小直接影响召回命中率一般256到512个token是一个经验区间还需要配合重叠切块。这块没人会去背面经真正有实操的人可以直接拿出来分享自己调分块策略的对比数据。怎么处理RAG召回结果不准确的情况可以从三个层次回答先优化召回侧做混合检索把向量检索和BM25结合因为关键词信息在向量空间往往表现不稳定BM25恰好能补上精确匹配再上重排序模型用Cross Encoder对候选结果重新打分效果提升非常明显最后是生成侧优化把Prompt写成允许模型基于已有上下文推理同时让模型对未检索到的信息明确表示不知减少幻觉。Agent的工作流设计题也越来越多。比如“要给模型加一个工具调用功能怎么设计”回答要点是定义清晰工具接口、构建Few-shot示例让模型学会调用、处理模型输出结果到工具参数的映射、以及要不要加一层校验防止参数幻觉。一套完整的可落地链路比一百个名词解释都管用。2.5 综合方案设计题从模型到业务闭环这类型最近非常常见。面试官往往给一个虚拟业务要求从0到1设计完整方案。比如要做一个人工智能文档助手处理几千份公司内部文档你怎么设计我的答题框架是五步走需求边界明确、技术选型对比、数据流程打通、效果评估体系、成本与迭代计划。底座模型选择上先问清楚数据能不能出域能出域用通用API不能出域走私有化部署的7B或13B开源模型。RAG是首选因为对垂直领域知识更新友好不需要周期性重训。最后设定评估指标召回率、答案准确性、引用正确率、端到端延迟每一项给一个可量化的值。这套框架一说出来面试官基本就能判断你是一个做过真实项目的人。3. 真题实操五个典型面试题的完整答题示例3.1 从零部署一个对话模型你会怎么做这个问题我最近常被问到也常用来面别人。一个让面试官满意的回答至少包含几个环节先定基础模型如果在中文场景国内主流的7B模型在效果和硬件成本之间就是平衡选择即使企业里私有部署也一样然后是推理框架如果用英伟达卡优先TensorRT-LLM如果是国产加速卡就看对应厂商对vLLM的适配情况接着是服务封装OpenAI兼容接口能大幅降低业务方接入成本这个设计细节会体现工程经验最后加一层模型路由简单问题走小模型、复杂问题走大模型降低整体成本。3.2 说一次你实际遇到的模型训练异常怎么排查的这种没有标准答案的题目标是看你有没有真实训练经验。我常用的一个例子是loss变成NaN然后建立排查思路先确认是前向还是反向的问题缩小范围看具体在哪一层出现NaN接着定位到学习率过大导致梯度爆炸还是数据里有脏数据再复现时做一个梯度裁剪对照确认是梯度问题后加上mixed precision的动态loss scaler并且把batch内的异常样本清掉。整体上把定位链路讲清楚远胜过直接说“我调低了学习率”。3.3 7B模型部署在4张卡上怎么做并行这个题考核并行策略的取舍。回答时先指出模型并行和数据并行的本质区别数据并行是每张卡都有完整模型副本各自处理不同batch张量并行则是把每一层的矩阵计算切到不同卡上。7B模型如果用全参数张量并行通常是更合理的选择因为层数不深、单层矩阵大按层切分的流水线并行反而可能因为通信开销大于收益。再补充一点说4张卡做张量并行后每张卡的KV Cache显存也能翻四倍支持更大的并发。充满细节的回答会让面试官觉得你真的部署过。3.4 怎么评估一个微调模型的效果面试官问这个是想看你有没有建立评估闭环的习惯。传统做法是拿一个通用测试集跑rouge、accuracy这些指标但真实场景必须再做维度评估答案准确性、忠实度、覆盖度、毒性再配一套人工打分标准。我实际经验里最有用的是建立一个Bad Case库每次迭代后都回归测试确保新版本没有退步。从指标到人工评估到回归机制这套闭环展示的是数据驱动的工作习惯。3.5 如果让你用大模型做一个小工具你会做什么这道题看着轻松其实面试官在考察创造力和产品敏感度。比较加分的回答思路是先描述用户的真实痛点再说明为什么大模型是合适方案然后给一个极小的核心链路顺便提两个坑。比如做一个文档表格提取工具核心链路就是让视觉模型识别复杂表格结构再给语言模型做结构化输出坑在于表格合并单元格和公式表达容易被模型转错。这样既显产品思维也专业感十足。4. 常见翻车点与避坑技巧实录4.1 只会答概念没有量化概念这是最大的翻车点。不少候选人说“我用过LoRA”问batch_size和gradient_accumulation怎么配答不上来说“我做过量化”问INT8推理显存能省多少、精度掉了多少也没有体感。大模型面试越来越看重数字感和对比感。我自己的建议是简历里每写一个技术点就必须准备三组数字训练显存、推理延迟、效果变化。4.2 对开源生态不够熟悉很多传统深度学习背景的候选人模型架构讲得很好但问起目前主流开源模型、主流推理框架、微调工具的优缺点却比较陌生。面试准备时必须清楚哪几个开源模型生态成熟、支持中文好、量化方案齐全哪些框架各有什么不足主流Agent框架是怎么处理工具调用的。这些不需要源码级熟悉但至少要能说出各有边界。4.3 长文本与流式交互没有体感长文本是现在区分度很高的考点。候选人背了RoPE的定义但问“如果模型训练时就用了4K上下文部署时怎么支持到32K”往往答不完整。可以答三条路线继续微调拉长位置编码换成能够外推的类型推理时配合窗口式KV Cache管理避免显存爆炸在工程层做上下文压缩比如检索时只取关键片段。三个方向缺一个就说明没有真正做过长文本场景。4.4 没有准备自己的深度亮点有的人面试全程都在回答却连一个属于自己的深度项目经历都没有。这在现在的面试环境里很吃亏。面到一个项目时我会追得很细但也真的希望候选人能主动展开为什么选这个模型、数据怎么清洗、效果何时达标、部署踩了什么坑。这些才是我判断潜力最可靠的证据。4.5 只看面经不做源码级理解面经能给你范围给不了深度。同一个问题比如FlashAttention看面经只能记住“分块计算、减少访存”但面试官一句“为什么能减少访存GPU里的高速缓存和HBM分别发生了什么”就能看出真伪。深度学习框架的算子执行都有规律可循与其背一百道面经不如把Transformer相关的核心模块源码逐行读一遍效果拔群。4.6 忽略细节中的敏感点比如面试官问“显存不够怎么办”候选人一上来就说“换更大的卡”这会直接被减分。面试官希望看到的是先量化显存占用再谈优化手段最后才考虑换硬件。还有一种情况一些候选人在Agent相关问题上只讲“给模型一个API它就会调用”却完全没提安全问题、参数校验、工具返回内容的防注入处理这种忽略会让面试官质疑你的工程成熟度。5. 我的三点核心建议如果只给正在准备的人三条建议我的排序是这样。第一建立自己的量化基准体系。给自己定几个必测任务比如中文长文档问答、代码生成、数学推理跑通几个主流开源模型不同尺寸和不同量化档位的效果、显存、延迟数据。这些数据准备完遇到任何场景题都能立刻用数据说话这是硬通货。第二亲手完成一个封闭的部署项目。任务不复杂但要求全流程独立跑通模型下载、数据集构造、LoRA微调、启动脚本、量化、部署、写一个简单的评测脚本。这样所有概念都会内化成体感而这恰恰是现在面试最难被问倒的东西。第三培养持续的信息敏感度。关注大模型方向的论文、开源社区动态、框架更新记录每周整理一两篇自己真正读过的技术细节。不是为了面经而是那些更新变化里往往藏着下一道面试题的目的。我自己后来看候选人时最看重的始终不是准备得多完美而是这一行里少见的踏实与真实。技术迭代快没有人能全知全能但一个能把一件事情真正做透的人换到任何新方向上都值得放心。