前言今天给大家分享一份热乎的大模型应用开发面经希望能够帮到近期冲击大模型秋招的同学。1、时间范围近半年。2、实际面过的公司阿里、腾讯、美团、字节、快手、同程、京东、360、keep、滴滴、印象笔记、作业帮、彩云科技、蓝色光标、江城互娱、Aviagames、Hungry Stdios、深言科技、即时科技、RockFlow、格灵深瞳、百融云创、印象笔记、网龙、 HiDream.ai、昆仑万维、数驱互动、Authing。3、先说总结1面试内容 难度个人觉得在 LLM 应用的面试题上没有太多复杂、高深的问题不像上来让你说一下分布式锁怎么设计然后死扣设计细节或是描述一下 MVCC 原理这种偏高难度的八股文问题当然也遇到了一两次。究其原因以下几点一是大模型应用目前仍没有很成熟且被广泛接纳的方案都还在探索二是很多公司今年刚开始 all in AI我司 all 进去的比较早点面试官也懂得不多。例如 RAG 这个东西大部分的面试题无非是“你觉得 RAG 中最难的是什么文档切割喽”、“你是怎么解决幻觉问题的”“微调和 RAG 的区别是啥”等等。如果你做过 RAG 加上你经常看技术文章结合你的“侃侃而谈”基本面试官都觉得 ok。但这里着重说一下我觉得当前非常重要且极大概率提升面试通过率的的一个技术点就是掌握微调原理并且做过动手做过微调工作再加上动手部署过大模型。这是我面试中最常被问到而又只能说没做过的问题当然大部分公司都有专门的算法团队去做这件事自己到没机会参与其中也是可以理解的。算法题一半是 DP 问题还有一部分难度是 easy 的问题总体上都是“老熟人”但是你即使写出来面试不一定就能过有的干脆就不考算法题。八股文明显比之前少很多这个和面试的岗位有关系LLM 应用的岗位更偏实践所有很多一面就是 leader 面直接问项目除非一面也不懂 LLM 的东西就会考八股文。但总的来说八股少了但是绝对不可以不准备好几次挂在这上面别小瞧它。岗位内容游戏公司基本上是 LLM AB test for 游戏策划BI 分析游戏社区客服助手toCAgent 个人助手toBAgent for 解决方案other通用 Agent 平台公司内部 AI 助手、平台Agent for 运维2offer会有很多横向对比如果你期望薪资比较高对方说要在等等基本上凉了。大部分涨幅基本是不到 20% 的但我的期望是 30% 左右最后还是拿到了要有一点点耐心还要有一定的运气。不要眼高手低先拿一个低于自己预期的 offer再慢慢谈前提是公司想要你。规划好时间集中面试集中对比由于我时间线拉的过长后面安排的很乱。3再总结如下每次面完都要复盘没答好的问题一定要重新梳理答案。没把握问题的可以直接说不会别给个你自己都听不懂的答案。简历一定要让大模型润色但自己要 check 一遍别吹过头了。多看技术文章扩展技术视野提高二面面试官对你的印象。表达一定要流畅清晰不要断断续续的面试官会觉得你思路不清晰。项目效果评估是个很重要的问题不管你的技术多炫酷终究还是要看效果看落地效果。4、面试题这里想到多少写多少。LLM 基础大模型是怎么训练出来的Transform 的架构Encoder 和 Decoder 是什么Function Call 是怎么训练的微调的方案有哪些自己做过没有大模型分词器是什么Embedding 是什么你们用的那个模型Lib介绍一下 langchian介绍一下 autogen有没有用过大模型的网关框架litellm为什么手搓 agent而不是用框架mcp 是什么和 Function Call 有什么区别有没有实践过A2A 了解吗PromptReAct 是啥怎么实现的CoT 是啥为啥效果好呢有啥缺点Prompt Caching 是什么温度值/top-p/top-k 分别是什么各个场景下的最佳设置是什么RAG你介绍一下RAG 是什么最难的地方是哪文档切割策略有哪些怎么规避语义被切割掉的问题多路召回是什么文档怎么存的粒度是多大用的什么数据库为啥要用到图数据库向量数据库的对比有没有做过Qdrant 性能如何量级是多大有没有性能瓶颈怎么规避大模型的幻觉微调和 RAG 的优劣势怎么量化你的回答效果例如检索的效果、回答的效果。workflow怎么做的任务拆分为什么要拆分效果如何怎么提升效果text2sql 怎么做的怎么提高准确率如何润色query目的是什么code-generation 是什么做的如何确保准确性现在再让你设计你会怎么做replan效果是怎么量化的Agent介绍一下你的 Agent 项目长短期记忆是怎么做的记忆是怎么存的粒度是多少怎么用的Function Call 是什么做的你最大的难题是什么你是怎么提高效果的怎么降低延迟的端到端延迟如何优化的介绍一下 single-agent、multi-agent 的设计方案有哪些反思机制是什么做的为什么要用反思如何看待当下的 LLM 应用的趋势和方向为什么要用 Webrtc它和 ws 的区别是什么agent 服务高可用、稳健性是怎么保证的llm 服务并发太高了怎么办系统设计题短链系统分布式锁的设计给你一部长篇小说怎么做文档切割怎么做到论文翻译并且格式尽可能和原来的统一游戏社区客服助手设计。如何绑定游戏黑话如何利用好公司内部的文档结合线上问题快速定位项目工程代码有问题的地方有很多结构化和非结构化数据怎么分析再怎么得出我要的结论八股go 的内存分配策略、GMP、GCpython 的内存分配策略、GCredis 用过那些mget 底层什么实现的、zset 怎么实现的mysql 索引怎么设计最好数据库隔离级别mvcc 是怎么实现的分布式锁是什么实现的kafka 的 reblance 是什么会产生那些问题怎么保证数据不丢?fastapi 设计原理go 中 net/http 如何处理的 tcp 粘包问题http2 是什么比 http1.1 有什么优势Linux 网络性能调优的方式如何定位 Linux 中的 pid、端口号等等最后由于文章篇幅有限不能将所有公司的面试题答案解析展示出来有需要完整面试题资料的朋友可以扫描下方二维码免费领取哦面试题展示1、请解释一下BERT模型的原理和应用场景。答案BERTBidirectional Encoder Representations from Transformers是一种预训练的语言模型通过双向Transformer编码器来学习文本的表示。它在自然语言处理任务中取得了很好的效果如文本分类、命名实体识别等。2、什么是序列到序列模型Seq2Seq并举例说明其在自然语言处理中的应用。答案Seq2Seq模型是一种将一个序列映射到另一个序列的模型常用于机器翻译、对话生成等任务。例如将英文句子翻译成法文句子。3、请解释一下Transformer模型的原理和优势。答案Transformer是一种基于自注意力机制的模型用于处理序列数据。它的优势在于能够并行计算减少了训练时间并且在很多自然语言处理任务中表现出色。4、什么是注意力机制Attention Mechanism并举例说明其在深度学习中的应用。答案注意力机制是一种机制用于给予模型对不同部分输入的不同权重。在深度学习中注意力机制常用于提升模型在处理长序列数据时的性能如机器翻译、文本摘要等任务。5、请解释一下卷积神经网络CNN在计算机视觉中的应用并说明其优势。答案CNN是一种专门用于处理图像数据的神经网络结构通过卷积层和池化层提取图像特征。它在计算机视觉任务中广泛应用如图像分类、目标检测等并且具有参数共享和平移不变性等优势。6、请解释一下生成对抗网络GAN的原理和应用。答案GAN是一种由生成器和判别器组成的对抗性网络结构用于生成逼真的数据样本。它在图像生成、图像修复等任务中取得了很好的效果。7、请解释一下强化学习Reinforcement Learning的原理和应用。答案强化学习是一种通过与环境交互学习最优策略的机器学习方法。它在游戏领域、机器人控制等领域有广泛的应用。8、请解释一下自监督学习Self-Supervised Learning的原理和优势。答案自监督学习是一种无需人工标注标签的学习方法通过模型自动生成标签进行训练。它在数据标注困难的情况下有很大的优势。9、解释一下迁移学习Transfer Learning的原理和应用。答案迁移学习是一种将在一个任务上学到的知识迁移到另一个任务上的学习方法。它在数据稀缺或新任务数据量较小时有很好的效果。10、请解释一下模型蒸馏Model Distillation的原理和应用。答案模型蒸馏是一种通过训练一个小模型来近似一个大模型的方法。它可以减少模型的计算和存储开销并在移动端部署时有很大的优势。11、请解释一下LSTMLong Short-Term Memory模型的原理和应用场景。答案LSTM是一种特殊的循环神经网络结构用于处理序列数据。它通过门控单元来学习长期依赖关系常用于语言建模、时间序列预测等任务。12、请解释一下BERT模型的原理和应用场景。答案BERTBidirectional Encoder Representations from Transformers是一种预训练的语言模型通过双向Transformer编码器来学习文本的表示。它在自然语言处理任务中取得了很好的效果如文本分类、命名实体识别等。13、什么是注意力机制Attention Mechanism并举例说明其在深度学习中的应用。答案注意力机制是一种机制用于给予模型对不同部分输入的不同权重。在深度学习中注意力机制常用于提升模型在处理长序列数据时的性能如机器翻译、文本摘要等任务。14、请解释一下生成对抗网络GAN的原理和应用。答案GAN是一种由生成器和判别器组成的对抗性网络结构用于生成逼真的数据样本。它在图像生成、图像修复等任务中取得了很好的效果。15、请解释一下卷积神经网络CNN在计算机视觉中的应用并说明其优势。答案CNN是一种专门用于处理图像数据的神经网络结构通过卷积层和池化层提取图像特征。它在计算机视觉任务中广泛应用如图像分类、目标检测等并且具有参数共享和平移不变性等优势。16、请解释一下强化学习Reinforcement Learning的原理和应用。答案强化学习是一种通过与环境交互学习最优策略的机器学习方法。它在游戏领域、机器人控制等领域有广泛的应用。17、请解释一下自监督学习Self-Supervised Learning的原理和优势。答案自监督学习是一种无需人工标注标签的学习方法通过模型自动生成标签进行训练。它在数据标注困难的情况下有很大的优势。18、请解释一下迁移学习Transfer Learning的原理和应用。答案迁移学习是一种将在一个任务上学到的知识迁移到另一个任务上的学习方法。它在数据稀缺或新任务数据量较小时有很好的效果。19、请解释一下模型蒸馏Model Distillation的原理和应用。答案模型蒸馏是一种通过训练一个小模型来近似一个大模型的方法。它可以减少模型的计算和存储开销并在移动端部署时有很大的优势。20、请解释一下BERT中的Masked Language ModelMLM任务及其作用。答案MLM是BERT预训练任务之一通过在输入文本中随机mask掉一部分词汇让模型预测这些被mask掉的词汇。由于文章篇幅有限不能将全部的面试题答案解析展示出来有需要完整面试题资料的朋友可以扫描下方二维码免费领取哦