微软 bing LLM 应用面经

4.26更新：4.23HR面后进入录用评估，昨天已收到offer邮件！祝大家也早日收到满意的offer！#晒一晒我的offer#—— —— —— —— —— —— —— —— —— ——10分钟后更新：发面经真的会有好运！10分钟后状态就更新为HR面了—— —— —— —— —— —— —— —— —— ——#如何判断面试是否凉了#4.10初试，4.16复试后面试官让等HR电话，目前官网还是复试链接状态，慌得一批。。。听说发面经有好运，许愿早日进HR面！初试：（约50分钟）1. 面试官介绍部门2. 自我介绍3. 聊简历4. 八股    Q：如何规范LLM的回答？    A：1.SFT微调；2.上下⽂学习（prompt中给例⼦）；3.涉及到专业领域时，使⽤RAG    Q：RAG实现？    A：1.分割文档 2.使⽤向量模型将文档转为向量（对⽐学习，双塔模型）3.将向量灌⼊向量数据库；4.将⽤⼾query转为向量，并在向量数据库中检索；5.设置距离阈值，将前n个最相关的结果给到大模型    Q：Transformer中的⾃注意⼒？    A：将每个token embedding与Wq，Wk，Wv相乘得到Q，K，V。对于每个token，计算其Q与所有token的K之间的点乘，通过softmax转为系数，与对应token的V相乘得到与该token的注意⼒。    Q：Transformer中的Q与K点乘后，为什么要除以根号下dk？    A：点乘当dk较⼤时，会导致结果较⼤，经过softmax后可能会导致梯度消失。除以根号下dk相当于正则化，防⽌梯度消失    Q：SVM基本原理？    A：最⼤化超平⾯和⽀持向量之间的margin    Q：SVM是⼆分类模型，如何处理多分类问题？    A：训练多个⼆分类SVM模型对应于每个类别，判断样本是否属于该类，最后根据每个模型结果的置信度得到结果    Q：SVM是线性模型，如何处理⾼维问题？    A：使⽤核函数对数据进⾏升维5. 算法题：DFS模版题，较简单6. 提问环节    Q：有什么可以提⾼的地⽅？    A：多了解模型微调复试：聊简历，一道算法题，20分钟结束算法题：给定字符串，输出其中不包含重复元素的最长子串的长度

个人背景可以看之前写的腾讯LLM面经一面/技术面 2024/3/13 晚上19:00-19:50先自我介绍，大概1分钟对大模型有什么看法和认识？说一个你比较熟悉的预训练大模型的结构和训练方式，我说了BERT介绍NeurIPS论文，中间穿插着一些提问，以往的模型怎么做的，输入输出，如何评估？数据集规模如何？介绍ICDM论文，中间穿插着一些提问，两篇论文大概花了半小时进行讲解介绍快手实习，主要做了些什么，中间问了XGBoost的原理，没回答上来。。。题外话，问我的CSDN和公众号等等是如何经营的算法题：搜索旋转排序数组(二分) + 岛屿数量(BFS)反问环节：美团大模型实习一般干些什么二面/技术面...

1. 自我介绍2. 项目，具体模块细节3. 手撕组合总和，且无重复4. 解码策略，比如贪心算法、随机采样等，鼠鼠没答出来 5. T5模型和Bert区别（项目有用T5模型）、self-attention6. 大模型RAG7.  llama具体结构8. RLHF技术9. 微调过大模型吗？讲一讲面试体验蛮好的已oc

个人背景可以看之前写的腾讯LLM面经一面 2024/3/28 上午10:30-11:10自我介绍介绍了快手推荐实习推荐的全链路过程介绍了NeurIPS的论文介绍了本科做的一个App你对AIGC和LLM了解哪些？说了一下自学的东西你对AGI怎么看？你觉得照目前趋势发展下去，能达到AGI吗？结合人类意识还有人脑答了一波你有做过大模型的预训练过程啥的吗？有没有上手过？说一下Transformer中的attention具体原理，以及为什么这么做说一下LLM训练的整体过程介绍一下RLHF介绍一下DDPM的原理了解NLP的大致发展流程吗你是经常用torch吧，说一下你最近遇到的一个bug以及如何处理的说一...