模型部署面经-某小厂-实习

后摩智能实习，线下面试自我介绍梯度下降，怎么求导，链式求导relu激活函数，0点怎么求导softmax实现，溢出问题问给我发过来让我学习的量化相关的论文，adaquant，i-vit答的都不好，说不没认真看，大三学生都比我学的好，还做了ppt来讲。都好卷，呜呜呜。面试官人很好，但我太菜了基本忘关了，都没答上来，细节基本都说不清楚，只能懂个大概。后面还是要把基础知识和项目细节好好的准备好。

在秋招过程中，各种平台上的内容和博主对自己帮助很大，也来分享下自己的秋招经历，作为对自己研究生三年的总结，也希望可以帮助到大家~ 先介绍下楼主BG，楼主211本硕，车辆本计算机硕，无论文，4实习，在2023年秋招中，拿到了元戎，地平线，字节AI Lab，旷视，美团，百度，NVIDIA，图森等offer，最终选择了NVIDIA作为职业生涯的第一站。  秋招秋招投递方向主要为自动驾驶感知算法岗和模型部署岗，进面的公司基本都拿到了offer。 首先说下对工业界就业的整体认知，工业界比较在意能不能进来就上手干活，能证明这件事情的，楼主觉得主要就两个：相关实习项目和强相关论文。除非实验室的方向...

  本人双非本，985硕，研究生做的是计算机视觉，做多目标检测与跟踪，有一篇中文cscd论文毕业用 无其他科研成果。  四月份开始投实习练手，主要是一些小公司的模型部署相关岗位，没有投大公司。  说一下感受：1，小公司的话既要你会算法，又要你会部署相关，而且部署要求没有那么高，我面的公司基本都没有问一些与部署相关比较深的问题。这一点的原因我觉得是小公司不会把算法训练和部署分开，所以面试官两个都问。2，像cuda编程，ai编译器，算子优化这方面的内容在小公司问的比较少，但我从其他面大厂这些岗位的经验来看，这些是重点。3，像推理框架这些好像也问的比较少 不会太深入。总结及自己后面的复习计划：1，自己研究生做的算法要好好复习一遍，深度学习的基本知识，目标检测的发展历程等都要熟悉。2，大厂比较看中cuda编程，算子优化这些。要把这些东西的细节，优化的原因过程目的和结果讲清楚。3，推理框架，tensorrt和ncnn这些，把这些和项目结合起来介绍。

RAG：AI大模型联合向量数据库和 Llama-index，助力检索增强生成技术 在大模型爆发的时代，快速准确地从大量数据中检索出有价值的信息变得至关重要。检索增强生成（RAG）技术，结合了传统的信息检索和最新的大语言模型（LLM），不仅能够回答复杂的查询，还能在此基础上生成信息丰富的内容。 RAG 技术的核心在于其能够将大型语言模型的生成能力与特定数据源的检索相结合。这意味着，当模型面对用户提出的问题时，它不仅依赖于自身训练时的知识，还可以实时地从外部数据源中检索相关信息，以此增强回答的准确性和丰富性。这种方法对于处理最新信息特别有效，能够有效弥补传统模型在时效性方面的不足。 这里我们将基于...