高性能计算，模型部署面经历 后摩智能实习

  本人双非本，985硕，研究生做的是计算机视觉，做多目标检测与跟踪，有一篇中文cscd论文毕业用 无其他科研成果。  四月份开始投实习练手，主要是一些小公司的模型部署相关岗位，没有投大公司。  说一下感受：1，小公司的话既要你会算法，又要你会部署相关，而且部署要求没有那么高，我面的公司基本都没有问一些与部署相关比较深的问题。这一点的原因我觉得是小公司不会把算法训练和部署分开，所以面试官两个都问。2，像cuda编程，ai编译器，算子优化这方面的内容在小公司问的比较少，但我从其他面大厂这些岗位的经验来看，这些是重点。3，像推理框架这些好像也问的比较少 不会太深入。总结及自己后面的复习计划：1，自己研究生做的算法要好好复习一遍，深度学习的基本知识，目标检测的发展历程等都要熟悉。2，大厂比较看中cuda编程，算子优化这些。要把这些东西的细节，优化的原因过程目的和结果讲清楚。3，推理框架，tensorrt和ncnn这些，把这些和项目结合起来介绍。

面试时主要问了一些C++相关的问题，整体难度适中，和面试官沟通交流非常愉快，是我校招以来面试体验最好的一次。问了面试官关于待遇的情况，说是整体待遇相当不错。

自我介绍，说一些做过的部署相关的项目项目询问，用了TensorRT量化，是PTQ量化吗？为什么要用tensorRT量化，项目有什么速度需求吗？CUDA加速图像预处理，具体的实现方法，用了什么优化手段吗？CUDA加速是自学的吗？可以举例子说一说你分析和优化算子的例子吗？(向量化读取没有加速，面试官说是内存对齐的原因)GUP的内存结构，l1 cacahe、共享内存、l2 cache介绍一下共享的内存怎么优化，bank conflict是什么意思？你对算法了解哪些？介绍一下ByteTrack的匹配过程？为什么选用RK3588芯片，说一说环境搭建和自己模型部署的过程？ARM相关的优化了解吗？聊一些实习规划？聊一些自己未来的职业规划？为什么想要做模型部署，有什么原因？手撕代码，只要说思路，CUDA实现100w的浮点数相加，怎么实现？反问：模型优化多一点还是写算子多一点？对我学习的一些建议，有哪些欠缺的知识？

🌸💖【阿里云】2025届实习生招聘正式启动！💖【企业简介】阿里云创立于2009年，是全球领先的云计算及人工智能科技公司，为200多个国家和地区的企业、开发者和政府机构提供服务。阿里云致力于以在线公共服务的方式，提供安全、可靠的计算和数据处理能力，让计算和人工智能成为普惠科技。2017年1月阿里云成为奥运会全球指定云服务商。💖【招聘岗位】研发、算法、商务、售前等💖【内推链接】https://careers.aliyun.com/campus/home?lang=zh&from=superbanner