模型量化与端侧部署高级工程师
Technology
苏州市, 中国¥50,000 - ¥80,000 /月2周前
全职
职位描述
该职位来源于猎聘 职位描述: 负责智驾端到端大模型、世界模型的量化压缩工作,搭建并维护支持多种车端芯片的量化工具链,支撑模型规模化部署。 结合智驾真实业务场景,设计落地性强的量化、蒸馏、剪枝等模型压缩方案,在压缩模型体积、提升推理速度的同时,保障模型精度达到业务要求。 深度研究各类车规芯片的架构与端侧执行逻辑,搭建芯片仿真、精度对齐、性能评测体系,保障模型跨芯片稳定运行。 针对 INT8/INT4/FP4/ 混合精度等不同量化方案做全链路调优,解决量化误差、算子适配、分布式兼容等技术难点,持续挖掘推理性能上限。 跟进行业前沿量化与模型压缩技术,沉淀标准化方案与实践,推动团队技术能力迭代。 任职要求: 计算机、电子信息、自动化等相关专业,本科及以上学历,有模型量化、端侧推理优化相关工作经验。 精通主流量化(PTQ/QAT)、模型蒸馏、剪枝等压缩算法,熟练掌握 INT8/INT4/FP8/FP4 等多精度量化方案。 扎实的编程功底,熟练使用 Python、C/C++,精通 PyTorch 框架,了解 ONNX、推理引擎相关技术优先。 熟悉 CNN、Transformer、BEV、DETR 等视觉 / 智驾主流模型结构与原理,理解模型前向推理逻辑。 有车端芯片、边缘芯片适配经验,了解端侧 NPU 执行特性者优先;有智能驾驶模型量化落地经验者优先。 具备较强问题拆解与实战能力,乐于钻研技术,思路灵活、富有创新意识,具备良好的沟通协作能力。
Keywords
PyTorchPython
对这个职位感兴趣吗?