跳转到主要内容

模型部署工程师

Technology
安波福
上海市, 中国¥18,000 - ¥30,000 /月2周前
全职

职位描述

该职位来源于猎聘 职位职责: 1. 负责端到端自动驾驶模型在多种硬件平台上的推理部署与加速优化工作。 2. 设计并实现跨平台模型一致性评估工具链;建立量化后的精度回归验证体系,确保 FP32、FP16、INT8 以及自定义量化格式之间的数值一致性;定位并解决模型输出不一致问题。 3. 研究并部署模型压缩技术,包括量化(Quantization)、剪枝(Pruning)、知识蒸馏(Distillation)以及低比特算子优化,提升资源受限平台上的模型执行效率。 4. 与硬件工程团队紧密合作,参与软硬件协同优化工作;基于算子特性、内存访问模式以及硬件指令集开展算子调优、Kernel 优化和推理流水线优化。 5. 构建模型推理性能分析与监控体系,包括 Kernel 级 Profiling、算子延迟分析、带宽瓶颈分析等,为端到端推理性能优化提供改进建议。 任职要求: 1. 计算机科学、人工智能、电子工程、软件工程或相关专业硕士及以上学历。 2. 熟悉端到端自动驾驶模型(感知 Perception、预测 Prediction、规划 Planning)或多模态大语言模型(MLLM);深入理解 Transformer、BEV(鸟瞰图 Bird's Eye View)、Occupancy Network(占用网络)及 Diffusion(扩散模型)等主流模型架构。 3. 具备推理引擎优化经验,熟练掌握至少一种推理框架,如 TensorRT、ONNX Runtime、TVM 或 XLA。 4. 深入理解 INT8/INT4 量化技术及精度对齐验证方法,包括 Per-Channel(按通道量化)、Per-Tensor(按张量量化)、Group-wise(分组量化)、KV Cache 量化等;能够独立搭建量化评估与精度一致性验证工具链。 5. 熟练掌握 Python 和 C++ 编程语言,具备扎实的工程开发能力,能够进行算子级 Profiling 和 Kernel 级优化开发。 优先考虑: 1. 熟悉 GPU 架构及 CUDA 优化; 2. 理解硬件特性,包括内存访问机制、带宽限制及指令集架构等。 3. 具备 Ambarella(安霸)、Horizon Robotics(地平线)、NVIDIA(英伟达)、Texas Instruments(TI,德州仪器)等平台的模型部署经验; 具备量化误差分析、算子替换与优化经验。

Keywords
CUDAPython

对这个职位感兴趣吗?