端侧 AI 部署负责人

岗位职责 1 端侧模型部署与平台适配 负责视觉、视觉语言、VLA 及动作生成模型的端侧部署。完成训练模型导出、计算图转换、推理引擎构建及运行环境配置；根据目标模型与芯片能力，使用 TensorRT 或芯片厂商提供的编译器、SDK 和推理工具链。 2 模型量化与精度验证 开展适合目标平台的混合精度、量化及模型压缩，与算法团队协作处理量化敏感层、校准数据和精度回退。建立逐层／输出对齐及闭环任务验证方法，评估部署前后的模型误差与机器人任务表现。 3 算子适配与推理性能优化 定位不支持算子、动态形状、计算图切分及 CPU 回退问题，完成图优化、算子替换或自定义算子开发；优化数据拷贝、内存复用、并发与异步流水线，在 NVIDIA 平台结合 CUDA／TensorRT，在国产平台使用对应工具定位瓶颈。 4 端到端链路与机器人联调 打通相机／传感器输入、预处理、模型推理、后处理和动作输出，提供 C++／Python 接口；与机器人团队完成真机联调，处理时序、动作分块、推理超时和输出异常，测量整体链路延迟与抖动。 5 芯片评测与部署方案选型 在目标模型和任务上建立一致的测试条件，比较不同平台的可部署性、精度、延迟、内存占用、功耗与持续运行表现；评估算子覆盖、软件栈成熟度、迁移成本和供货方案，为设备选型提供实测依据。 6 部署工程化与稳定性交付 建立模型、推理引擎、驱动及 SDK 的版本兼容管理，形成可复现的构建、安装和升级流程；定位内存泄漏、驱动异常、温度降频及长时间运行问题，沉淀测试用例、性能基准和部署文档。 任职要求 • 计算机、电子、自动化或相关专业本科及以上学历；3 年及以上端侧 AI、模型推理优化、嵌入式 AI 或相关研发经验，有独立交付项目的能力。 • 在 Jetson Orin／Thor 或至少一种国产 AI 芯片上有真实部署经验，能说明具体模型、芯片平台、部署难点和实测优化结果；不要求同时精通所有芯片。 • 熟悉 PyTorch 模型导出与部署流程，理解计算图、算子、张量布局、动态形状及数值精度问题；能使用 ONNX 或目标平台支持的导出与转换路径。 • 深入使用过至少一套端侧推理工具链，如 TensorRT 或国产芯片厂商 SDK，能够定位模型转换、编译、算子支持和运行时问题。 • 熟练使用 C++、Python 和 Linux，具备性能分析、内存管理、多线程及跨模块调试能力，能够亲自开发部署与测试工具。 • 具有模型量化或推理优化实战经验，能结合精度、端到端延迟、峰值内存与功耗进行取舍，避免仅以理论算力或单次推理结果判断方案。 • 能够与算法、硬件及机器人团队协作，推动模型修改、接口联调和现场问题闭环；愿意持续进行设备实测与真机验证。 加分项 • 在 Jetson 平台做过 CUDA Kernel、TensorRT Plugin、自定义算子或多模型并发优化；熟悉性能剖析工具并能解释优化收益。 • 具备国产 NPU／AI SoC 的模型编译、量化、算子适配及混合执行经验，有跨芯片模型迁移或与原厂技术团队协作的经历。 • 部署过 Transformer、视觉语言模型、VLA、扩散／流匹配动作策略，处理过注意力计算、KV Cache 或多步迭代推理带来的资源约束。 • 做过机器人、智能相机、无人机、自动驾驶或工业边缘设备，具备 ROS／ROS 2、传感器接入及真实业务闭环评测经验。 • 有低功耗运行、热稳定性、长时间压力测试、设备批量部署或推理引擎版本回归经验。