AI推理工程化负责人

【岗位职责】 1.架构规划与技术演进：主导端侧AI推理平台整体架构设计，制定覆盖视觉、LLM、语音、Embedding等能力域的技术演进路线；负责Intel/Rockchip/NVIDIA等异构硬件的技术选型、算力规划与适配策略。 2.算法-工程协同体系：建立模型交付标准化流程与自动化验证机制，明确算法研发、模型转换、端侧部署的协作边界与责任归属，实现“训练-转换-部署-验证”高效闭环。 3.性能基准与交付质量：定义端到端推理质量标准，建立各场景性能基线（延迟/吞吐/功耗/精度）；主导视频Pipeline、推理引擎、语音引擎等核心模块的工程验收与量产质量把控。 4.核心技术攻关：牵头跨平台推理框架适配、零拷贝数据流、多模态负载资源调度、动态功耗管理等关键技术难题的方案设计、原型验证与工程落地。 5.工程规范与技术沉淀：制定模型部署、算子开发、硬件适配、CI/CD等环节的工程规范；沉淀可复用的架构组件、实践与技术文档，提升系统可维护性与规模化部署效率。 6.团队建设与人才培养：组建并管理推理工程团队，负责技术梯队搭建、核心人才招募、任务规划与技术评审；打造“追求极致性能、注重工程规范、敏捷交付”的团队文化。 【任职资格】 1.本科及以上学历，计算机、电子、自动化或相关专业，5年以上AI推理工程化或C++系统开发经验，2年以上技术团队管理或架构负责人经验。 2.精通C/C++/Rust系统级编程，深入理解多线程、内存管理、进程通信、锁机制等底层原理，具备系统性性能分析与调优方法论。 3.完整主导过至少1个AI模型从算法研发到端侧/边缘量产的全流程落地，熟悉模型转换、量化压缩、前后处理优化及推理框架集成。 4.熟悉2种以上主流推理框架（如TensorRT、ONNX Runtime、OpenVINO、RKNN、NCNN、MNN、llama.cpp等），具备框架选型、深度定制或插件开发经验。 5.具备跨异构平台技术判断力，熟悉Intel CPU/GPU、Rockchip NPU、NVIDIA GPU中至少两类平台的推理加速机制、内存架构与驱动生态。 6.有智能硬件、IPC、边缘网关或AI PC等端侧产品的完整工程化经验，深刻理解资源受限环境下的架构约束、功耗/性能/成本权衡。 7.具备出色的跨部门协同与项目管理能力，能高效推动算法、产品、测试、硬件团队对齐目标并保障交付节奏。 优先条件（加分项） 1.熟悉H.264/H.265视频编解码及硬件加速Pipeline（VPU/MPP/VAAPI/RGA），有零拷贝/端到端数据流架构设计经验。 具备语音处理系统（STT/TTS/VAD/AEC/NS）的工程落地或架构设计经验。 2.有视觉+LLM+语音等多负载共存场景下的资源调度、优先级管理、动态降级与QoS保障设计经验。 3.熟悉模型压缩流水线（结构化剪枝、知识蒸馏、PTQ/QAT量化）的自动化构建与工程集成。 4.有自研推理引擎、深度参与开源框架底层改造（如图优化、算子融合、异构调度器开发）经验。 5.熟悉MLOps/LLMOps在端侧的落地实践，或具备跨平台CI/CD、自动化测试与性能监控体系建设经验。