AI大模型开发主任工程师
赛力斯职位描述
岗位职责: 1.负责端侧大模型(LLM/VLM/VLA) 在智能座舱平台(高通/瑞萨/地平线等 SoC)上的工程化落地,构建高性能、低功耗的模型推理底座。 2.主导模型压缩与量化技术选型与实现,包括但不限于 PTQ/QAT、INT4/INT8 量化、知识蒸馏、剪枝与结构重参数化,在精度损失可控前提下大幅降低显存与算力需求。 3.负责推理加速引擎的深度优化,基于 ONNX Runtime、TensorRT、TFLite、SNPE、RKNN 等框架进行算子融合、内存复用与异构计算(CPU/GPU/DSP/NPU)调度,达成实时交互指标。 4.融合大模型能力重构座舱核心业务场景,如智能语音助手多轮对话与情感识别、舱内视觉理解(手势/注视/表情)、多模态交互推荐、驾驶行为分析等。 5.建立端侧模型性能评估与自动化压测体系,量化首包延迟、Token 生成速度、内存占用、CPU/GPU 负载及温升影响,指导模型选型与优化迭代。 6.与算法团队协同完成端云协同策略设计,实现端侧轻量模型处理敏感/实时任务,云侧大模型兜底复杂请求,并支持模型热更新与版本管理。 7.跟踪端侧大模型前沿技术(如 MobileLLM、AWQ、Sparse Attention、Speculative Decoding),推动技术预研与专利申请,输出技术规范与设计文档。 任职要求: 1.统招硕士及以上学历,计算机、人工智能、电子工程、数学等相关专业,5 年以上AI 模型工程化经验,其中2 年以上端侧大模型部署与优化经验。 2.精通 C/C++、Python,具备扎实的算法与数据结构基础,熟悉 Linux 环境下的交叉编译、内存分析与性能调优工具。 3.深入掌握主流端侧推理框架至少两种:TensorRT(或 TensorRT-LLM)、ONNX Runtime、TFLite、QNN、Cuda 等。 4.熟悉常见模型压缩与量化方法,实际落地过 LLM 或 VLM 的 INT4/INT8 量化,熟练使用 PyTorch、TensorFlow 及量化工具链(如 NVIDIA TensorRT Model Optimizer、Intel Neural Compressor、AWQ/GPTQ)。 5.熟悉 Transformer 架构及大模型推理原理,包括 KV Cache、FlashAttention、PagedAttention、Continuous Batching 等,能针对车载场景优化推理调度策略。 6.具备 Agent 框架开发经验,熟悉 ReAct、CoT、Function Calling 等范式,能设计低延迟的工具调用链路与状态管理机制。 7.了解多模态融合基础(视觉、语音、文本对齐),有 VLM 或 VLA 在端侧的实际部署案例,熟悉 CLIP、LLaVA、Qwen-VL 等常见模型结构。 8.具备优秀的工程落地能力与团队协作意识,能够与座舱业务、系统软件、算法团队高效沟通,推动方案量产交付。
对这个职位感兴趣吗?