推理引擎工程师

美团核心本地商业下业务研发平台，基于公司“零售+科技”的战略导向，通过从底层架构到应用系统、从软件到硬件、从传统算法到GenAI的全方位技术研究，以及开发、运维、安全等全流程能力建设，致力于推动美团核心本地商业下需求侧与供给侧的数字化和智能化升级，助力业务实现高质量增长，优化用户使用体验，提升商户经营水平，促进行业生态伙伴关系的持续健康发展。团队秉持务实、自驱、开放以及追求卓越的工程师文化，一方面通过系统和技术体系的持续迭代升级，帮助业务高质量增长；另一方面，密切关注前沿技术趋势变化，积极创新技术能力，为业务未来发展创造新的可能性。期待优秀的你加入我们，在夯实专业、深耕平台的基础上与业务携手同行，一起用技术 “帮大家吃得更好，生活更好”。 岗位职责 1. 负责美团搜推各场景推理引擎架构的设计与开发，覆盖大语言模型（LLM）与搜推模型（生成式推荐/排序模型）两类场景。 2. 负责推理服务的降本增效，通过性能优化持续降低单次推理成本，支撑业务规模增长。 3. 跟踪并研究AI领域前沿技术发展，结合业务需求进行技术预研和落地实践。 岗位基本需求 1. 计算机、自动化、电子信息或相关专业本科及以上学历； 2. 熟悉C++/Python等编程语言，深入理解多线程编程、性能优化、分布式系统设计等核心技术； 3. 深入理解 GPU 体系结构（SM、显存带宽、Warp 调度等），有 CUDA 编程与性能调优经验 4. 熟悉主流推理框架（vLLM / TensorRT-LLM / SGLang / TensorRT 等）中至少一种的架构与源码。 5. 对技术有强烈热情，具备持续学习能力和钻研精神，代码质量意识强，工作态度严谨； 具备良好的沟通协作能力和团队精神，有较强的主动性和求知欲。 具备以下者优先 1. 有开源社区贡献经历（vLLM、SGLang、TensorRT-LLM等），是相关项目 Contributor 或 Maintainer 2. 有大规模线上推理服务（千卡级别）的部署与优化经验 3. 熟悉 MoE 模型推理优化、PD 分离（Prefill-Decode Disaggregation）、分布式 KV Cache 等前沿方向 4. 有编译器背景（MLIR / TVM / XLA），或熟悉 Kernel 自动生成技术 5. 有生成式推荐的算法或工程实践经验，熟悉 HSTU（Meta 生成式推荐）、TIGER、生成式召回等技术路线，或做过长序列行为建模的推理优化 6. 有超大规模稀疏模型 Serving 经验：百 GB~TB 级 Embedding 表的 GPU 显存管理、Embedding 查询性能优化、参数服务器/推理引擎的协同架构 7. 在 MLSys、OSDI、SOSP、SC 等顶级会议发表过论文者优先 岗位亮点 1. 负责美团核心搜索推荐系统的技术架构，覆盖传统搜推和AI应用场景，业务影响力大，成长空间广阔； 2. 作为美团大规模的GPU应用场景之一，有机会深入探索异构计算领域的前沿技术，技术成长快。