大模型推理优化工程师

职位描述： 1. 负责大模型推理阶段的性能优化工作，包括推理时延、吞吐量、资源占用等核心指标的调优与落地 2. 参与推理部相关大模型推理框架、部署方案的设计与迭代，适配不同业务场景的推理需求 3. 跟进大模型推理相关技术的前沿动态，结合业务实际落地优化方案，提升整体推理服务的效率与稳定性 职位要求： 1. 熟悉大模型推理基本原理，掌握至少一种主流推理框架，有推理性能调优相关实践经验优先，校招、社招及日常实习生均可投递 2. 工作地点支持济南办公或青岛办公，可根据自身情况选择合适的办公形式，公司也可为优秀人才在深圳，北京增设办公室。 3. 具备良好的问题排查能力与团队协作意识，能够配合团队完成推理部相关的各项技术任务