27届校招-大模型推理开发工程师-南京

该职位来源于猎聘 岗位职责：

• 负责大模型（LLM）推理引擎的优化与部署，将推理延迟降低30%以上
• 设计并实现高性能计算算子，提升GPU/NPU等硬件利用率至80%以上
• 开发模型压缩与量化工具，实现模型体积减少50%的同时精度损失小于1%
• 协同算法团队完成大模型在垂直场景的落地应用，支持至少3个业务线

任职要求：

• 硕士学历，计算机、人工智能、电子工程等相关专业，27届应届毕业生
• 熟练掌握C++/Python，具备CUDA、TensorRT或类似推理框架开发经验
• 熟悉Transformer架构及大模型推理优化技术，如KV Cache、PageAttention等
• 有强烈的技术热情和解决问题的能力，在相关领域有实习或项目经历者优先