跳转到主要内容

后训练工程师LLM Post-training Engineer(校招/实习转正)

Technology
协芯盛
上海-浦东新区, 中国¥25,000 - ¥45,000 /月1个月前

职位描述

岗位职责 1. 负责公司大模型的领域适配与后训练,围绕领域推理、代码生成、工具调用和多轮任务执行能力,建设并持续迭代 Model Flywheel,形成“数据构建—后训练—独立评测—部署验证—反馈回流”的模型改进闭环。 2. 建设训练数据生产流程,采集和整理领域资料、专家示范、真实任务轨迹及使用反馈,完成数据清洗、去重、标注和质量筛选,管理数据来源与版本,做好训练和评测数据隔离。 3. 设计合成数据、Agent Rollout 和轨迹筛选流程,构建指令数据、偏好数据及可验证任务;结合失败案例、任务覆盖度和难度分布,优化数据配比、采样策略及训练课程。 4. 根据业务目标和数据条件,制定并实施 SFT、偏好优化、RLHF / RLVR 及蒸馏方案,完成训练设计、实验验证和模型迭代,分析不同数据与训练策略对实际任务表现的影响。 5. 与领域工程师合作,构建和接入任务环境、奖励函数及验证器,将工具执行结果、任务完成情况和结果质量转化为训练反馈;结合真实任务的执行成本与反馈周期,处理奖励偏差、奖励投机及稀疏或延迟反馈等问题。 6. 基于成熟框架建设和扩展后训练工具链,打通分布式训练、Rollout、奖励计算、权重同步、评测及模型导出流程,持续改善训练稳定性、吞吐、显存利用率和实验成本。 7. 建设面向实际任务的自动化评测与回归测试体系,评估任务成功率、结果质量、泛化能力、工具调用可靠性及执行成本,验证模型改进并识别能力回退。 8. 结合训练指标、独立评测和真实任务失败案例开展归因分析,区分数据、模型、训练策略、工具及环境问题,将结论转化为下一轮数据与训练方案,通过对照实验验证迭代收益。 任职要求 1. 计算机、人工智能、数学或相关专业硕士及以上学历,特别优秀者可适当放宽。 2. 具有扎实的深度学习和强化学习基础,深入理解 Transformer 及大模型训练、推理机制;熟练使用 Python、PyTorch 和 Hugging Face 生态,具备阅读、修改和调试训练源码的能力。 3. 具备完整的大模型后训练项目经验,实际承担过数据构建、SFT、偏好优化、强化学习后训练及评测迭代,能够独立完成方案设计、训练调试、效果验证和模型交付。 4. 熟练掌握监督微调、偏好优化和强化学习后训练方法,深入理解 DPO、PPO、GRPO 等代表性算法的目标函数与优化机制,以及策略梯度、优势估计、重要性采样、KL 约束等关键概念;具备 RLHF / RLVR 和模型蒸馏实践,能够判断不同方法对数据、奖励信号及采样方式的要求与适用条件。 5. 掌握全参数微调与 LoRA 等参数高效微调方法,能够正确处理分词与对话模板、序列拼接、Loss Mask、截断及多轮工具调用轨迹,理解数据组织、训练目标和实现细节对模型行为的影响。 6. 熟练掌握完整的后训练工具链:在 verl、OpenRLHF 等后训练框架,vLLM、SGLang 等推理与 Rollout 引擎,以及 FSDP、DeepSpeed、Megatron 等分布式训练方案中,各具备至少一种深入实践经验,能够按任务需求修改和扩展相关流程。 7. 具备多 GPU 训练与推理经验,理解常见并行策略、参数与优化器状态分片、混合精度及梯度检查点等机制;能够结合模型规模、上下文长度和硬件资源选择合理配置,定位显存、通信及吞吐瓶颈。 8. 具备训练数据、偏好数据、奖励函数及验证器的设计能力,能够将业务目标转化为可学习的训练任务和可检验的评价标准,做好数据质量控制与评测隔离,识别数据泄漏、奖励偏差和评测污染。 9. 具备系统的实验设计和训练诊断能力,能够结合 Loss、奖励、KL、熵、梯度统计及任务表现定位问题,处理训练不稳定、策略退化、奖励投机及训练与采样不一致等情况,并通过未见任务和独立评测验证实际改进。 10. 具备优秀的软件工程素养,重视模块设计、自动化测试,以及数据、代码、配置和模型版本管理,能够构建可测试、可追溯、可复现的训练与评测流程。 加分项 1. 有真实业务场景中的持续、多轮模型迭代经验,能够说明数据策略、训练方法与模型效果之间的关系,并提供可复现的任务效果或成本改进结果。 2. 在长程任务信用分配、异步强化学习、训练与推理一致性、分布式训练或推理性能优化等方向有深入研究或实质性工程改进经验。 3. 对大模型训练、推理或后训练框架有实质性开源贡献,或独立实现并验证过相关算法及关键模块。 4. 在 IEEE / ACM Transactions 或公认的国际会议和期刊上发表过高质量论文。 5. 熟悉 PnR Flow、相关 EDA 工具及实际任务评价方式。 6. 具备成熟的 AI 辅助研发实践,能够将优秀的软件工程素养迁移到 AI 工具的日常使用中: (1)信息获取与消化:借助 AI 高效检索和消化论文、技术报告、开源项目与训练代码,能够核验来源、理解技术细节并形成独立判断。 (2)快速实现与迭代:借助 AI 快速完成数据处理、训练、评测及原型系统的开发与迭代,同时落实模块设计、代码审查、测试验证和版本管理,对代码质量、实验正确性及最终技术判断负责。 截止日期:2027年10月06日 招聘人数:1人

Keywords
应届Windows legacy audio componentsDeepSpeedPyTorchPython

对这个职位感兴趣吗?