MaaS平台开发工程师
米哈游职位描述
工作职责: 1. 推理产品功能开发 - 在线推理服务:服务创建/配置/发布/下线、API/SDK(OpenAI 兼容协议)产品化 - 离线推理服务:批量推理任务的提交/调度/结果回收 - 模型广场(Model Catalog):模型目录、版本、别名、上下线与元数据管理 - 模型挂测:模型效果/性能评测接入与榜单/报告产品化 - MCP、Agent Gateway 等 Agent 生态相关的控制面能力 2. 数据面流量治理(与数据面网关协作,负责策略与配置) - 配额:租户/项目/Key/模型维度的额度管理(RPM/TPM/并发等),配额的查询、调整与超限处置 - 流控:限流/熔断/降级策略的配置与下发,超限返回 429 与 Retry-After,保障后端不被打爆 - 路由策略:按模型/版本/租户/地域/灰度比例等维度的流量分发规则,跨集群、多服务的路由配置与灰度切流 - 保证流量分发的正确性与可观测,配合定位流量相关问题 3. 功能迭代与交付:需求拆解、接口设计、编码、自测、联调,快速迭代、测试与发布上线;线上问题的定位与修复; 4. 工程质量:编写接口文档与单测,参与 Code Review;对所负责功能的可用性与质量负责; 任职要求: - 计算机相关专业,3 年以上后端/平台开发经验; - 熟练使用 Go 开发服务端,有微服务/分布式系统实战 - 熟悉 Kubernetes,有基于 K8s 的服务部署、配置与排障经验 - 有 MaaS 平台 / 公有云 AI 平台 / 推理平台的产品或开发经验(简历中需体现实际参与的平台模块) - 有平台型产品或中后台系统的开发经验,能独立负责功能模块的端到端交付 - 熟悉 MySQL/PostgreSQL、Redis、Kafka 等常用中间件,理解高并发、缓存、队列 - 具备快速迭代与自测能力,有产品感觉,能和产品/前端高效协作 加分项: - 了解推理链路与基本原理(模型部署、Runtime、流式输出、TTFT/TPOT 等) - 熟悉 Agent / MCP / Function Calling 等 LLM 应用生态 - 有数据面流量分发、API 网关(Kong/APISIX/Envoy)或跨集群调度经验 - 有 OpenAI-compatible API 开发或对接经验
对这个职位感兴趣吗?