AI应用工程师（聚合分发）

岗位职责 1. 负责AI模型聚合分发技术整合，接入多家大模型API（通义、DeepSeek、Qwen、OpenAI等），实现统一请求入口、模型路由、负载分发、自动降级切换，支撑AI Agent、AI感知系统等内部业务调用。 2. 开发流式转发能力（SSE / WebSocket），优化长连接时延、超时重试、并发稳定性，解决大模型流式输出卡顿问题 。 3. 搭建Token级用量统计、API Key鉴权、租户隔离、限流配额、调用计费、日志链路追踪、异常监控告警体系 。 4. 模型调度策略开发：基于成本、延迟、成功率做智能路由；实现故障模型自动切流、灰度放量、熔断保护。 5. 对接自研Agent平台，完成任务分发、请求编排、上下文透传，配合业务侧调试多模型混合调用场景。 6. 持续做性能压测、系统调优，评估新模型/新接口接入成本，沉淀标准化模型接入组件。 7. 负责线上问题排查，保障7*24小时AI推理服务高可用。 任职要求 1. 本科及以上，计算机、软件工程相关专业，3年以上后端开发经验，有AI聚合网关/大模型API平台/NewAPI二次开发经验优先。 2. 熟练 Golang / Python，熟悉HTTP、SSE、WebSocket；熟悉Redis、MySQL、消息队列、分布式网关原理。 3. 熟悉LLM API调用机制，了解模型流式推理、Token计算，做过多模型路由、限流、熔断、降级落地项目。 4. 了解高并发、长连接场景的性能调优，能独立完成压测、定位延迟与稳定性问题。 5. 了解AI Agent工作流，有智能体任务调度、工具调用平台开发经验加分。 6. 良好工程习惯，具备接口设计、单元测试、线上故障复盘能力。 优先加分项 - 有NewAPI、OneAPI开源聚合平台二次开发实战 - 熟悉向量库、RAG、多模态模型接入 - 有物联网+AI结合项目经验（硬件端AI调用场景，匹配数智化物联网业务） - 项目为AI智能体+物联网硬件AI康养赛道，可深度参与产品从0到1落地。