Agent Network 后端研发工程师-算力基础设施
字节跳动职位描述
职位描述: 我们正在建设面向企业级 AI 应用和 Agent 生态的 Agent Network 基础设施,为各类 Agent、模型服务、MCP Server 和业务系统提供统一接入、访问控制、协议适配、流量治理和可观测能力。你将参与 Agent Gateway 核心系统的设计与研发,围绕 Agent 接入、Agent 对外访问控制、模型网关、MCP 网关等方向,构建高可靠、可扩展、可治理的 AI 基础设施底座。 工作职责 1、负责 Agent Network 核心系统设计与研发,建设面向 Agent 的统一接入层,支持 Agent 注册、接入、路由、协议适配、流式返回、会话管理和调用链路治理等能力; 2、负责 Agent 对外访问控制能力建设,围绕 Agent 调用外部 API、工具、服务的场景,设计并实现鉴权授权、访问策略、租户隔离、权限校验等能力; 3、负责 模型网关能力建设,支持多模型统一接入、模型路由、协议转换、Fallback、灰度、熔断、限流降级,并结合场景、成本、质量、延迟等维度优化模型调用策略; 4、负责 MCP 网关能力建设,面向 MCP Server 和 Tool 调用场景,构建连接管理、权限控制、调用治理、协议适配和观测诊断能力,提升 Agent 调用工具链的安全性与可维护性; 5、跟进 LLM Gateway、MCP、Agent Runtime、Agent Identity 等前沿方向,持续提升高并发、高可用、低延迟、安全可控和成本优化能力。 职位要求: 1、计算机相关专业,本科及以上学历,2 年以上后端研发经验。 2、具备扎实的计算机基础,熟练掌握至少一种后端编程语言(如 Go、C、C++ 等)。 3、熟悉 TCP/IP、HTTP、gRPC、WebSocket、SSE 等常用网络与应用层协议,具备网络编程、故障定位及性能调优经验。 4、具备良好的系统设计能力,能围绕高并发、高可用、低延迟、可扩展性和安全性进行系统设计和工程落地。 5、熟悉鉴权授权、访问控制、租户隔离、审计追踪、限流熔断、灰度发布等企业级治理能力。 6、对 AI 基础设施、Agent 系统、模型网关或 MCP 有持续好奇心,愿意在 AI Infra 方向长期深入发展。 加分项: 1、有 Agent Gateway / 模型网关 / AI Gateway/ MCP 网关 等系统建设经验。 2、熟悉 Envoy、LiteLLM,等基础设施技术。 3、有权限系统、策略引擎、零信任网关、企业级访问控制、审计合规等安全治理经验。 4、有大规模分布式系统、云产品或 AI 平台研发经验。
对这个职位感兴趣吗?