YRCache产品经理

岗位职责： 1、负责 YRCache 产品（含显存-内存-本地 NVMe-分布式存储多级缓存架构）的全生命周期管理，制定从 0 到 1 的产品路线图（Roadmap）。 2、定义 KVCache 卸载（Offloading）与复用场景下的关键指标：TTFT（首字延迟）、TPOT（每 token 输出时间）、缓存命中率、带宽利用率及 TCO 降低比例。 3、结合公司现有的分布式文件存储底座，设计针对 AI 推理优化的存储加速方案（如：基于 GDS/GPUDirect Storage 的直通路径、高并发小文件元数据优化、KVCache 专属的持久化与一致性模型）。 4、深入调研 vLLM、SGLang、TensorRT-LLM 等主流推理框架的社区生态与调度机制，挖掘Prefix Cache（前缀缓存）、PD 分离（Prefill/Decode Disaggregation） 场景下的存储交互需求 。 5、对接智算中心、大模型厂商及互联网客户，收集长上下文推理、多轮对话、RAG 及 Agent 场景下的真实痛点，输出高质量的 PRD 与解决方案。 6、与研发团队（存储内核、推理优化、K8s 调度）紧密协作，主导技术方案评审，确保产品在高并发下的 IO 抖动、元数据性能瓶颈等工程难题上具备可落地性。 7、跟踪分析 NVIDIA Dynamo（KVBM）、VAST Data、Weka 及云厂商（如字节/阿里）在 KVCache 加速与推理存储领域的最新动态，输出竞品分析报告 。 8、配合售前与市场团队，撰写产品白皮书、性能基准测试报告（Benchmark）及客户案例，支撑头部客户 POC 测试中的技术答疑与性能调优。 任职要求： 1、本科及以上学历，计算机、软件工程、电子工程等相关专业。 2、5 年以上产品经理经验，其中至少 2 年专注于 AI Infra、分布式存储、云计算或高性能网络领域 。 3、技术理解力（核心）： 必须理解 LLM 推理的基本原理（Prefill vs Decode 阶段差异），熟悉 KVCache 在显存中的管理机制（PagedAttention 等），并了解如何通过存储介质（DRAM/NVMe/分布式文件系统）进行层级卸载 。 4、存储背景： 熟悉分布式文件系统（如 Lustre、CephFS、BeeGFS、GPFS 等）或高性能存储栈（SPDK、RDMA、GDS），理解 POSIX 语义在高并发 AI 负载下的挑战 。 5、极强的跨团队推动力： 能够在“存储研发”与“AI 算法/推理框架”这两个技术栈差异极大的团队之间建立共识，推动特性按时上线。 6、数据驱动： 习惯用 Benchmark 数据（吞吐、延迟、GPU 利用率）说话，而非单纯的功能堆砌。 加分项（优先考虑）： 有 vLLM / SGLang 社区贡献或企业级推理平台（如 KServe、Triton）的产品化经验。 熟悉 NVIDIA Dynamo / KVBM 架构，或有参与类似 KVCache 分级管理（Host Memory Offloading）项目的实战经验 。 有智算中心存储方案设计经验，了解 GPU 集群网络拓扑（IB/RoCE）对存储 IO 的影响。 有过从 0 到 1 主导 AI 存储产品（特别是针对推理优化场景）并实现规模化商业落地的经历 。