Skip to main content

Token平台技术负责人

Technology
上海世纪利通数据服务有限公司
上海-浦东新区, 中国2个月前截至 2026/9/7
全职

职位描述

岗位职责 1. 公司从传统裸金属算力租赁向 TaaS(Token即服务)转型的整体战略,制定Token工厂中长期技术路线与整体规划,搭建算力底座、Token生产、调度、分发全栈技术架构。 2. 统筹GPU集群、推理引擎、智能调度、计量计费、多租户服务全链路设计,制定统一技术标准与迭代节奏,保障平台高可用、高吞吐、低时延稳定运行。 3. 围绕单位算力Token产出效率核心指标,制定阶段性技术优化目标,持续提升算力利用率、降低单Token生产成本,拉升整体业务收益。 4. 负责Token工厂业务团队的招聘和组建,打造扁平化高效技术团队。5. 对接上下游技术伙伴、硬件厂商及AI 应用客户,输出定制化技术方案,结合业务场景完成模型推理与算力适配。 二、任职要求 1. 计算机、云计算、大数据等相关专业,3年及以上大规模GPU算力集群、AI大模型推理全栈技术实战经验:有算力平台、智算中心、AI 云服务平台从0到1落地经验者优先。 2. 精通Linux 操作系统、CUDA技术生态,熟练运维 NVIDIAGPU集群、IB 高速网络、液冷智算机房;深入掌握算力池化、资源虚拟化、K8s容器化、多租户隔离、负载均衡等技术,可独立完成集群架构改造与故障攻坚。 3. 具备大模型推理全流程实操能力:精通模型量化、剪枝、蒸馏等轻量化技术,熟练使用TensorRT、vLLM 等主流推理加速框架;深刻理解KV Cache、动态批处理、显存优化原理,可独立完成模型部署、性能调优、瓶颈定位,平衡推理精度与运行效率。 4. 拥有分布式系统、算力调度系统开发经验,熟悉任务分发、分时复用、监控告警、数据统计、按量计费系统设计;掌握后端开发技术,可主导Token计量、算力路由、运维监控平台的搭建与迭代。

Keywords
3-5年ScigressInterSystems Caché

对这个职位感兴趣吗?