AI大模型运维工程师

岗位职责： 1.负责 Qwen / DeepSeek / Llama 等开源大模型的私有化部署与服务化，使用 vLLM / SGLang 等推理框架提供 OpenAI 兼容 API。 2.负责 GPU 集群的资源分配、任务调度、多租户隔离与弹性扩缩容，提升算力利用率。 3.搭建 GPU 显存、推理性能（QPS / 延迟）等资源的可视化监控面板与告警体系。 4.搭建并运维内部 AI Agent 平台，集成 RAG、工具调用、多轮对话等能力。 5.负责 Linux 服务器的日常运维，包括系统调优、磁盘 / 网络配置、故障排查与 Shell 自动化脚本编写。 任职要求： 1.本科及以上，计算机 / 软件工程相关专业 2.了解 Dify / FastGPT / LangChain / AutoGen 等 Agent 框架 3.熟练使用 Docker、Kubernetes，能独立部署大模型推理服务 4.熟悉至少一种推理框架（vLLM / SGLang / XInference），了解量化、显存优化 5.熟悉 Prometheus + Grafana，能搭 GPU 监控面板 6.有 Python 后端开发能力，能写自动化脚本 7.熟悉 MySQL / PostgreSQL、Redis、MinIO 等常见中间件的部署、监控与运维