贵州电子商务云运营有限责任公司【岗位职责】:
1.负责基于大语言模型(如GPT、Llama、ChatGLM等)的Python后端服务开发与系统集成;
2.设计并实现高效、稳定的模型推理接口,负责大模型服务的吞吐量(TPS)优化与首字延迟(TTFT)控制,能够定位并解决分布式推理中的性能瓶颈;
3.参与大模型的数据处理、Prompt工程及训练流水线的开发,负责基于 SFT、LoRA/QLoRA 等技术的模型微调流程,提升模型在特定垂直领域的指令遵循能力;
4.负责多智能体协同(Multi-Agent)的设计,优化 RAG 流程中的检索精度(Recall)与生成质量;
5.负责模型在国产显卡或边缘端的部署适配,熟悉 FP16/INT8/AWQ 等量化方案;
6.编写高质量、可维护的代码,并参与技术文档与单元测试的编写。
【任职要求】:
1.3年以上 Python 开发经验,熟悉 Python 3.10+ 新特性;精通 FastAPI 或 Starlette 等异步 Web 框架;2. 深入理解 asyncio 异步编程模型,有处理高并发请求及 Stream 流式响应 的实战经验;
【AI大模型相关】:
1.理解Transformer架构及大模型基本原理(如Attention、Tokenization、Embedding);
2.有实际的大模型调用、Prompt调优、推理部署经验(如使用HuggingFace、vLLM、FastAPI等);
3.熟悉至少一种常见大模型开源生态(LlamaIndex、LangChain、Transformers等);
了解向量数据库(如Milvus、Pinecone、Chroma)及检索增强生成(RAG)流程。
【加分项】:
1.有模型微调(LoRA、QLoRA、P-tuning)或分布式训练经验;
2.熟悉C++/Rust,参与过模型底层算子或推理引擎优化;
3.有AI Agent(AutoGPT、ReAct、Function Calling)实际项目经验;
4.在GitHub有高质量开源项目或技术博客/论文。
对这个职位感兴趣吗?