云文 石

我是一名物理学方向的研究生，目前主要研究方向转向大语言模型与信息检索系统，专注于大模型在真实场景中的应用与优化。在项目实践中，我独立设计并实现了一个面向科研场景的中文论文检索系统，完整覆盖了从数据构建、模型训练到检索优化的全流程。在该系统中，我构建了基于LLM的数据生成与评估流程，完成了论文摘要的自动化标注与质量控制，并通过SFT与DPO对7B级模型进行微调，实现低成本高质量的论文总结能力。同时，我设计了基于Query Rewrite的检索增强机制，结合Embedding召回与Reranker重排序，并引入Hard Negative Mining优化BGE向量模型，使检索效果得到显著提升。此外，我还实现了BM25与向量检索的混合召回策略，并搭建了完整的评估体系，包括Recall@K、MRR和NDCG等指标，用于系统性优化检索性能。在工程能力方面，我熟悉Python与PyTorch，掌握HuggingFace生态与Elasticsearch，能够独立完成从数据处理、模型训练到系统部署的完整流程。我希望未来能够在大模型算法或AI应用方向持续深入，聚焦于RAG系统优化、多模态检索以及大模型落地应用。

实习生 at 南京格泽科技 (2025-06 – 2025-09)

负责大模型算法和RAG系统的研发工作

• 构建 arxiv 中文搜索引擎，首先将 arxiv 用中文进行详细的总结，包括论文概要、算法流程、实验对比、发布机构。提供时间 + 机构 + 中文内容的检索，提升科研效率。网站地址：
• Arxiv 文章中文总结：1）构建高质量数据集，使用 universal self-consistency + cot + refine prompt 技术构建高质量英文论文总结数据集。2）大模型蒸馏小模型，使用高质量数据集 + lora 微调 7B 模型，并在 sft 基础上使用 dpo 进一步提升总结质量。3）搭建大模型输出好中差评估模块，提升迭代效率。
• 用户 query 改写：1）v1 版本，使用 cot + 动态 few shot prompt 分析用户 query，并改写 query 为检索关键词 query+embedding 语义 query。2）v2 版本，使用以上 prompt 方案构建高质量改写数据集，并微调 0.5B 模型。
• embedding + reranker 微调：1）通过大模型构造 query，使用 es 引擎构建 对，使用大模型构造正负样本 。2）微调 embedding 模型 + reranker 模型。
• 校园知识检索问答系统：构建 rag 问答系统，组装校园知识问答一体机，提供成绩、课表、自习室、图书、论文和校园知识六大查询功能。
• 数据集构建：1）构建 chunk 切分模块，构建检索数据集。搭建 vllm 环境，构建大模型推理引擎。
• 用户 query 改写微调：1）通过构建学生 roleplay，构建学生 + 使用场景数据。2）构建模拟学生机器人 + ai 助理机器人构建多轮对话 + 学生自己写的 query，使用 gpt4o 进行多 query 改写得到高精度样本集。2）使用该高精度样本集，微调 3B 模型。
• Bge 检索和 reranker 微调：1）使用 gpt4o 构建高质量正负样本集，微调 bge base embedding 和 reranker 模型。

本科 in 物理学 – 云南大学 (2020-09 – 2024-06)

硕士 in 物理学（计算物理方向） – 重庆大学 (2024-09 – 2027-06)