面向生产环境的大模型轻量化推理平台，通过模型量化、KV缓存优化和动态批处理等技术，实现高吞吐、低延迟的推理服务。
- 实现了INT8/INT4量化推理引擎，在保持模型精度损失小于2%的前提下，推理速度提升3-4倍，显存占用降低60%
- 设计了高效的KV缓存管理机制，支持多轮对话的上下文复用，将长文本推理延迟降低40%
- 开发了动态批处理调度系统，根据请求队列自动调整批次大小，吞吐量提升2.5倍，GPU利用率达到85%以上
- 构建了完整的服务化框架，支持模型热更新、负载均衡和自动扩缩容，QPS达到1000+，P99延迟控制在200ms以内
针对小尺寸大语言模型进行领域适配的后训练，通过参数高效微调技术提升模型在特定任务上的性能，实现模型轻量化部署。
- 采用LoRA/QLoRA等参数高效微调技术，将训练参数量降低至全量微调的1%以下，显著降低显存占用和训练成本
- 构建了高质量的训练数据集，通过数据清洗、去重和增强，提升模型在下游任务上的准确率15%以上
- 优化训练流程，使用DeepSpeed ZeRO和梯度检查点技术，在单卡24GB显存环境下完成7B模型的微调训练
- 设计了完整的评估体系，包括BLEU、ROUGE等自动指标和人工评估，确保模型质量满足生产要求
基于RAG架构的智能运维Agent系统，融合知识图谱和向量检索技术，为大语言模型提供结构化和非结构化的知识支持，实现精准的运维问答和决策辅助。
- 设计并实现了基于Neo4j的知识图谱构建模块，支持多源数据融合和知识推理，构建了包含10万+实体和50万+关系的运维知识图谱
- 开发了基于向量数据库的混合检索系统，结合关键词检索和语义检索，检索准确率提升35%，响应时间控制在100ms以内
- 集成LangChain框架构建RAG pipeline，实现了与大语言模型的API对接，支持多轮对话和上下文理解，问答准确率达到85%以上
- 使用FastAPI构建RESTful API服务，采用异步处理和连接池优化，支持高并发访问，QPS达到500+，系统可用性99.9%
- 参与Crossformer时间序列预测项目，负责数据预处理和特征工程，优化模型输入格式，提升预测准确率8%
- 参与迁移学习项目，研究预训练模型在汽车行业数据上的适配方法，通过领域自适应技术将模型准确率提升12%
- 优化K-means聚类算法，改进初始中心点选择策略和距离计算方式，聚类效果提升15%，运行时间缩短30%
控制科学与工程(硕士),GPA:82/100
自动化(学士),GPA:3.2/4.0,CET-6
De Bao,
Yongjian Wang,
Shihua Li
IEEE Transactions on Industrial Informatics(TII), Volume 21, Issue 2, 1714--1723, Feb 2025.
Yongjian Wang,
De Bao,
S. Joe Qin
Chemometrics and Intelligent Laboratory Systems, Volume 240, 15 September 2023, 104878.
De Bao,
Yongjian Wang,
Shihua Li
2023 6th International Symposium on Autonomous Systems (ISAS). IEEE. 03 July 2023.
Long Zhao,
Rongjie Liu,
Shihua Li,
Xiangyu Wang,
De Bao
2023 6th International Symposium on Autonomous Systems (ISAS). IEEE. 03 July 2023.
Yongjian Wang,
Shihua Li,
Xisong Chen,
Yuan Zhao,
Cheng Qian,
De Bao
Chemical Engineering Science, Volume 277, 5 August 2023, 118864.
- 2025年 - 校友会云视科技奖学金（唯四）
- 2024年 - 张江高科奖励基金会奖学金（唯四）
- 2022年 - 东南大学研究生学业奖学金
- 2021年 - 武汉科技大学本科优秀毕业设计（唯二）
- 2020年 - 全国大学生数学建模竞赛国家二等奖
- 2020年 - 湖北大学生数学建模竞赛省级一等奖
- 2019年 - 全国大学生数学建模竞赛国家二等奖
- 2019年 - 湖北大学生数学建模竞赛省级一等奖
- 2019年 - 国家励志奖学金
- 2019年 - 武汉科技大学二等奖学金
- 2018年 - 武汉科技大学三等奖学金
- 2018年 - 武汉科技大学优秀学生
* 2021.06-2022.09期间备考清华大学电子信息硕士