山东浪潮科学研究院申请提升大语言模型输出准确率的专利
金融界 2024 年 10 月 24 日消息，国家知识产权局信息显示，山东浪潮科学研究院有限公司申请一项名为“提升大语言模型在 RAG 框架下输出准确率的方法及装置”的专利，公开号 CN A，申请日期为 2024 年 7 月。
专利摘要显示，本申请涉及自然语言处理技术领域，公开了一种提升大语言模型在 RAG 框架下输出准确率的方法及装置，该方法涵盖多个环节：先对上传的多种格式文档进行版面分析、内容提取与分段处理，捕捉每段关键信息；随后，对这些分段进行向量化操作，连同对应权重存储于向量库。接下来，利用大模型为分段生成相关问题，并按结构分类储存。在用户提问时，系统根据关键词推荐问题，并执行关键词和向量双重搜索，最后合并、过滤搜索结果。基于这些优选素材，大模型将生成并返回精准答案。这一创新方法显著提高了大语言模型在 RAG 框架下的性能，有效减少了幻觉现象，为用户提供了更准确、更可靠的回答。
本文源自：金融界
