LongRAG —— 智谱携手清华及中科院打造的双重视角稳固检索架构

LongRAG指的是什么？

清华大学、中国科学院及智谱的研究人员共同开发了LongRAG框架，专为长文本问答（LCQA）设计了一种双视角的鲁棒检索增强生成系统。该框架通过集成混合搜索模块、LLM强化信息抽取器、CoT引导筛选器以及LLM加强内容生成器这四大核心组件，显著提升了对长文段落全局语境的理解及关键细节辨识的能力。在多种数据集上测试表明，LongRAG的表现超越了传统的长文本处理模型、高级检索增强框架和基础版的RAG系统，展现了其优异的效果与稳定性。此外，该框架还引入了一套自动化微调数据生成流程，以提升系统的指令遵从性及跨领域适应能力。

LongRAG的核心作用

• 双重角度数据处理从整体信息与具体事实两个角度出发，解析并回应长篇文字中的疑问。
• 组合搜索工具：迅速从海量资料里提取与问题相关的细节信息。
• 基于大语言模型的资讯抽取工具把找到的片段与原始较长的文字部分相对应，从中抽取出整体上下文及框架信息。
• 基于CoT的筛选工具采用链式思维（Chain of Thought, CoT）方法引导模型聚焦于和问题紧密相连的细节，并筛除无关信息。
• 利用LLM优化生成程序整合全面的信息与核心的事实细节以形成最终的答案。
• 自动化的精细调整数据构造通过构建高质量的数据集来实现自动化流程的优化，进而增强模型在特定任务中的性能。

LongRAG的核心技术机制

• 搜索加强创作（SAC）利用RAG架构，搜寻外在信息以协助语言模型构建回复。
• 整体与局部信息的融合该系统不但注重局部的事实细节，而且还结合了全文的总体信息，从而能够给出更加综合的回答。
• 配置方案把找到的片段重新定位到最初的完整文档中，以重建其周边的信息环境，并给出更为精确的情境框架。
• 链条式推理（Chain of Thought）借助CoT作为环球指引，引导模型逐渐聚焦于相关知识点，从而增强证据的集中度。
• 筛选方案利用CoT的整体线索，剔除无关信息部分，保存核心事实要素。

LongRAG项目的网址

• Git存储库：访问此链接以查看项目 – https://github.com/QingFei1/LongRAG
• 关于技术的arXiv学术文章该论文的预印本可在如下链接获取：https://arxiv.org/pdf/2410.18050，这里提供了最新的研究成果。

LongRAG的使用情境

• 客户关怀及服务支援于客服行业之中，解读并回应客户的详尽咨询或是过往互动纪录，以期给出更加精准的答案与解决策略。
• 健康咨询服务在医疗领域管理庞大的患者档案及医学资料，并解答医生与患者提出的有关病症、疗法及药品的复杂疑问。
• 法律顾问咨询服务为法律专家提供服务，通过解析海量的法律法规文档及案件实例，给予深层次的法理剖析与专业意见。
• 教学和学术探究在教育行业里，用作支持性资源以协助学习者及科研人员更透彻地解析复杂且冗长的学术著作与科研报告，并回应相关的探究问题。
• 公司抉择辅助通过对市场研究资料及公司年度报告等详尽文件的解析，为企业战略抉择提供基于数据分析的支持与深度见解。