MemGraphRAG: Memory-based Multi-Agent System for Graph Retrieval-Augmented Generation用于图检索增强生成的基于记忆的

一、研究背景与问题定位

研究领域:检索增强生成(RAG)与图检索增强生成(GraphRAG)

核心问题

  1. 传统RAG在处理大规模非结构化语料时,信息碎片化导致检索上下文不连贯

  2. 现有GraphRAG方法采用孤立片段级提取构建知识图谱,缺乏全局视角

  3. 这种孤立提取导致三个关键缺陷:

    • 主题不相关性:提取的三元组与中心主题无关

    • 逻辑不一致性:矛盾事实共存于同一子图中

    • 结构碎片化:实体重复、子图断开,削弱多跳推理能力

关键发现(初步研究):

  • GraphRAG虽能提高召回率(如GFM-RAG达84.3%),但相关性大幅下降(仅38.5%),导致生成准确率反而低于朴素RAG

  • 过滤掉40%低频三元组后,准确率反而提升,证明大量提取内容为噪声

二、核心解决方案:MemGraphRAG框架

整体架构

MemGraphRAG提出基于记忆的多智能体系统,包含两个核心阶段:

阶段一:基于记忆的索引图构建

  • 采用三层全局记忆结构(M):

    • 本体层(M_ont):存储模式及其频率

    • 事实层(M_fac):维护具体事实三元组

    • 段落层(M_pas):保存原始文本证据

  • 多智能体协作系统(A)

    • 提取智能体(A_ext):从文档块提取模式、事实和段落

    • 冲突检测智能体(A_det):监控事实层,识别冗余和逻辑冲突

    • 冲突解决智能体(A_res):利用全局记忆和证据裁决冲突

阶段二:记忆引导的在线检索

  • 多层记忆过滤 → 结构感知节点初始化 → 个性化PageRank(PPR)传播

三大核心机制

1. 主题去噪:统一模式过滤

  • 新提取模式初始为"候选状态",频率超过阈值τ后才升级为"稳定"

  • 只有稳定模式对应的事实才能进入图结构,有效过滤噪声

2. 一致性维护:全局裁决

  • 冲突检测:基于语义相似性和结构约束识别冲突集

  • 证据驱动解决:从段落层检索原始来源,比较文本证据进行裁决

  • 可解决三类冲突:互斥冲突、时间冲突、粒度冲突

3. 结构统一:记忆引导桥接

  • 基于类型的连接:共享相同模式类型的实体建立连接

  • 基于相似性的连接:嵌入相似度超过阈值的实体间建立隐式边

三、实验验证

实验设置
  • 数据集:HotpotQA、2WikiMultiHopQA、MuSiQue、G-Bench(Medical & Novel)

  • 基线对比:涵盖零样本LLM、朴素RAG、12种GraphRAG方法(HippoRAG2、LinearRAG、GFM-RAG等)

  • 评估指标:字符串准确率、LLM准确率、上下文相关性、证据召回率

主要实验结果

Q1:生成准确性

  • MemGraphRAG平均准确率达59.25%,比最强基线(LinearRAG 57.15%)高出2.10%

  • 在所有数据集上均取得最优结果

Q2:检索性能

  • 复杂推理任务:召回率90.42%,相关性82.64%

  • 检索延迟仅0.061秒,远低于LightRAG(11.052秒)和HippoRAG(1.586秒)

Q3:图适应性

  • 将MemGraphRAG构建的图替换到其他框架(HippoRAG、MS-GraphRAG等),所有框架性能均有提升

  • 证明其为通用高质量图构建器

Q4:消融研究

  • 移除任一组件(模式过滤、冲突解决、中心抑制、信息密度项)均导致性能下降

  • 验证各模块的协同必要性

四、研究贡献

  1. 识别根本原因:首次系统指出GraphRAG性能退化的根源——孤立局部提取导致缺乏全局上下文

  2. 提出创新框架:将记忆机制引入图构建,实现提取过程的全局协调与动态演化

  3. 设计高效检索:记忆感知层次化检索算法,兼顾高精度与低延迟

  4. 充分实验验证:在多基准、多维度上证明方法的有效性和泛化能力

五、局限性

  • 当前仅支持单模态文本输入,无法直接处理图表、图像等多模态数据

  • 需将非文本元素预先转录为文本,可能导致视觉语义丢失

MemGraphRAG的核心创新在于将"记忆"作为图构建的全局协调机制,通过三层记忆结构和多智能体协作,使原本孤立的文档块提取过程获得了全局视角。这种"先验证、后索引"的理念有效解决了GraphRAG长期存在的噪声积累和逻辑冲突问题,为构建高质量的RAG系统提供了新的范式。其检索效率(0.061秒/次)也使其具备实际部署的可行性。这里是自己的论文阅读记录,感兴趣的话可以参考一下,如果需要阅读原文的话可以看这里,如下所示:

项目地址在这里,如下所示:

摘要

检索增强生成(RAG)已成为通过利用外部知识来缓解大语言模型(LLM)幻觉的重要方法。尽管对简单查询有效,但传统的RAG在处理信息高度碎片化的大规模非结构化语料库时表现不佳。基于图的RAG(GraphRAG)引入知识图谱来捕获结构关系,从而为复杂推理实现更全面的检索。然而,现有的GraphRAG方法依赖于孤立的、片段级的提取来进行图构建,缺乏对整个语料库的全局视角。因此,这些方法经常导致主题不一致、逻辑冲突和结构碎片化的图,从而降低检索性能。在本文中,我们提出了MemGraphRAG,一个新颖的框架,它引入了一个基于记忆的多智能体系统来确保高质量的图构建。具体来说,MemGraphRAG采用了一个由共享记忆支持的协作式智能体群体,该共享记忆在整个提取过程中提供了统一的全局上下文。这种机制允许智能体动态解决逻辑冲突并维护整个语料库的结构连通性。此外,我们提出了一种针对所构建图定制的记忆感知层次化检索算法。在多个基准上的广泛实验表明,MemGraphRAG在相当效率下优于最先进的基线模型。

CCS概念

  • 信息系统 → 检索模型与排序; - 计算方法 → 信息提取;知识表示与推理。

关键词

RAG, GraphRAG, 多智能体, 智能体记忆, 索引图

1 引言

近来,检索增强生成(RAG)通过利用外部知识有效地扩展了大语言模型(LLM)的能力[16, 31, 63]。然而,现有的RAG系统在现实场景中面临严峻挑战。这是由于大规模语料库的非结构化和异质性,其中相关信息通常稀疏分布。RAG系统检索到的上下文常常充满噪声且缺乏结构连贯性。尽管近来有方法尝试将文档分割成更小的块以实现高效索引[2, 27, 29],但这种策略破坏了长程依赖关系并丢失了关键的上下文细节。结果,检索到的上下文对于复杂的推理任务常常是不连贯或不充分的[23, 62]。

为了克服这些限制,图检索增强生成(GraphRAG)[41, 52, 62]已成为一种强大的范式,它利用外部结构化图来建模背景知识的层次结构[23, 57]。早期的工作,如RAPTOR [44]和微软的GraphRAG [12],通过递归摘要和社区级抽象来组织知识,以支持从粗到细的检索,从而促进全面的响应生成。随后的方法,包括GFM-RAG [37]、G-Retriever [24]和LightRAG [17],进一步结合了专门的检索机制和学习目标,以改进多跳泛化能力、可扩展性和效率。最近,HippoRAG [19]及其改进版HippoRAG2 [20]从认知联想记忆中汲取灵感,利用个性化PageRank等算法来模拟多跳推理路径。

图1:现有GraphRAG与MemGraphRAG的比较。现有GraphRAG在缺乏全局视角的情况下执行孤立的片段级提取,导致索引图充满噪声且不一致。而MemGraphRAG则整合了全局记忆以确保全局一致性。

图2:(左)代表性RAG和GraphRAG系统的评估。半径反映各系统的性能。相关性衡量检索到的上下文与查询的相关性。召回率衡量是否覆盖了足够的证据。(右)基于模式频率移除不相关三元组对最终性能(LLM-ACC)的影响。

这些策略展示了基于图的检索在解决传统RAG核心局限性方面的潜力。

然而,与其理论优势相反,GraphRAG系统在许多实际应用中的表现经常不如朴素的RAG系统[22, 52, 69, 70]。这种性能下降主要是由于自动构建的知识图谱质量低下[52, 70]。尽管基于图的检索增强了相关知识召回,但图构建中的错误同时将大量噪声引入了检索到的上下文中。从根本上说,这些挑战持续存在是因为现有流程通常从孤立的局部片段中提取知识,缺乏对先前处理过的上下文的全局视角。这种孤立性导致了三个严重损害图质量的关键缺陷:(i)主题不相关性:提取的三元组通常与中心主题无关,引入了无意义的事实。(ii)逻辑不一致性:矛盾的事实可能出现在单个子图内,损害语义连贯性。(iii)结构碎片化:构建的图经常遭受碎片化问题,其中孤立的节点和断开的组件削弱了知识图谱在支持全局理解和多跳推理方面的核心优势。

虽然一些近期的研究尝试通过在提取前使用预定义模式过滤三元组来改进图质量[9, 45],但这些方法泛化能力有限且人工成本高。其他工作尝试通过自底向上的基于聚类的社区摘要[12, 20, 50]或主题建模[44]来改进图质量。然而,这些无监督方法仍然容易受到错误传播的影响,因为实体关系中的不准确性往往会在高层摘要中被放大。

为了解决这个问题,我们重新审视了现有GraphRAG系统的流程,并提出了一种用于图检索增强生成的基于记忆的多智能体框架(MemGraphRAG)。具体来说,MemGraphRAG采用了一个由新颖的三层全局记忆支持的协作式智能体群体。这种共享的记忆结构作为一个统一的知识库,提供了全局视角,使智能体能够动态协调提取过程,在检测到冲突时予以解决,并整合整个语料库中的碎片化信息。总之,我们的贡献总结如下:

  • 我们确定了现有GraphRAG系统性能下降的根本原因:依赖孤立的局部提取。我们展示了这种全局上下文的缺乏如何不可避免地导致三个关键缺陷:主题不相关性、逻辑不一致性和结构碎片化。

  • 我们提出了MemGraphRAG,它将基于记忆的多智能体系统引入图构建中。共享记忆不仅维护全局主题一致性以防止不相关和碎片化,还提供基于证据的信息来解决局部逻辑不一致性。

  • 此外,我们提出了一种针对所构建图定制的记忆感知层次化检索算法。

  • 我们在四个基准数据集上进行了广泛的实验,证明MemGraphRAG在图质量、检索质量和生成准确性方面持续优于最先进的基线模型,验证了其在实际应用中的实用性。

2 问题陈述

为便于后续讨论,我们首先介绍知识表示的关键定义,然后给出GraphRAG的完整问题表述。

2.1 关键定义

我们首先为知识表示的核心组件提供形式化定义:

(i)类型(t)和实体(e):类型t(例如,人)表示一个抽象类别,而实体e(例如,爱因斯坦)是一个具体实例。形式上,一个类型函数φ将每个实体分配给其特定类型,表示为φ(e) = t。

(ii)模式(s)和事实(f):模式s = (t_h, r, t_t)(例如,(人, 出生於, 国家))指定了一个逻辑约束。t_h、t_t分别表示头类型和尾类型,r表示一个语义关系。基于此结构,事实f = (e_h, r, e_t)(例如,(爱因斯坦, 出生於, 德国))是模式的具体实例化,其中e_h、e_t表示头实体和尾实体。

(iii)本体(O):本体O定义为所有有效模式的集合,记为O = {s₁, …, s_{|O|} }。它包含了整个知识图谱的主题和逻辑规则。

(iv)段落(p):段落p表示作为提取信息来源的特定文本片段。我们定义一个函数ψ(f) = p来追踪每个事实f到其来源。

图3:提取图中三种冲突类型的图示:1) 由逻辑上不兼容的事实引起的互斥冲突,2) 由于时间变化状态缺少时间信息而导致的时间冲突,以及3) 由同一实体或概念的不同抽象层次引起的粒度冲突。详见附录C表8。

2.2 问题表述

我们将GraphRAG的任务形式化为一个包含两个不同阶段的统一框架:

(i)离线图结构构建。给定一个非结构化文档语料库D = {d₁, d₂, …, d_{|D|} },主要目标是将原始文本转换为结构化图G = (V, E)。在我们的框架中,顶点集V是异质的,包含实体、类型和段落(V = V_e ∪ V_t ∪ V_p),边集E编码了它们之间的语义依赖关系。形式上,此构建过程表述为

G = GraphConstructor(D) (1)

其中GraphConstructor(·)将非结构化语料库映射到语义图拓扑,促进从抽象概念到具体证据的高效导航。

(ii)在线图增强检索与推理。基于构建的图G,系统处理用户查询q以生成最终答案a。与提取孤立的文本片段不同,此阶段涉及在图内识别最优推理路径以策展结构化上下文。该过程表述为

a = LLM(Retriever(q, G)) (2)

其中Retriever(·)识别最相关的图元素(子图)以支持有依据的答案生成。

3 初步研究

尽管知识图谱可以建模复杂依赖关系,但最近的基准测试显示,先进的GraphRAG系统在现实世界的问答任务中可能不如朴素的RAG [52, 70]。为了调查这个问题,我们进行了两项初步研究,以分析自动图构建如何影响检索质量和下游生成。

3.1 性能退化

我们首先在G-Medical数据集[52]上比较了Vanilla RAG与最近的GraphRAG系统(MS-GraphRAG、HippoRAG和GFM-RAG)。如图2(a)所示,GraphRAG方法实现了更高的检索召回率(例如,GFM-RAG:84.3%对比RAG:71.8%),但相关性大幅下降(38.5%对比62.9%),导致上下文噪声更大,生成准确性更低。这些结果表明,现有的GraphRAG流程通常以引入过多不相关信息为代价来扩大检索覆盖率,最终损害了问答性能。

3.2 错误分析

为了进一步调查图构建为何引入噪声和冲突,我们假设根本原因在于大多数基线采用的孤立局部提取范式。缺乏持久的全局记忆,提取LLM独立处理文档块,这导致图质量的系统性问题。具体来说,我们总结了主要的失效模式如下:

主题不相关性。缺乏对语料库主题的全局视角,局部提取倾向于引入离题的三元组。为了量化这种影响,我们进行了一个过滤实验(图2(b)),该实验基于模式频率移除三元组。有趣的是,过滤掉40%的低频三元组略微提高了准确率(65.28%对比64.85%),这表明很大一部分提取的三元组是主题不相关的噪声。

逻辑不一致性。独立的提取也将在合并的图中引入语义矛盾。如图3所示,我们观察到互斥冲突、时间冲突和粒度冲突,这些冲突创造了不一致的推理路径并混淆了下游检索。更多冲突分析见附录C。

结构碎片化。由于缺少全局共指消解和模式对齐,关键实体经常被重复或分散在断开的子图中。这种碎片化阻碍了有效的多跳遍历,并降低了图在全局推理中的实用性。

3.3 讨论

当前的GraphRAG系统表现出两个基本限制。首先,现有的GraphRAG系统在召回率和相关性之间存在根本性的权衡。尽管图扩展提高了覆盖率,但它经常检索到不相关的证据,这些证据压倒了LLM并降低了生成准确性。其次,当前的GraphRAG系统在图构建期间缺乏全局记忆机制。大多数系统依赖于孤立的局部提取,独立处理文档块而不维护持久的全局状态。结果,构建的图未能保持主题连贯性和解决跨文档冲突,导致下游检索和推理过程中出现主题不相关性、逻辑不一致性和结构碎片化。

图4:MemGraphRAG框架概览,包含两个阶段:(i)基于记忆的索引图构建,其中全局记忆(M)和知识图谱(G)通过统一模式过滤、全局裁决和记忆引导的桥接共同演化;以及(ii)记忆引导的在线检索,它利用多层记忆过滤、结构感知节点初始化和个性化PageRank来识别全局相关的上下文以用于生成。

4 我们的框架

为了克服碎片化提取并实现连贯的图演化,我们提出了MemGraphRAG,一个用于构建和维护高质量知识图谱的基于记忆的框架。我们的关键见解是,可靠的图构建不仅需要结构化存储,还需要跨文档的持续协调和校正。如图4所示,它包含两个协作模块:基于记忆的图构建和记忆引导的检索。我们首先介绍基础架构,然后介绍图构建和检索流程。

4.1 MemGraphRAG架构

MemGraphRAG包含三个核心组件:一个全局记忆,它以不同的粒度存储模式、事实和段落,并支持层次化索引图的构建;以及一个多智能体组,它与记忆交互以迭代地提取、检测和解决冲突。具体来说:

全局记忆(M)将提取的知识组织成一个三层层次结构,包括存储模式及其提取频率的本体层(M_ont)、维护具体事实的事实层(M_fac),以及保存原始文本段落以作为证据基础的段落层(M_pas)。为了加强跨层关联,我们引入了一种密集索引机制,通过两种双向交互来强制模式一致性和证据可追溯性,其中模式-实例对齐将模式与事实相连接,事实-证据基础将事实与其支持的段落相连接。(详见附录D.2)。

层次化索引图(G)。它提供了一个统一表示,涵盖了抽象模式、具体事实和文本证据。它由三个相互连接的图视图组成:(i)语义本体图G_ont,源自M_ont,编码模式级的类型关系和结构约束;(ii)事实图G_fac,由M_fac构建,表示实例化的实体-关系三元组,用于多跳推理;以及(iii)源证据图G_pas,由M_pas导出,将G_fac中的事实与其支持的段落相连接。这种层次化设计使推理能够从抽象语义遍历到有依据的证据。更多细节见附录D.2。

多智能体组(A)。我们引入了一组智能体A = {A_ext, A_det, A_res}。具体来说:(i)提取智能体A_ext将模式、事实和段落提取到M中,并进行证据基础;(ii)冲突检测智能体A_det监控M_fac以检测冗余、结构异常和逻辑不一致;(iii)冲突解决智能体A_res利用来自M_ont的模式约束和来自M_pas的历史证据来解决冲突并维护G中的全局一致性。这种设计将提取、诊断和校正分离开来,以实现可靠的图构建。

4.2 基于记忆的索引图构建

传统的图构建通常孤立地处理文档块,导致索引碎片化和噪声累积。为了解决我们初步研究中发现的主题不相关性、逻辑不一致性和结构碎片化这些关键限制,我们将知识图谱构建重新构想为全局记忆M与知识图谱G之间的动态共同演化过程。与静态提取流程不同,我们的方法遵循三个核心原则,旨在系统性地解决这些问题:(i)通过统一模式过滤进行主题去噪:针对主题不相关性,我们采用统一模式来严格过滤和管理提取的三元组,确保只保留主题相关的知识;(ii)通过全局裁决维护一致性:为解决逻辑不一致性,我们利用全局记忆协助智能体检测和裁决跨不同文档的语义矛盾,从而确保图的逻辑统一性;(iii)通过记忆引导的桥接实现结构统一:为克服结构碎片化,我们利用全局记忆识别并合并断开的子图中的等价实体。通过连接孤立的局部提取并将其与全局本体对齐,我们构建了一个内聚且相互连接的知识表示。具体来说,我们的图构建过程描述如下:

4.2.1 通过统一模式过滤进行主题去噪。图构建始于提取智能体A_ext,它将每个文档块c_i转换为结构化的记忆条目。A_ext并非仅生成三元组,而是通过生成候选模式、实例化事实及其支持段落,为全局记忆M的所有三层联合构建条目:

A_ext(c_i) → {S_cand ∈ M_ont, T_cand ∈ M_fac, P_src ∈ M_pas} . (3)

这种设计确保了每个提取的三元组都严格与模式对齐并以源证据为基础。为了减轻幻觉累积,新生成的模式最初被视为候选,并且仅当其经验频率超过阈值时才被提升为稳定模式:

M_ont^{stable} = {s ∈ M_ont | Freq(s) ≥ τ} . (4)

相应地,只有与稳定模式对齐的事实才会被激活用于下游图构建和推理。详细的提取过程见附录D.3.1。

4.2.2 通过全局裁决维护一致性。在演化提取过程中,新激活的三元组可能会引入冗余或与现有事实产生语义冲突。为确保事实层M_fac的长期一致性,我们部署了一个解耦的诊断与校正循环,其中冲突检测智能体(A_det)和冲突解决智能体(A_res)协作以持续维护记忆完整性。具体来说,当一个新的三元组t_new ∈ M_fac变为活跃时,A_det异步扫描现有事实,并根据语义相似性和本体级结构约束识别冲突集F_conf:

F_conf = {t' ∈ M_fac | Sim(t_new, t') > δ ∨ Match(t_new, t')} . (5)

如果F_conf非空,则触发A_res来解决检测到的不一致性。A_res并非启发式地生成校正,而是利用事实-证据基础从M_pas中检索来源段落,并通过比较相应的文本证据来裁决冲突。这种证据驱动的解决方式能够执行可靠的校正操作,例如过滤无效事实、合并冗余三元组以及解决时间或粒度不一致性,从而确保M_fac在整个图构建过程中保持全局连贯性。

4.2.3 通过记忆引导的桥接实现结构统一。在最后阶段,我们通过构建三个相互连接的图视图,将精炼后的全局记忆M投影到层次化索引图G中。具体来说,我们直接从M_ont构建语义本体图G_ont,其中节点和边编码模式级的类型及其有效关系,作为整体结构的逻辑主干。然后,我们从M_fac构建事实图G_fac,其中实体构成节点,实例化的三元组构成边,支持对具体事实进行多跳推理。为了改善连通性并减少碎片化,我们进一步通过引入额外的桥接边来增强G_fac,包括源自G_ont中共享稳定模式类型的基于类型的连接,以及实体之间具有高嵌入相似性的基于相似性的连接。最后,我们从M_pas导出源证据图G_pas,它将G_fac中的事实和实体链接回其来源段落,确保每条推理路径都可追溯到有依据的文本证据。

4.3 记忆引导的在线检索

基于全局层次化图G和全局记忆M,我们在三个阶段执行记忆引导的检索和推理:(i)多层记忆检索,从M_ont、M_fac和M_pas中检索候选模式、事实和段落;(ii)结构感知节点初始化,根据语义相关性和结构信号将检索到的证据映射到初始节点权重;以及(iii)图传播,在异质图上运行个性化PageRank(PPR)以对全局重要的节点和段落进行排序,用于LLM生成。

4.3.1 多层记忆过滤。检索阶段通过并行查询全局记忆M的三个不同层来启动。给定用户查询q,我们从M中并行检索前K个候选,包括来自M_ont的模式、来自M_fac的事实和来自M_pas的段落。为了在图推理前减少噪声,我们仅保留语义相似度满足Sim(q, x) > τ的模式和事实。这种过滤确保后续节点初始化以高置信度的结构证据为基础。如果没有有效的结构候选保留(即S_ret ∪ F_ret = ∅),我们通过直接根据查询相似度从M_pas中选择段落来回退到标准RAG检索。

4.3.2 结构感知节点初始化。为了用查询特定的上下文来初始化图传播,我们通过为每个节点v ∈ G定义初始重置概率分布P_init(v)来将检索到的证据投影到异质图上。该分布在传播之前分配节点的起始重要性。然后,我们沿着三个互补维度初始化P_init(v),如下详述。

通过事实进行实体节点初始化:为确保图传播源于有依据的证据,我们根据每个实体节点e关联的检索事实的相关性来初始化它。具体来说,其初始权重定义为所有包含e的查询相关事实的平均相似度:

P_init(e) = (1 / |F_e|) * Σ_{f ∈ F_e} Sim(q, f), (6)

其中F_e ⊆ F_ret表示包含实体e的检索事实子集。如果F_e = ∅,我们设置P_init(e) = 0。

通过模式进行类型节点初始化:我们进一步基于从M_ont检索到的模式初始化类型节点t ∈ G_schema,以避免引入无关语义。一个关键挑战是类型节点通常表现出异常大的度数(例如,一个通用的“人”节点连接到数千个实体)。直接激活如此高程度的节点会将重要性扩散到过多节点,引入显著噪声。为解决这个问题,我们引入了一个结构正则化项,它结合了语义相关性和对数度数惩罚:

P_init(t) = ( (1 / |S_t|) * Σ_{s ∈ S_t} Sim(q, s) ) * (1 / (log(deg(t) + 1))) [Hub抑制]

其中S_t表示与t关联的检索模式。这种设计整合了模式级相关性,同时防止过于通用的类型主导传播。

通过信息密度进行段落节点初始化:最后,我们通过结合语义相关性和信息密度先验来初始化段落节点(p ∈ G_pas):

P_init(p) = Sim(q, d_p) * α * σ( (Σ_{e ∈ E_p} IDF(e)) / (log(|E_p| + 1)) ) [信息密度项]

这个评分函数结合了语义对齐Sim(q, d_p)、一个阻尼因子α(设为0.05)以防止段落节点主导传播,以及一个信息密度项,该项通过聚合IDF分数并进行对数归一化来奖励包含稀有且信息丰富实体的段落。详细的初始化过程见附录E.1。

4.3.3 个性化PageRank。初始化之后,我们在异质图上运行个性化PageRank(PPR)以传播查询特定的重要性。从归一化分布v^(0)开始,迭代定义为 v^(k+1) = (1 - λ) W v^(k) + λ v^(0),其中W表示转移矩阵,λ是阻尼因子。我们设置λ=0.5以将传播限制在局部邻域内并减少语义漂移。收敛后,我们选择由v^(∞)排名前K的段落和前M的实体用于LLM推理。

表1:不同GraphRCA方法的生成性能。最佳结果用粗体表示,次优结果用下划线表示。列Δ表示我们的MemGraphRAG(59.25)与每个基线相比的性能提升。列中的背景颜色代表改进幅度(绿色越深表示差距越大)。

5 实验

在本节中,我们的目标是回答以下问题:Q1(生成准确性):与最先进的GraphRAG方法相比,MemGraphRAG在生成性能方面表现如何?Q2(检索分析):我们的检索方法在性能和效率方面与其他框架相比如何?Q3(图适应性分析):MemGraphRAG构建的图能否泛化到其他GraphRAG方法?Q4(消融研究):MemGraphRAG的每个组件对整体性能的贡献是什么?(请注意,附加实验和案例研究见附录A。)

5.1 实验设置

数据集。我们首先在三个广泛使用的多跳问答数据集上评估MemGraphRAG的有效性,包括HotpotQA [59]、2WikiMultiHopQA (2Wiki) [25]、MuSiQue [47]。我们遵循[19, 20]中使用的设置以进行公平比较,从每个验证集中选择1000个问题。我们还在G-Bench(Medical)和G-Bench(Novel)[52]上测试了我们的方法,以评估MemGraphRAG在医学、新颖知识等复杂推理方面的表现。关于数据集的更多详情见附录F。

表2:不同GraphRAG方法在G-Bench(Medical)上的检索性能。

基线模型。我们将所有基线分为三组:(i)零样本LLM推理:我们评估了几个基础模型,包括LLaMA3(8B)和LLaMA3(13B)[11],以及GPT-3.5-turbo和GPT-4o-mini [40]。(ii)我们部署了朴素RAG,采用多种检索配置(检索1、3或5个最顶层的段落)。(iii)最先进的GraphRAG系统:我们与领先的GraphRAG实现进行了比较,包括KGP [51]、G-retrieve [24]、LightRAG [17]、RAPTOR [44]、MS-GraphRAG [12]、HippoRAG [19, 20]、GFM-RAG [37]、LazyGRAG [8]、E²GraphRAG [64]、LogicRAG [6]和LinearRAG [70]。

评估指标。我们使用四类指标在两个范畴内评估我们的方法。对于QA性能,遵循现有工作[6, 70],我们使用:1)基于字符串的准确率(Str-Acc.),计算将生成答案和标准答案归一化为小写单词后,标准答案是否包含在生成答案中;以及2)基于LLM的准确率(LLM-Acc.),让LLM判断生成答案是否正确匹配标准答案。对于GraphRAG-bench,由于标准答案由较长的描述性陈述组成,我们仅使用LLM-ACC进行评估。对于检索质量评估,我们采用GraphRAG-Bench [52]中的指标:1)上下文相关性(Context Relevance),衡量问题与检索段落之间的语义对齐程度;以及2)证据召回率(Evidence Recall),评估检索到的内容是否包含生成正确答案所需的所有必要信息。

实现细节。为保持一致性,所有方法使用相同的嵌入模型(即NV-Embed-v2 [39])。我们在所有方法中设置k=5用于top-k检索。对于离线索引(图构建)和在线生成,我们默认采用GPT-4o-mini作为LLM(附加的开源LLM结果见附录A)。对于评估,我们使用GPT-4o-mini计算LLM-Acc指标。为确保可重复性,我们将所有LLM调用的推理温度设为0。

5.2 生成准确性(Q1)

为了解决Q1,我们通过比较各种基线方法与MemGraphRAG在四个基准数据集上的生成性能,进行了全面的评估。详细的实验结果如表1所示。基于我们的分析,我们得出以下关键观察结果。

RAG系统显著增强了LLM的生成性能。无检索的直接推理在所有基准测试中得分最低。例如,GPT-4o-mini在零检索设置下,在MuSiQue上的平均准确率仅为14.65%。通过朴素RAG(top-5)整合检索到的上下文,将此性能翻倍至30.15%。这证实了检索增强对于知识密集型任务至关重要。

基于图的检索对于多跳推理更为有效。虽然增加检索数量(k)可以提升朴素RAG的性能,但性能增益很快趋于平缓。这种限制源于朴素RAG依赖于表面级的关键词匹配,这常常忽略了多跳推理所需的逻辑桥梁。相比之下,GraphRAG方法明确捕获了结构依赖关系,并且持续地、通常能提供更强的结果。值得注意的是,HippoRAG 2作为一个有竞争力的基线出现,在MuSiQue和G-novel上分别达到了38.30%和56.48%的基于LLM的准确率。

MemGraphRAG持续超越现有的GraphRAG基线。虽然现有的GraphRAG试图通过图结构来对齐语义,但它们通常对由孤立片段级提取引入的噪声和低质量索引敏感。相比之下,MemGraphRAG通过提供更可靠的索引和检索来缓解这些问题,在所有数据集上取得了最佳结果。它达到了59.25%的平均准确率,比最强的基线获得了2.10%的绝对增益。

5.3 检索分析(Q2)

为了评估MemGraphRAG的检索性能,我们在GraphRAG-Bench的四个不同任务级别上进行了测试。我们使用召回率和相关性作为指标来评估GraphRAG检索全面且精确信息的能力。此外,为了评估实际部署的可行性,我们记录了所有查询的平均检索时间(以秒为单位)。实验结果如表2所示。

MemGraphRAG实现了持续强劲的检索性能,平衡了高召回率和高相关性。MemGraphRAG在复杂推理任务(召回率:90.42,相关性:82.64)和事实检索任务中 consistently 排名靠前,显著优于HippoRAG2和LightRAG等基线。

表3:适应性分析:MemGraphRAG作为跨不同框架的通用图构建器。蓝色行表示使用MemGraphRAG构建的图的实验,而紫色行代表我们的完整框架。最右列显示性能增益。

这些结果表明,我们的方法有效过滤了噪声和无效的实体关系,使系统能够精确定位与查询相关的实体和关系。与为了覆盖率而牺牲精度的不同,MemGraphRAG在捕获广泛上下文的同时保持了卓越的相关性,从而验证了我们用于维护一致性以构建高质量图的全局裁决机制的有效性。

MemGraphRAG实现了最低的检索延迟,展示了卓越的在线推理效率。MemGraphRAG每次检索平均仅需0.061秒,这显著快于LightRAG(11.052秒)和HippoRAG(1.586秒)。这种效率归功于我们轻量级的检索过程,它依赖于高效的个性化PageRank(PPR),而不是计算成本高昂的实时LLM过滤或迭代推理循环。因此,MemGraphRAG在实践中提供了高精度的复杂推理,同时保持了低延迟。

5.4 索引图适应性分析(Q3)

为了评估我们构建的索引图能否无缝适应不同的GraphRAG框架,我们进行了一项可迁移性实验。我们的初步研究先前已确定现有的图构建方法存在严重缺陷,包括主题不相关性、逻辑不一致性和结构碎片化。因此,我们评估MemGraphRAG通过记忆引导桥接实现的结构统一是否能够缓解其他框架的这些问题。具体来说,我们用MemGraphRAG构建的图替换了HippoRAG、HippoRAG2、MS-GraphRAG和LazyGraphRAG的本地图构建模块,同时保留了它们原有的下游检索和推理机制。比较实验结果如表3所示。

MemGraphRAG在所有评估的GraphRAG框架上持续改进了检索性能,作为一个通用的高质量图构建器。如结果所示,将原始图替换为MemGraphRAG构建的图,导致所有基线检索器在所有数据集上都取得了一致的改进。例如,HippoRAG的平均性能从51.07提高到51.78,MS-GraphRAG从43.75提高到44.21。这种一致的改进表明,我们的记忆驱动的全局构建机制有效缓解了结构碎片化和逻辑不一致性。通过产生一个更具内聚性和主题一致性的知识结构,MemGraphRAG显著增强了现有检索器的有效性,展示了其作为基础索引解决方案的鲁棒性。

图5:MemGraphRAG在三个数据集上的消融研究。

5.5 消融研究(Q4)

为了验证MemGraphRAG中每个模块的贡献,我们在HotpotQA、2WikiMultiHopQA和G-Medical上进行了消融研究。我们将完整模型与四个变体进行比较,这些变体分别移除了模式过滤、冲突解决、中心抑制和信息密度项。如图5所示,MemGraphRAG在所有数据集上始终取得最佳性能(例如,在HotpotQA上为69.40%),这表明这些记忆驱动的图构建和初始化机制对于构建一个鲁棒的知识图谱共同至关重要。

移除模式过滤:移除统一模式过滤导致明显的性能下降,尤其是在2WikiMultiHopQA和G-Medical上(分别为68.10%和65.92%)。没有基于频率的稳定性约束(Freq(s) ≥ τ),低频和离题的模式被保留,引入了削弱语义聚焦的噪声三元组。

移除冲突解决:排除全局裁决导致HotpotQA上最大的性能下降(66.95%)。没有冲突检测和解决,事实层积累了矛盾的或冗余的三元组,这破坏了多跳推理链,并增加了检索到不一致证据的可能性。

移除中心抑制:移除中心抑制降低了准确率(HotpotQA上为67.22%)。没有基于度数的正则化,通用的高程度节点主导了传播,导致向不相关子图的语义漂移。

移除信息密度项:丢弃信息密度项导致较小但持续的下降(HotpotQA上为68.67%)。没有IDF风格的加权,段落初始化无法优先考虑有区分度的证据,削弱了模型将推理锚定在信息丰富文档上的能力。

6 结论

在本文中,我们提出了MemGraphRAG,一个新颖的GraphRAG框架,它将全局记忆机制整合到知识图谱构建过程中。通过利用共享的层次化记忆结构,我们的多智能体系统在提取和检索阶段协作维护全局视角。这种范式有效克服了依赖孤立局部提取的传统GraphRAG方法的关键限制。它系统地减轻了主题不相关性、逻辑不一致性和结构碎片化,从而实现了全局一致的索引图。广泛的实验证明,MemGraphRAG在图质量、检索精度和生成准确性方面持续优于最先进的基线,为在复杂现实场景中部署可靠的RAG系统提供了一个鲁棒的解决方案。

局限性

虽然MemGraphRAG在处理大规模文本语料库和构建全局一致的知识图谱方面表现出强大的鲁棒性,但其当前设计仅限于单模态文本输入。然而,现实世界的知识库本质上是多模态的,包含异构格式,如统计图表、技术图表、文档布局以及学术论文或财务报告中的嵌入图像。目前,我们的框架要求非文本元素在处理前被转录或描述为文本,这可能导致关键视觉语义和空间关系的丢失。例如,折线图中的定量趋势或科学图表中的复杂结构通常包含密集的信息,文本描述无法完全捕获,可能在索引过程中造成信息丢失。将全局层次化图扩展以纳入多模态节点(例如,将视觉块嵌入到事实层M_fac或段落层M_pas中)是未来工作的一个有希望的方向。这样的扩展可以实现跨模态推理,允许多智能体系统根据视觉证据验证文本声明,并进一步提高MemGraphRAG的多功能性。