LegalGraphRAG: Multi-Agent Graph Retrieval-Augmented Generation for Reliable Legal Reasoning

一、研究背景与问题

研究目标：提升大型语言模型（LLM）在法律判决预测（Legal Judgment Prediction, LJP）任务中的推理可靠性、准确性和可解释性。

现有方法的局限性：

1. 传统 RAG 的缺陷：采用扁平化的知识存储和检索方式，无法区分法律文本中事实细节、适用规则和抽象原则等不同粒度的知识，导致检索偏差。

2. GraphRAG 的不足：虽然引入图结构，但仍使用扁平图，难以处理法律语料的异构性和多粒度层次。

3. 缺乏验证机制：传统方法直接将检索内容送入 LLM 生成答案，没有证据验证步骤，容易产生“无支撑的正确预测”或推理错误。

4. 领域专用模型成本高：监督微调（SFT）需要大量计算资源，且存在灾难性遗忘风险。

二、核心创新：LegalGraphRAG 框架

作者提出了一个全新的框架，包含两大核心组件：

1. 层次化法律图谱（HierarGraph）

将法律知识组织为三个专门的子图层次，解决知识异构和粒度冲突问题：

这种分层设计使系统能够在不同抽象级别上检索知识，显著提升了检索的准确性。

2. 基于证据的多智能体法律推理系统

模拟法律专业人士的工作流程，包含三个协作智能体：

该流程确保每个判决结论都可追溯到具体的法律证据，实现了透明、可验证的法律推理。

三、实验设计与主要发现

数据集

• CAIL2018：中国大规模刑事判决预测数据集，含 260 万+案例

• CMDL：中国多被告法律判决预测数据集

基线模型

• 通用 LLM：GPT-4o-mini、DeepSeek-V3.1

• 法律专用模型：DISC-LawLLM、ADAPT、LegalΔ

• RAG/GraphRAG 方法：Naive RAG、G-retriever、RAPTOR、LightRAG、HippoRAG2

主要实验结果

四、研究贡献总结

1. 首次将层次化知识图谱与多智能体系统深度融合于法律推理任务。

2. 提出HierarGraph，有效解决法律知识的多粒度异构性问题。

3. 设计研究员-审计员-裁决员三阶段推理流程，实现了证据检索、验证和判决合成的全透明化。

4. 实验证明该方法在准确性、可靠性和可解释性上均达到当前最优水平。

5. 开源代码和数据集，促进领域后续研究。

五、局限性与未来方向

LegalGraphRAG 通过构建层次化法律知识图谱并引入多智能体协作的“检索-验证-裁决”流程，实现了法律推理从“黑箱预测”到“透明论证”的范式升级，在保证准确率的同时大幅提升了判决的可信度和可追溯性。

这里是自己的论文阅读记录，感兴趣的话可以参考一下，如果需要阅读原文的话可以看这里，如下所示：

项目地址在这里，如下所示：

摘要

基于图的检索增强生成（GraphRAG）通过将知识构建为关系图，超越了普通的文档检索，实现了更连贯、更有效的推理。然而，将其应用于法律推理等特定领域时，面临着关键挑战：(i) 法律语料是异构的，包含来自案例、法条和解释的多粒度知识。一个扁平的知识图谱无法充分区分事实细节、适用规则和抽象原则，从而限制了检索的准确性。(ii) 可靠的法律判决要求透明、基于证据的推理。传统的 RAG 直接将检索到的上下文传递给大语言模型（LLM）而不进行验证，导致推理过程不透明且容易出错。为此，我们提出了 LegalGraphRAG，一个为可靠法律推理设计的框架。我们的方法引入了两个核心组件：一个分层法律图谱，用于分层组织法律来源，以便在适当的抽象级别进行检索；以及一个用于可靠法律推理的多智能体系统，其中研究员（Researcher）检索候选证据，审计员（Auditor）严格验证其针对源文件的有效性，裁决员（Adjudicator）综合一组经过验证的证据以做出最终判决。大量实验表明，LegalGraphRAG 达到了最先进的性能，在准确和可信的法律分析方面优于现有的 GraphRAG 基线。

1 引言

大型语言模型（LLMs），如 GPT（Achiam 等，2023）、Gemini（Comanici 等，2025）和 Qwen（Yang 等，2025a）系列的快速发展，推动了各种现实世界任务中智能决策的重大进步。

图 1: 传统 RAG 在领域特定任务中面临的挑战。(i) 扁平图结构：难以处理异构文档。(ii) 未经验证的检索：包含过多不相关信息。

然而，由于领域对严谨性和可靠性要求的标准很高，将这些模型部署在法律推理等专业化、知识密集型的领域仍然具有挑战性（Lai 等，2024；Hou 等，2025；Siino 等，2025）。领域特定任务需要在包含专业知识、严格规则和复杂依赖关系的庞大知识库上进行全面理解和多步推理（Wang 等，2023；Kim 等，2025），这需要严格的逻辑推理和领域专业知识，超出了通用 LLM 的能力范围。虽然在领域语料库上进行监督微调（SFT）（Ouyang 等，2022；Hu 等，2022）能使模型内化这些专业知识，但这种方法在许多现实场景中会产生巨大的计算成本，并经常面临严重的灾难性遗忘风险（Yue 等，2024；Luo 等，2025）。

图 2：检索性能比较揭示了传统 RAG 方法在处理异构领域文档时存在困难，错误率高且效果有限。详细的实验设置在第 3.1 节和附录 A.3 中介绍。

最近，检索增强生成（RAG）（Lewis 等，2020；Borgeaud 等，2022；Li 等，2025；Zhang 等，2025b）为将 LLM 适应特定领域提供了一种实用的解决方案。RAG 系统使 LLM 不仅能够利用其参数化知识，还能利用实时检索到的领域知识来生成回复，从而提供更准确和可靠的答案（Mallen 等，2023；Zhang 等，2025b）。然而，标准的 RAG 系统通常基于语义相似度检索信息（Karpukhin 等，2020；Chen 等，2024），将文档视为独立的文本段。这阻碍了在层次化法律概念和多个文档上进行复杂的多跳推理，限制了其在法律分析中的有效性。

基于图的检索增强生成（GraphRAG）（Edge 等，2024；Zhang 等，2025a；Xiang 等，2025；Yang 等，2026）通过将领域语料库组织成结构化的关系图，推进了这一范式。这种结构感知能力捕捉了不同概念之间的层次关系，从而能够进行更精确的检索，并支持复杂查询所需的多跳推理。然而，直接将标准 GraphRAG 应用于法律领域面临着关键挑战（如图 1 所示）：(i) 扁平的图结构无法捕捉法律语料库中跨越事实细节、适用规则和抽象原则（涵盖案例、法条和解释）的多粒度层次结构，从而限制了检索的准确性。(ii) 缺乏可验证、基于证据的推理。传统的 RAG 直接将检索到的上下文传递给 LLM，而不进行任何验证。这种“检索-生成”流程常常导致不透明、易出错的推理。

在本文中，我们提出了 LegalGraphRAG，一个将基于图的检索与多智能体推理系统相结合的新颖框架，用于实现可靠的法律推理。具体来说，LegalGraphRAG 包含两个关键组件：(i) 层次化法律图谱（HierarGraph），它将法律知识组织成一个层次图，以有效解耦历史案例、相关法规和司法解释；(ii) 一个用于基于证据推理的多智能体系统（Xiang 等，2026），其中法律判决过程被构建为一个透明的流程，用于检索、验证和推理基于图谱的证据，以产生可解释的决策。总的来说，我们的贡献总结如下：

我们提出了 LegalGraphRAG，一个由在层次化知识图谱上运行的多智能体系统驱动的、基于证据的法律推理框架，该框架解决了法律异构性问题并确保了可靠的推理。我们设计了一个包含本体层、事实层和规则层的层次化法律知识图谱，用于建模多粒度法律知识并支持精确检索。我们建立了一个用于基于证据推理的多智能体系统，通过检索、验证和合成的透明流程执行裁决，将判决建立在可验证的证据链之上。大量实验表明，LegalGraphRAG 在准确和可信的法律分析方面持续优于现有的 GraphRAG 基线和法律语言模型。

2 问题陈述

复杂法律推理被表述为一个开放式生成任务，用于评估 LLM 在法律领域内的决策能力。形式上，给定一个犯罪事实描述 f 和一个被告 d，LLM 的任务是预测适用的指控 y。在本文中，我们专注于将该推理框架与 RAG 集成，以评估模型利用外部法律知识进行司法推理的能力。该任务可以组织为以下几个阶段：

知识组织。给定一个离线法律文档语料库 D，包括历史案例、法条和解释，我们构建一个特定领域的法律知识图谱：

3 初步研究

由于专业、知识密集型领域固有的结构复杂性和高标准要求，将标准检索范式应用于这些领域面临着关键挑战。为了说明这些挑战，我们进行了两项初步实验，以实证研究现有方法在知识粒度和生成质量方面的具体局限性。

3.1 知识粒度调查

复杂的领域知识具有固有的层次性。在法律背景下，这需要区分抽象的法定原则和具体的案件事实。我们假设标准检索策略无法区分这些语义粒度，因为它们以相同方式处理所有文本段。为了验证这一点，我们比较了扁平策略（Flat Strategy）和一种朴素层次策略（Naive Hierarchical Strategy），后者明确地将法条与案件叙述分开（详见附录 A.3）。

如图 2 所示，实证结果证实了我们的假设。扁平策略表现出明显的“粒度偏差”，由于表面级的语义重叠，经常优先考虑高频事实细节，而往往牺牲了必要的抽象原则。相反，层次策略更符合领域的逻辑结构，将检索性能提高了 25.3%。这一观察表明，结构扁平性是标准 RAG 在处理多粒度知识时的一个基本瓶颈。

3.2 生成质量调查

可靠的领域推理不仅需要信息检索，还需要证据验证。现实世界的法律环境通常包含关键词相似但在领域适用性上根本不同的文档。为了模拟这一现实挑战，我们进行了一项测试（详见附录 A.4）。具体来说，我们将法律上看似合理但事实无关的文档注入检索上下文，以评估模型聚焦于相关证据的能力。

表 1：在不同水平的模拟检索噪声下性能下降。ACC (↑) 表示指控和法条预测的准确率。MAE (↓) 表示刑期预测的平均绝对误差。

如表 1 总结，标准 RAG 模型对上下文纯度表现出显著的敏感性。包含不相关信息会导致性能急剧下降。这一观察表明，如果没有专门的验证机制来过滤无关内容，模型难以区分有效证据和误导性信息，从而损害了推理的可靠性。

3.3 讨论与动机

这两项研究的发现突显了将标准 RAG 应用于复杂领域的基本局限性：
∙∙ 扁平的检索机制无法驾驭领域知识的层次性（例如，区分规则与事实），导致上下文偏差。
∙∙ 缺乏明确的验证步骤使系统在面对误导信息时变得脆弱，这在法律等严谨领域是不可接受的。
这些见解激发了 LegalGraphRAG 的设计，它结合了层次化法律图谱来解决粒度冲突，并采用基于证据的法律推理（研究员-审计员-裁决员）框架来强制执行严格的验证。

4 LegalGraphRAG 框架

4.1 概述

传统的 GraphRAG 方法在法律判决中面临局限性，原因是法律语料的异构性和多粒度性。为了解决这一挑战，我们提出了 LegalGraphRAG，一个由在层次化知识图谱上运行的多智能体系统驱动的、基于证据的法律推理框架。该框架在两个不同的阶段运行：(i) 层次化知识构建，将法律知识组织成层次图结构，以有效解耦历史案例、相关法规和司法解释；(ii) 基于证据的法律推理，将法律判决过程构建为一个透明的流程，用于检索、验证和推理基于图谱的证据，以产生可解释的决策。整个框架如图 3 所示。

图 3: LegalGraphRAG 的架构。该框架包含两个主要阶段：(1) 层次化知识构建，构建一个包含事实图、本体图和规则图的层次化法律图谱（HierarGraph），用于组织异构法律知识；(2) 基于证据的法律推理，其中多智能体系统（研究员、审计员和裁决员）在 HierarGraph 上执行结构化的检索、验证和综合，以生成可解释的法律决策。

4.2 层次化知识构建

法律推理涉及异构信息源，包括历史案例、抽象法条和解释。采用扁平的存储结构不足以处理这些数据源固有的结构差异，导致信息杂乱和检索效率低下。为了应对这一挑战，我们构建了一个层次化法律图谱（HierarGraph）H，将法律知识组织成不同的语义层，能够明确区分不同的法律概念，并为可靠的推理提供结构化基础。HierarGraph 由三个专门的子图组成：

通过整合这三个层次，HierarGraph H 将异构的法律语料库转变为一个结构化的生态系统。这种架构通过为后续的基于证据的法律推理提供多粒度支持，直接解决了扁平检索的局限性。详细的构建过程见附录 B.1。

4.3 基于证据的法律推理

为了利用我们的 HierarGraph 中编码的多粒度知识，我们提出了一个用于基于证据推理的多智能体系统，其中专门的智能体顺序遍历图谱以执行证据检索、验证和综合。具体来说，工作流程包含三个智能体：1) 研究员，2) 审计员，和 3) 裁决员。通过结构化的图谱遍历和逻辑分析，该框架通过构建最终的、可验证的判决来解决原始案件查询。

4.3.1 证据检索

4.3.2 证据验证

鉴于在证据检索阶段检索到的候选证据，此阶段侧重于验证案件事实是否真正满足法律要求的条件，而不是依赖于表面级的语义相关性。

具体来说，对于每个候选法条，我们通过使用 Gru​ 中编码的相关诊断检查表和司法解释来评估案件事实，从而验证其适用性。然后汇总验证结果，为每个法条生成最终的适用性判断。

表 2: CAIL 和 CMDL 上的性能比较。我们采用 Qwen3-8B 作为默认骨干模型。最佳结果以粗体突出显示，次优结果以下划线标出。我们在 Δ 列中可视化了 LegalGraphRAG 相对于每个基线的收益。

图 4：比较案例研究，说明了不同方法的推理轨迹。虽然朴素 RAG 因缺少法律法条而失败，基于三段论的方法则难以处理模糊性，但 LegalGraphRAG 得出了正确的判决。通过利用 HierarGraph 和基于证据的法律推理，我们的框架展示了透明度和可靠性，提供了基于法律证据的可验证推理链。

模型，以 GPT-4o-mini (Achiam 等，2023) 和 DeepSeek-V3.1 (Liu 等，2024) 为代表。(iii)法律专用方法，包括领域专用方法，如 DisCLM (Yue 等，2024)、LegalΔ (Dai 等，2025) 和 ADAPT (Deng 等，2024b)；(iv)基于 RAG 的方法，包括朴素 RAG 和先进的图增强策略，如 G-retriever (He 等，2024a)、RAPTOR (Sarthi 等，2024)、LightRAG (Guo 等，2024) 和 HippoRAG2 (Gutiérrez 等，2025)。详细配置见附录 D.4。

评估指标我们采用准确率（Accuracy）和微平均 F1 值（Micro-F1 score）来评估预测性能。详细定义见附录 D.3。

实现细节我们使用 GPT-4o-mini 进行图构建，使用 BGE-m3 (Chen 等，2024) 进行嵌入生成。各种 LLM 作为推理阶段的骨干模型。我们采用 Qwen3-8B (Yang 等，2025a) 作为我们主要实验的默认骨干模型。完整的超参数设置和硬件规格详见附录 D.5。

5.2 生成准确率 (Q1)

为了回答 Q1，我们在两个法律判决数据集上，将 LegalGraphRAG 与 SOTA RAG 方法和专用法律 LLM 进行了评估。指控预测的主要比较结果报告在表 2 中，扩展分析见附录中的表 4、5 和 6。我们将关键观察总结如下。

观察 1.LegalGraphRAG 在法律数据集上持续优于基线。我们的方法在两个数据集的大多数评估指标上取得了最佳结果。值得注意的是，LegalGraphRAG 相对于最强基线取得了 6.3% 到 19.1% 的显著提升。与在法律领域表现不佳的标准 GraphRAG 方法不同，我们的方法有效地构建了异构知识，从而增强了法律推理能力，并总体上提高了指控预测的准确率。

观察 2.LegalGraphRAG 显著超越了现有的专用法律 LLM。我们的方法平均优于 LegalΔ 和 ADAPT分别为 7.1% 和 6.7%。此外，如附录表 4 所示，LegalGraphRAG 可以灵活地与不同的骨干模型集成，当与强大的骨干结合时，在 CMDL 上达到了 78.7% 的峰值性能。这表明与专用的法律领域基线相比，它具有很强的适应性和稳健的推理能力。

5.3 案例研究 (Q2)

为了展示我们框架优越的可解释性，我们在图 4 中提供了一个代表性刑事案件的定性分析。更多案例见附录 E。

观察 3.LegalGraphRAG 检索到显著更相关和更全面的证据。如图 5 所示，传统的扁平图结构（例如，HippoRAG2）难以处理异构的法律文档，常常无法捕获必要的法规。这种结构限制导致上下文碎片化。相比之下，我们的层次化组织有效地构建了法律知识，确保检索到的上下文足以支持稳健的推理。

观察 4.LegalGraphRAG 通过严格的证据基础保证了决策的可追溯性。虽然基线模型通常能做出正确的预测，但我们的可靠性分析（图 6）揭示了一个关键问题，即“无支撑的正确性”，模型预测了正确的指控，但未能检索到必要的支持证据。这意味着该预测并非由相关证据或有效的推理链所支撑。LegalGraphRAG 显著提高了“可追溯正确”样本的比例（定义见附录 A.5）。通过强制执行严格的验证，我们的系统确保判决中引用的每一条法规都

表 3：在 CAIL 数据集上对 LegalGraphRAG 组件的消融研究。结果强调了 HierarGraph 对于知识组织不可或缺的作用，以及研究员和审计员智能体在确保推理准确性方面的协同作用。

5.4 消融研究 (Q3)

为了量化每个组件的影响，我们通过从完整的 LegalGraphRAG 框架中移除特定模块进行了系统的消融研究。结果详见表 3。

观察 5.层次化结构是性能的基石。移除层次化图谱（w/o HierarGraph）导致准确率下降最剧烈，达 7.2%。这证实了将具体事实与抽象规则分离到不同的粒度级别是至关重要的，它提供了扁平索引所缺乏的结构精度。

观察 6.多智能体工作流保证了推理的可靠性。排除研究员和审计员分别使准确率下降了 4.0% 和 3.4%。这验证了它们的协同作用：研究员通过多样化的检索策略最大化证据覆盖范围，而审计员强制执行严格的验证，确保只有经过验证的证据才能支持判决。

6 结论

总之，我们提出了 LegalGraphRAG，一个基于证据的法律推理框架，它解决了法律异构性和推理可靠性的关键挑战。通过将层次化知识图谱与协作式多智能体系统相结合，我们的方法将法律推理过程转变为一个透明的检索、验证和综合流程。在法律判决基准上的大量实验验证了 LegalGraphRAG 建立了新的最先进水平，显著推进了用于可靠和复杂法律分析的准确且可信赖的 AI。