Simulating Misinformation Propagation in Social Networks using Large Language Models

文章核心总结与创新点

一、主要内容

本文聚焦社交媒体中虚假信息的传播机制，提出了一种“审计节点”（auditor-node）框架，通过大型语言模型（LLM）模拟具有特定人格特征的合成代理，追踪新闻内容在社交网络传播过程中的事实失真情况。

1. 研究背景：虚假信息借助人类认知偏见（如情感驱动、身份认同导向推理）在社交媒体快速扩散，传统研究难以精准模拟复杂的用户行为与信息交互过程。
2. 实验设计：
   • 构建21种具有不同人格特征的LLM代理（包括政治倾向者、领域专家、社交媒体影响者、宗教领袖等）和10个不同领域的新闻文本（涵盖犯罪、教育、医疗、政治、科技等）。
   • 设计同质性分支（同一人格代理重复传播）和异质性分支（随机分配人格代理）两种传播网络，每条分支包含30个传播节点，代理会对接收的信息进行改写。
   • 引入基于问答（QA）的审计器，通过生成10个事实性问题并验证改写内容的答案准确性，量化事实保真度。
3. 核心指标：
   • 虚假信息指数（MI）：衡量单节点传播后的事实失真程度；
   • 虚假信息传播率（MPR）：评估整条分支的平均失真水平；
   • 虚假信息严重程度分类：将失真分为事实错误、谎言和宣传三个等级。
4. 关键发现：
   • 身份和意识形态导向的人格代理（如宗