EchoGuard: An Agentic Framework with Knowledge-Graph Memory for Detecting Manipulative Communication in Longitudinal Dialogue

📄 arXiv: 2603.04815v1 📥 PDF

作者: Ratna Kandala, Niva Manchanda, Akshata Kishore Moharir, Ananth Kandala

分类: cs.AI

发布日期: 2026-03-05

💡 一句话要点

EchoGuard：利用知识图谱记忆检测对话中操纵性沟通的Agent框架

🎯 匹配领域: 支柱一：机器人控制 (Robot Control)

关键词: 操纵性沟通检测 知识图谱 Agent框架 人机交互 自然语言处理

📋 核心要点

  1. 现有Agent AI系统在检测操纵性沟通方面存在不足，主要原因是缺乏长期记忆和对上下文的理解。
  2. EchoGuard利用知识图谱作为Agent的记忆，存储情景信息和语义知识，从而更好地跟踪和识别操纵模式。
  3. 论文提出了框架设计、评估策略和未来愿景，旨在验证该方法在识别操纵性沟通方面的有效性。

📝 摘要（中文）

操纵性沟通，如煤气灯效应、情感绑架和情绪胁迫，往往难以被个体识别。现有的Agent AI系统缺乏结构化的纵向记忆来追踪这些微妙的、依赖于语境的策略，常常因有限的上下文窗口和灾难性遗忘而失败。我们提出了EchoGuard，一个Agent AI框架，通过使用知识图谱（KG）作为Agent的核心情景和语义记忆来解决这个问题。EchoGuard采用结构化的Log-Analyze-Reflect循环：（1）用户记录交互，Agent将其构建为个人情景KG中的节点和边（捕获事件、情绪和说话者）；（2）系统执行复杂的图查询，以检测六种基于心理学的操纵模式（存储为语义KG）；（3）LLM生成有针对性的苏格拉底式提示，这些提示基于检测到的模式的子图，引导用户进行自我发现。该框架展示了Agent架构和知识图谱之间的相互作用如何能够帮助个体识别操纵性沟通，同时保持个人自主性和安全性。我们提出了理论基础、框架设计、全面的评估策略以及验证该方法的愿景。

🔬 方法详解

问题定义：论文旨在解决个体难以识别对话中操纵性沟通的问题，例如煤气灯效应、情感绑架等。现有Agent AI系统由于上下文窗口有限和灾难性遗忘，难以有效跟踪和识别这些微妙的、依赖于语境的操纵策略。

核心思路：论文的核心思路是利用知识图谱（KG）作为Agent的长期记忆，存储情景信息和语义知识。通过结构化的知识表示，Agent可以更好地理解对话的上下文，并识别其中的操纵模式。这种设计能够克服现有Agent AI系统的局限性，提高检测操纵性沟通的准确性。

技术框架：EchoGuard框架包含三个主要阶段：Log、Analyze和Reflect。在Log阶段，用户记录交互，Agent将交互信息结构化为个人情景KG中的节点和边，包括事件、情绪和说话者等信息。在Analyze阶段，系统执行复杂的图查询，利用预定义的语义KG（存储操纵模式）检测对话中的操纵行为。在Reflect阶段，LLM基于检测到的操纵模式生成苏格拉底式提示，引导用户进行自我反思。

关键创新：该论文的关键创新在于将知识图谱作为Agent的核心记忆，用于存储和检索对话中的情景信息和语义知识。这种方法能够有效地解决现有Agent AI系统在处理长期对话和复杂上下文时的局限性。此外，该框架还结合了LLM生成苏格拉底式提示，引导用户进行自我发现，增强了系统的实用性。

关键设计：论文中，知识图谱的设计是关键。情景KG用于存储对话中的事件、情绪和说话者等信息，语义KG用于存储预定义的操纵模式。图查询的设计需要能够有效地检索KG中的信息，并识别潜在的操纵行为。LLM生成提示的设计需要能够引导用户进行自我反思，而不是直接给出结论。具体的参数设置和网络结构等技术细节在论文中尚未详细描述，属于未来的研究方向。

📊 实验亮点

由于论文侧重于框架设计和理论验证，具体的实验结果和性能数据尚未给出。论文提出了一个全面的评估策略，并展望了未来验证该方法有效性的愿景。未来的研究可以关注在真实对话数据集上评估EchoGuard的性能，并与其他基线方法进行比较，以验证其优越性。

🎯 应用场景

该研究成果可应用于心理健康咨询、人际关系分析、在线社区管理等领域。通过帮助个体识别操纵性沟通，可以提高用户的自我保护意识，改善人际关系，并维护健康的社交环境。未来，该技术还可以应用于智能客服、舆情分析等领域，提升AI系统的智能化水平。

📄 摘要（原文）

Manipulative communication, such as gaslighting, guilt-tripping, and emotional coercion, is often difficult for individuals to recognize. Existing agentic AI systems lack the structured, longitudinal memory to track these subtle, context-dependent tactics, often failing due to limited context windows and catastrophic forgetting. We introduce EchoGuard, an agentic AI framework that addresses this gap by using a Knowledge Graph (KG) as the agent's core episodic and semantic memory. EchoGuard employs a structured Log-Analyze-Reflect loop: (1) users log interactions, which the agent structures as nodes and edges in a personal, episodic KG (capturing events, emotions, and speakers); (2) the system executes complex graph queries to detect six psychologically-grounded manipulation patterns (stored as a semantic KG); and (3) an LLM generates targeted Socratic prompts grounded by the subgraph of detected patterns, guiding users toward self-discovery. This framework demonstrates how the interplay between agentic architectures and Knowledge Graphs can empower individuals in recognizing manipulative communication while maintaining personal autonomy and safety. We present the theoretical foundation, framework design, a comprehensive evaluation strategy, and a vision to validate this approach.