When Debate Amplifies Risk: Social-Bias Vulnerabilities in Multi-Agent Safety Deliberation
作者: Qinghua Mao, Xi Lin, Yuxin Qi, Zihao Xu, Jinze Gu, Yuliang Chen
分类: cs.CR, cs.AI, cs.CY
发布日期: 2026-11-03
💡 一句话要点
提出RiskTrace-Debias以解决多代理辩论中的安全风险问题
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 多代理辩论 社会偏见 Web安全 风险管理 信息检索 审计机制
📋 核心要点
- 现有的多代理辩论方法在面对社会偏见时，容易导致不安全信息的采纳，缺乏有效的防护机制。
- 本文提出RiskTrace-Debias框架，通过证据优先承诺、社会元数据屏蔽和一致性门控仲裁来抑制不安全信息的采纳。
- 实验结果表明，RiskTrace-Debias在所有架构中将不安全采纳率抑制至2.0%以下，且未引入过度拒绝现象。
📝 摘要（中文）
随着检索增强型Web应用越来越多地采用多代理辩论（MAD）来聚合冲突、嘈杂和异质的信息，辩论的社会过程容易受到人际动态的影响。当检索的Web源中包含潜在的危险信息时，社会偏见如从众压力和权威依赖可能会覆盖基于证据的安全边界。本文研究了辩论的社会结构如何反而放大Web安全风险。我们引入了SafeConflict-Bias，一个涵盖六个核心Web风险类别的控制反事实诊断协议。实证评估显示，标准的MAD在社会压力下会导致不安全指导的采纳率从0.0%飙升至100.0%。为了解决这一系统性脆弱性，本文提出了RiskTrace-Debias，一个在推理时审计的框架，能够有效抑制不安全采纳率至2.0%以下。
🔬 方法详解
问题定义：本文旨在解决多代理辩论中因社会偏见导致的Web安全风险放大问题。现有方法在面对社会压力时，无法有效抵御不安全信息的影响，导致安全边界被突破。
核心思路：论文提出的RiskTrace-Debias框架通过在推理阶段引入审计机制，结合证据优先承诺和社会元数据屏蔽，旨在减少社会偏见对决策的影响，从而提高安全性。
技术框架：该框架包括三个主要模块：1) 证据优先承诺，确保决策基于可靠证据；2) 社会元数据屏蔽，减少社会影响的干扰；3) 一致性门控仲裁，确保最终决策的一致性和安全性。
关键创新：RiskTrace-Debias的创新在于其审计机制的引入，能够在不需要重新训练或生成辩论的情况下，有效抑制不安全信息的采纳，与现有方法相比，提供了更高的安全性和透明性。
关键设计：在设计中，框架采用了特定的参数设置以优化审计过程，损失函数设计上强调安全性与决策一致性，网络结构则确保了信息流的有效传递与处理。
🖼️ 关键图片
📊 实验亮点
实验结果显示，RiskTrace-Debias在所有架构中将不安全信息的采纳率抑制至2.0%以下，相较于标准的多代理辩论方法，后者在社会压力下的不安全采纳率可高达100.0%。这一显著提升展示了新框架在安全性方面的有效性。
🎯 应用场景
该研究的潜在应用领域包括在线信息检索、社交媒体内容审核和自动化决策系统等。通过提高多代理辩论的安全性，能够有效防止不安全信息的传播，提升用户信任度和系统可靠性，具有重要的实际价值和未来影响。
📄 摘要（原文）
Retrieval-augmented Web applications increasingly employ multi-agent debate (MAD) to aggregate conflicting, noisy, and heterogeneous information, yet deliberation is fundamentally a social process susceptible to interpersonal dynamics. When retrieved Web sources contain latent hazards alongside safe factual content, social biases such as conformity pressure and authority deference can override evidence-grounded safety boundaries. In this work, we investigate whether the social structure of deliberation can paradoxically amplify latent Web safety risks. We introduce SafeConflict-Bias, a controlled counterfactual diagnostic protocol spanning six core Web risk categories, which holds queries and retrieved evidence strictly invariant while isolating conversational majority sway, authority cues, and confidence asymmetry. Empirical evaluation across diverse proprietary and open-source backbones reveals that while isolated models reliably reject unsafe guidance, standard MAD catastrophically capitulates to social pressure---surging unsafe adoption from 0.0\% up to 100.0\% and systematically silencing safe minority evidence. To resolve this systemic fragility without retraining or debate regeneration, we propose RiskTrace-Debias, an inference-time auditing framework uniting evidence-first precommitment, social-metadata masking, and consistency-gated arbitration. RiskTrace-Debias suppresses worst-case unsafe adoption to $\le 2.0\%$ across all architectures without inducing over-refusal, while generating verifiable provenance traces to audit interpersonal manipulation in Web deliberation.