Do LLMs Take Care of Their Own? Similarity Signals Can Induce Cooperation
作者: Akash Kundu, Emanuel Tewolde, Ratip Emin Berker, Samuel F. Brown, Vincent Conitzer
分类: cs.GT, cs.AI, cs.CL, cs.MA
发布日期: 2026-08-12
备注: 41 pages, 18 Figures, 4 Tables, 16 Listings
💡 一句话要点
提出基于相似性信号的框架以促进LLM间合作
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 相似性信号 合作博弈 决策评估 智能代理
📋 核心要点
- 现有方法在LLM代理的战略互动中面临合作问题，尤其是在相似性信号的处理上存在显著差异。
- 本文提出了一个新的框架，通过分级相似性信号来评估LLM的决策过程，旨在促进合作。
- 实验结果表明，不同模型在相似性信号下的行为差异显著，并且高相似性评分能支持合作均衡。
📝 摘要（中文）
随着基于大型语言模型（LLM）的代理在用户指令目标下的广泛应用，它们在战略互动中越来越多地相遇，并面临寻找互利结果的挑战。现有文献认为，在代理知道彼此遵循非常相似的决策模式时，例如在单一文化的AI生态系统中，合作问题如囚徒困境是可以解决的。本文首次提出了一个框架，用于评估在提供分级相似性信号的情况下LLM的决策过程。研究发现，不同的LLM模型在处理相似性信号时表现出显著差异，一些现代模型在合作问题、收益结构和提示框架中表现出一致的行为。此外，实验表明，相似性信号计算所基于的数据集对诱导合作的影响微乎其微，而LLM模型在自我评估其他模型的推理链时，系统性地自我识别为高度相似。最后，本文开发了一个LLM行为博弈论模型，捕捉其推理逻辑，并展示在足够高的相似性评分下可以支持合作结果的均衡。
🔬 方法详解
问题定义：本文旨在解决LLM代理在战略互动中如何有效利用相似性信号以促进合作的问题。现有方法未能充分考虑不同模型在处理相似性信号时的差异性。
核心思路：通过引入分级相似性信号，本文提出了一种新的评估框架，能够更好地理解和促进LLM之间的合作。该框架允许模型在决策过程中考虑彼此的相似性，从而提高合作的可能性。
技术框架：该框架包括数据收集、相似性信号计算、决策评估和合作结果分析四个主要模块。首先，收集不同LLM模型的决策数据，然后计算相似性信号，接着评估模型在不同合作场景下的表现，最后分析合作结果。
关键创新：本文的主要创新在于首次系统性地评估LLM在相似性信号下的决策行为，并提出了一个行为博弈论模型来解释其推理逻辑。这与现有方法的本质区别在于，强调了相似性信号在促进合作中的重要性。
关键设计：在相似性信号的计算中，本文采用了多种数据集进行对比，发现数据集的选择对合作的诱导影响较小。此外，模型在自我评估时表现出高度的相似性，表明其内部逻辑的一致性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，不同LLM模型在相似性信号下的行为差异显著，部分现代模型在多种合作问题中表现出一致性。高相似性评分下，合作结果的均衡得以支持，表明相似性信号在促进合作中的关键作用。
🎯 应用场景
该研究的潜在应用领域包括多代理系统、智能助手的协作以及AI生态系统的优化。通过理解和促进LLM之间的合作，可以提高系统的整体效率和用户体验，未来可能在自动化决策、智能客服等领域发挥重要作用。
📄 摘要（原文）
As LLM-based agents with user-instructed goals are becoming widely deployed, they increasingly encounter each other in strategic interactions, and face challenges of finding mutually beneficial outcomes. Prior literature has argued that cooperation problems such as the Prisoner's Dilemma are resolvable in settings where agents know they follow very similar decision making patterns, as for example in monocultural AI ecosystems. Following that line of work, this paper introduces the first framework for evaluating LLM decision making when agents are provided with graded similarity signals. Among our findings, we establish that different LLM models vary drastically in how they navigate similarity signals, with some modern models showing consistent behavior across cooperation problems, payoff structures, and prompt framing. Perhaps surprisingly, our experiments also show that the dataset based on which the similarity signal is computed has small to no impact on induced cooperation, and that LLM models systematically self-identify as highly similar when asked to evaluate another model's chain-of-thought reasoning by themselves. Finally, we develop an LLM-behavioral-game-theoretic model that captures some of their reasoning rationale, and show that it can support cooperative outcomes in equilibrium under sufficiently high similarity scores.