Competition and Cooperation of LLM Agents in Games

📄 arXiv: 2604.00487v1 📥 PDF

作者: Jiayi Yao, Cong Chen, Baosen Zhang

分类: cs.MA, cs.GT, eess.SY

发布日期: 2026-04-01

💡 一句话要点

研究LLM智能体在博弈中的竞争与合作行为，揭示公平推理的重要性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: LLM智能体 多智能体博弈 合作行为 公平推理 思维链分析

📋 核心要点

  1. 现有研究缺乏对LLM智能体在复杂博弈环境中战略行为的深入理解，特别是它们是否能达到纳什均衡。
  2. 该研究通过分析LLM智能体在网络资源分配和古诺竞争博弈中的行为，揭示了它们倾向于合作而非竞争的倾向。
  3. 实验结果表明，LLM智能体在多轮博弈中表现出合作行为，并且公平推理是驱动这种行为的关键因素。

📝 摘要（中文）

大型语言模型（LLM）智能体越来越多地被部署在竞争性的多智能体环境中，引发了关于它们是否会收敛到均衡以及如何描述它们的战略行为等基本问题。本文研究了LLM智能体在两种标准博弈中的交互：网络资源分配博弈和古诺竞争博弈。研究发现，LLM智能体在被给予多轮提示和非零和背景时，倾向于合作，而不是收敛到纳什均衡。通过思维链分析表明，公平推理是这种行为的核心。我们提出了一个分析框架，该框架捕捉了LLM智能体跨轮次的推理动态，并解释了这些实验结果。

🔬 方法详解

问题定义：本文旨在研究在多智能体博弈环境中，大型语言模型（LLM）驱动的智能体的行为模式。现有方法通常假设智能体遵循理性经济学模型，追求自身利益最大化，并最终收敛到纳什均衡。然而，实际情况中，LLM智能体可能受到其他因素的影响，例如公平性考虑，导致其行为偏离纳什均衡的预测。

核心思路：本文的核心思路是通过实验观察和分析LLM智能体在标准博弈中的行为，揭示其决策过程中的非理性因素。具体而言，研究人员设计了网络资源分配博弈和古诺竞争博弈，并让LLM智能体在这些博弈中进行交互。通过分析智能体的决策过程和最终结果，研究人员试图理解LLM智能体如何权衡自身利益和公平性，以及这种权衡如何影响其战略选择。

技术框架：该研究的技术框架主要包括以下几个部分：1) 博弈环境的构建：设计了网络资源分配博弈和古诺竞争博弈，并定义了博弈的规则和奖励机制。2) LLM智能体的实现：使用大型语言模型（例如，GPT-3或类似模型）作为智能体的决策引擎，并设计了合适的提示语，引导智能体进行决策。3) 实验过程的控制：控制实验的参数，例如博弈的轮数、智能体的数量等，并记录智能体的决策过程和最终结果。4) 数据分析：使用思维链分析等方法，分析智能体的决策过程，并提取关键的推理步骤和决策依据。

关键创新：该研究的关键创新在于揭示了LLM智能体在博弈环境中倾向于合作而非竞争的倾向，并提出了公平推理是驱动这种行为的关键因素。这一发现挑战了传统的理性经济学模型，并为理解LLM智能体的行为提供了新的视角。此外，该研究还提出了一个分析框架，可以捕捉LLM智能体跨轮次的推理动态，并解释实验结果。

关键设计：在实验设计方面，研究人员使用了多轮提示和非零和背景，以模拟更真实的博弈环境。在数据分析方面，研究人员使用了思维链分析方法，深入分析了LLM智能体的决策过程，并提取了关键的推理步骤和决策依据。此外，研究人员还设计了一个分析框架，用于捕捉LLM智能体跨轮次的推理动态。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，在多轮博弈中，LLM智能体倾向于合作，而非收敛到纳什均衡。思维链分析揭示，公平推理是驱动这种合作行为的关键因素。该研究提出的分析框架能够有效捕捉LLM智能体跨轮次的推理动态，并解释实验结果。

🎯 应用场景

该研究成果可应用于设计更有效的人机协作系统，尤其是在涉及资源分配、谈判和竞争等场景中。理解LLM智能体的合作倾向有助于构建更公平、更可持续的智能体系统。此外，该研究也为开发更具社会意识和伦理道德的AI系统提供了新的思路。

📄 摘要（原文）

Large language model (LLM) agents are increasingly deployed in competitive multi-agent settings, raising fundamental questions about whether they converge to equilibria and how their strategic behavior can be characterized. In this paper, we study LLM agent interactions in two standard games: a network resource allocation game and a Cournot competition game. Rather than converging to Nash equilibria, we find that LLM agents tend to cooperate when given multi-round prompts and non-zero-sum context. Chain-of-thought analysis reveals that fairness reasoning is central to this behavior. We propose an analytical framework that captures the dynamics of LLM agent reasoning across rounds and explains these experimental findings.