GTBench: Uncovering the Strategic Reasoning Limitations of LLMs via Game-Theoretic Evaluations

作者: Jinhao Duan, Renming Zhang, James Diffenderfer, Bhavya Kailkhura, Lichao Sun, Elias Stengel-Eskin, Mohit Bansal, Tianlong Chen, Kaidi Xu

分类: cs.CL, cs.AI, cs.LG

发布日期: 2024-02-19 (更新: 2024-06-10)

备注: 26 pages; the first two authors contributed equally; GTBench HF Leaderboard: https://huggingface.co/spaces/GTBench/GTBench

💡 一句话要点

提出GTBench以评估LLMs在博弈中的推理能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 博弈论 推理能力 GTBench 游戏AI 战略推理 开源模型 性能评估

📋 核心要点

现有的LLMs在复杂博弈场景中的推理能力不足，尤其在完整和确定性游戏中表现不佳。
提出GTBench环境，通过10个博弈任务评估LLMs的推理能力，涵盖多种博弈场景。
实验结果显示，开源LLMs在复杂游戏中竞争力较弱，而新发布的Llama-3-70b-Instruct有所改善。

📝 摘要（中文）

随着大型语言模型（LLMs）在关键现实应用中的整合，其战略和逻辑推理能力变得愈加重要。本文通过博弈论任务评估LLMs在竞争环境中的推理能力，提出了GTBench，一个包含10个广泛认可任务的语言驱动环境，涵盖完整与不完整信息、动态与静态、概率与确定性场景。研究发现，LLMs在不同游戏场景中表现出明显的行为差异，且大多数开源LLMs在复杂游戏中不如商业LLMs竞争力强。希望本研究为LLMs的战略推理提供标准化协议，并为后续探索奠定基础。

🔬 方法详解

问题定义：本文旨在评估大型语言模型（LLMs）在博弈论任务中的推理能力，尤其是在竞争环境下的表现。现有方法未能全面揭示LLMs在不同博弈场景中的推理局限性。

核心思路：通过构建GTBench环境，设计10个博弈任务，涵盖多种信息类型和动态特性，以系统性地评估LLMs的推理能力。此设计旨在揭示LLMs在不同博弈场景下的行为差异。

技术框架：GTBench环境由多个模块组成，包括任务生成模块、LLM评估模块和结果分析模块。任务生成模块负责创建不同类型的博弈任务，评估模块则对LLMs进行对抗性测试，最后通过分析模块总结LLMs的表现。

关键创新：GTBench的提出是本文的主要创新点，它提供了一种标准化的评估框架，能够系统性地揭示LLMs在博弈中的推理能力和局限性，与现有方法相比，具有更高的针对性和全面性。

关键设计：在任务设计中，考虑了信息的完整性、动态性和确定性等因素，确保任务的多样性。此外，使用了详细的错误分析方法，以便更好地理解LLMs的行为特征。

🖼️ 关键图片

fig_0

fig_1

fig_2

📊 实验亮点

实验结果表明，LLMs在完整和确定性游戏中表现不佳，而在概率性游戏中则具有竞争力。开源模型如CodeLlama-34b-Instruct和Llama-2-70b-chat在复杂游戏中不如商业模型GPT-4，但Llama-3-70b-Instruct的发布显著改善了这一情况。

🎯 应用场景

该研究的潜在应用领域包括游戏AI、智能决策系统和教育技术等。通过深入理解LLMs的推理能力，可以为这些领域提供更智能的解决方案，提升系统的决策质量和用户体验。未来，GTBench也可作为其他研究的基础，推动LLMs在更复杂环境中的应用。

📄 摘要（原文）

As Large Language Models (LLMs) are integrated into critical real-world applications, their strategic and logical reasoning abilities are increasingly crucial. This paper evaluates LLMs' reasoning abilities in competitive environments through game-theoretic tasks, e.g., board and card games that require pure logic and strategic reasoning to compete with opponents. We first propose GTBench, a language-driven environment composing 10 widely recognized tasks, across a comprehensive game taxonomy: complete versus incomplete information, dynamic versus static, and probabilistic versus deterministic scenarios. Then, we (1) Characterize the game-theoretic reasoning of LLMs; and (2) Perform LLM-vs.-LLM competitions as reasoning evaluation. We observe that (1) LLMs have distinct behaviors regarding various gaming scenarios; for example, LLMs fail in complete and deterministic games yet they are competitive in probabilistic gaming scenarios; (2) Most open-source LLMs, e.g., CodeLlama-34b-Instruct and Llama-2-70b-chat, are less competitive than commercial LLMs, e.g., GPT-4, in complex games, yet the recently released Llama-3-70b-Instruct makes up for this shortcoming. In addition, code-pretraining greatly benefits strategic reasoning, while advanced reasoning methods such as Chain-of-Thought (CoT) and Tree-of-Thought (ToT) do not always help. We further characterize the game-theoretic properties of LLMs, such as equilibrium and Pareto Efficiency in repeated games. Detailed error profiles are provided for a better understanding of LLMs' behavior. We hope our research provides standardized protocols and serves as a foundation to spur further explorations in the strategic reasoning of LLMs.