Human vs. Machine: Behavioral Differences Between Expert Humans and Language Models in Wargame Simulations
作者: Max Lamparth, Anthony Corso, Jacob Ganz, Oriana Skylar Mastro, Jacquelyn Schneider, Harold Trinkunas
分类: cs.CY, cs.AI, cs.CL
发布日期: 2024-03-06 (更新: 2024-10-03)
备注: Updated with new human participant results and added new LLM to results; fixed error in Table 1; all claims unaffected
💡 一句话要点
比较人类与语言模型在战争游戏中的决策行为差异
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 人工智能 军事决策 语言模型 行为比较 危机管理
📋 核心要点
- 现有的AI系统在高风险军事决策中的表现与人类相比仍存在不确定性，尤其是在危机升级场景中。
- 本文通过设计新的战争游戏实验，比较人类专家与LLM在危机情境中的决策行为，探讨其差异。
- 实验结果显示，LLM的反应更具攻击性，且在个体行为和战略倾向上与人类存在显著差异，提示政策制定者需谨慎使用AI决策。
📝 摘要（中文）
随着人工智能（AI）的发展，许多人认为其能够改善决策并提高军事效能，减少人为错误和情绪影响。然而，关于大型语言模型（LLMs）在高风险军事决策场景中的表现与人类的比较仍存在争议。本文通过214名国家安全专家参与的战争游戏实验，探讨了人类团队与LLM模拟团队在虚构的美中危机情境中的行为差异。研究发现，LLM模拟的反应更具攻击性，并且对情境变化敏感。尽管LLM与人类反应在高层次上存在一致性，但在个体行为和战略倾向上存在显著的定量和定性差异。这些差异源于LLM在战略指令下对暴力水平的内在偏见、选择的LLM类型以及其是否直接为团队决策或先模拟团队对话的任务。模拟对话时，讨论质量较低且缺乏真实感。LLM无法考虑人类玩家的特征，表现出一致性不足。研究结果提示政策制定者在赋予AI自主权或遵循基于AI的战略建议时需谨慎。
🔬 方法详解
问题定义：本文旨在解决AI系统，特别是大型语言模型（LLMs）在高风险军事决策中的表现与人类专家之间的行为差异问题。现有方法未能充分揭示LLMs在复杂情境下的决策特征及其潜在风险。
核心思路：通过设计一项新的战争游戏实验，比较214名国家安全专家与LLM模拟团队在虚构的美中危机情境中的决策行为，分析其反应的攻击性及一致性。
技术框架：实验分为两个主要阶段：首先，招募国家安全专家进行模拟决策；其次，使用LLM模拟相同情境下的团队反应。通过对比分析两者的行为差异，评估LLM的决策特征。
关键创新：本文的创新在于通过实际战争游戏实验系统性地比较人类与LLM的决策行为，揭示了LLM在危机情境下的攻击性反应及其对情境变化的敏感性，这在现有文献中尚属首次。
关键设计：实验中，LLM的选择、任务设定（直接决策或模拟对话）等参数设置对结果产生显著影响。特别是模拟对话时，LLM的讨论质量较低，未能有效反映人类玩家的特征。
🖼️ 关键图片
📊 实验亮点
实验结果表明，LLM模拟的反应在攻击性上显著高于人类专家，并且在个体行为和战略倾向上存在显著差异。这些发现提示政策制定者在依赖AI进行决策时需谨慎，尤其是在高风险的军事场景中。
🎯 应用场景
该研究的潜在应用领域包括军事决策支持系统、危机管理和AI伦理政策制定。通过深入理解人类与AI在复杂决策中的行为差异，政策制定者可以更好地评估AI在军事领域的应用价值，确保决策的有效性与安全性。
📄 摘要（原文）
To some, the advent of artificial intelligence (AI) promises better decision-making and increased military effectiveness while reducing the influence of human error and emotions. However, there is still debate about how AI systems, especially large language models (LLMs) that can be applied to many tasks, behave compared to humans in high-stakes military decision-making scenarios with the potential for increased risks towards escalation. To test this potential and scrutinize the use of LLMs for such purposes, we use a new wargame experiment with 214 national security experts designed to examine crisis escalation in a fictional U.S.-China scenario and compare the behavior of human player teams to LLM-simulated team responses in separate simulations. Here, we find that the LLM-simulated responses can be more aggressive and significantly affected by changes in the scenario. We show a considerable high-level agreement in the LLM and human responses and significant quantitative and qualitative differences in individual actions and strategic tendencies. These differences depend on intrinsic biases in LLMs regarding the appropriate level of violence following strategic instructions, the choice of LLM, and whether the LLMs are tasked to decide for a team of players directly or first to simulate dialog between a team of players. When simulating the dialog, the discussions lack quality and maintain a farcical harmony. The LLM simulations cannot account for human player characteristics, showing no significant difference even for extreme traits, such as "pacifist" or "aggressive sociopath." When probing behavioral consistency across individual moves of the simulation, the tested LLMs deviated from each other but generally showed somewhat consistent behavior. Our results motivate policymakers to be cautious before granting autonomy or following AI-based strategy recommendations.