Do LLMs Play Dice? Exploring Probability Distribution Sampling in Large Language Models for Behavioral Simulation

📄 arXiv: 2404.09043v3 📥 PDF

作者: Jia Gu, Liang Pang, Huawei Shen, Xueqi Cheng

分类: cs.CL

发布日期: 2024-04-13 (更新: 2024-12-18)

备注: The 31st International Conference on Computational Linguistics (COLING 2025)

💡 一句话要点

探讨大语言模型在行为模拟中的概率分布采样能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 概率分布 行为模拟 马尔可夫决策过程 智能代理 决策系统

📋 核心要点

  1. 核心问题：现有方法在模拟人类行为时，LLM代理对概率分布的理解和采样能力不足。
  2. 方法要点：论文将问题分为已知和未知概率分布的序列模拟，分析LLM在这两种情况下的表现。
  3. 实验或效果：研究表明，LLM能够理解概率，但在概率采样上存在困难，整合工具可稍微改善效果。

📝 摘要（中文）

随着大语言模型（LLMs）在复杂语言任务中的迅速发展，越来越多的研究将LLMs作为代理，模拟人类的顺序决策过程，这通常被表示为马尔可夫决策过程（MDPs）。在MDPs中，动作遵循特定的概率分布并需要迭代采样。本文探讨了LLM代理理解概率分布的能力，发现它们在概率采样方面存在困难，尽管通过整合编码工具可以在一定程度上提高采样能力，但仍难以精确模拟人类行为。

🔬 方法详解

问题定义：本文旨在解决大语言模型在模拟人类行为时对概率分布的理解和采样能力不足的问题。现有方法未能有效利用LLM的潜力，导致模拟结果不够精确。

核心思路：论文提出将序列模拟问题分为已知和未知概率分布两种情况，分析LLM在这两种情况下的表现，以评估其理解和应用概率的能力。

技术框架：研究首先定义了马尔可夫决策过程中的动作与概率分布的关系，然后通过实验评估LLM在不同条件下的表现，主要模块包括概率理解、采样能力评估和行为序列生成。

关键创新：最重要的创新在于将LLM的行为模拟与概率分布采样结合，揭示了LLM在理解概率方面的潜力与局限性，尤其是在采样精度上与人类行为的差距。

关键设计：在实验中，设置了不同的概率分布场景，并通过整合编码工具来提升LLM的采样能力，评估其对人类行为模拟的影响。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，LLM在理解概率方面表现良好，但在概率采样上仍存在显著不足。整合编码工具后，采样精度有所提升，但仍难以达到人类行为的模拟水平。这一发现为未来的研究提供了重要的方向。

🎯 应用场景

该研究的潜在应用领域包括智能代理、自动化决策系统和人机交互等。通过提高LLM在概率分布理解和采样方面的能力，可以更好地模拟人类行为，从而提升智能系统的决策质量和用户体验。

📄 摘要（原文）

With the rapid advancement of large language models (LLMs) for handling complex language tasks, an increasing number of studies are employing LLMs as agents to emulate the sequential decision-making processes of humans often represented as Markov decision-making processes (MDPs). The actions in MDPs adhere to specific probability distributions and require iterative sampling. This arouses curiosity regarding the capacity of LLM agents to comprehend probability distributions, thereby guiding the agent's behavioral decision-making through probabilistic sampling and generating behavioral sequences. To answer the above question, we divide the problem into two main aspects: sequence simulation with known probability distribution and sequence simulation with unknown probability distribution. Our analysis indicates that LLM agents can understand probabilities, but they struggle with probability sampling. Their ability to perform probabilistic sampling can be improved to some extent by integrating coding tools, but this level of sampling precision still makes it difficult to simulate human behavior as agents.