Do large language models and humans have similar behaviors in causal inference with script knowledge?

📄 arXiv: 2311.07311v1 📥 PDF

作者: Xudong Hong, Margarita Ryzhova, Daniel Adrian Biondi, Vera Demberg

分类: cs.CL, cs.AI

发布日期: 2023-11-13

备注: 15 pages, 3 figures

🔗 代码/项目: GITHUB

💡 一句话要点

探讨大型语言模型与人类在因果推理中的相似性

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 因果推理 大型语言模型 脚本知识 人类行为 自然语言处理 实验研究 阅读理解

📋 核心要点

  1. 核心问题：现有大型语言模型在因果推理中的表现与人类存在差异，尤其是在脚本知识的整合上。
  2. 方法要点：通过自我节奏阅读实验，比较人类与LLMs在因果推理中的行为，分析其相似性与差异。
  3. 实验或效果：实验结果表明，只有部分LLMs与人类行为相符，但在脚本知识的整合上仍显不足。

📝 摘要（中文）

近年来，大型预训练语言模型（LLMs）在语言理解能力上表现出色，包括零-shot因果推理。然而，它们的能力与人类的相似程度尚不明确。本文研究了在基于脚本的故事中，事件B如何因事件A的存在、否定或省略而受到影响。通过自我节奏阅读实验，发现人类在因果冲突存在时的阅读时间显著增加，而在未明确提及事件A时，阅读时间相似，表明人类能够利用脚本知识推断事件B。随后，我们测试了多种LLMs，发现只有近期的模型（如GPT-3或Vicuna）在因果冲突条件下与人类行为相关，但所有模型在整合脚本知识方面仍存在困难。

🔬 方法详解

问题定义：本文旨在探讨大型语言模型在因果推理中与人类的行为相似性，特别是在脚本知识的应用上。现有方法在处理因果关系时，未能充分考虑脚本知识的影响，导致模型在某些情况下表现不佳。

核心思路：通过设计自我节奏阅读实验，研究人类如何在因果冲突和脚本知识的影响下处理信息，并将此结果与多种LLMs的表现进行对比，以评估模型的因果推理能力。

技术框架：研究分为两个主要阶段：首先进行人类的自我节奏阅读实验，记录阅读时间；其次对多种LLMs进行相同数据的测试，分析其在不同因果条件下的表现。

关键创新：本研究的创新点在于系统地比较人类与LLMs在因果推理中的行为，揭示了模型在整合脚本知识方面的不足，提供了新的研究视角。

关键设计：实验中设置了不同的因果条件（如A存在、A否定、A省略），并通过阅读时间作为主要指标来评估因果推理的有效性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，只有GPT-3和Vicuna等近期的LLMs在因果冲突条件下与人类行为存在相关性，但所有模型在预测因果关系时仍未能准确反映人类的推理过程，尤其是在整合脚本知识方面表现不足。

🎯 应用场景

该研究为理解大型语言模型在因果推理中的局限性提供了重要见解，未来可用于改进模型的设计，使其更好地整合脚本知识，提升在复杂语言理解任务中的表现。这对于自然语言处理、智能问答系统等领域具有重要的应用价值。

📄 摘要（原文）

Recently, large pre-trained language models (LLMs) have demonstrated superior language understanding abilities, including zero-shot causal reasoning. However, it is unclear to what extent their capabilities are similar to human ones. We here study the processing of an event $B$ in a script-based story, which causally depends on a previous event $A$. In our manipulation, event $A$ is stated, negated, or omitted in an earlier section of the text. We first conducted a self-paced reading experiment, which showed that humans exhibit significantly longer reading times when causal conflicts exist ($\neg A \rightarrow B$) than under logical conditions ($A \rightarrow B$). However, reading times remain similar when cause A is not explicitly mentioned, indicating that humans can easily infer event B from their script knowledge. We then tested a variety of LLMs on the same data to check to what extent the models replicate human behavior. Our experiments show that 1) only recent LLMs, like GPT-3 or Vicuna, correlate with human behavior in the $\neg A \rightarrow B$ condition. 2) Despite this correlation, all models still fail to predict that $nil \rightarrow B$ is less surprising than $\neg A \rightarrow B$, indicating that LLMs still have difficulties integrating script knowledge. Our code and collected data set are available at https://github.com/tony-hong/causal-script.