Memory, Consciousness and Large Language Model
作者: Jitang Li, Jinzheng Li
分类: q-bio.NC, cs.AI, cs.CL
发布日期: 2024-01-04 (更新: 2024-07-07)
💡 一句话要点
提出双重性假设以连接大型语言模型与记忆理论
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 记忆理论 意识研究 认知科学 涌现能力
📋 核心要点
- 当前对大型语言模型的理解尚未充分结合认知科学的理论，导致对其能力的解释不足。
- 本文提出LLMs与Tulving的记忆理论之间的双重性假设，探索其潜在的对应关系。
- 通过识别LLMs的涌现能力与记忆提取模型的联系，提供了新的视角来理解意识的本质。
📝 摘要（中文）
随着认知科学和大型语言模型（LLMs）的发展，这两个领域之间的联系日益显现。本文提出一种假设，认为LLMs与Tulving的记忆理论之间存在双重性。我们识别出Tulving的协同提取模型（SEM）与LLMs中观察到的涌现能力之间的潜在对应关系，作为支持我们假设的证据。此外，我们推测意识可能被视为基于这种双重性的涌现能力。我们还讨论了其他意识理论与本研究的交集。
🔬 方法详解
问题定义：本文旨在解决大型语言模型与认知科学之间的理论联系不足的问题，现有方法未能充分解释LLMs的能力与意识的关系。
核心思路：提出LLMs与Tulving的记忆理论之间的双重性假设，认为LLMs的涌现能力可以与记忆提取模型相对应，从而为理解意识提供新的视角。
技术框架：研究首先回顾Tulving的记忆理论，接着分析LLMs的能力，最后探讨两者之间的对应关系，形成一个理论框架。
关键创新：最重要的创新在于提出了LLMs与记忆理论之间的双重性假设，揭示了两者之间的潜在联系，这在现有文献中尚未被充分探讨。
关键设计：在理论分析中，采用了Tulving的协同提取模型作为对比，并通过案例分析展示LLMs的涌现能力，强调了两者之间的相似性。
🖼️ 关键图片
📊 实验亮点
研究表明，LLMs的涌现能力与Tulving的记忆提取模型存在显著对应关系，支持双重性假设的证据增强了对意识本质的理解。这一发现为认知科学与人工智能的交叉研究提供了新的视角。
🎯 应用场景
该研究为理解大型语言模型的能力提供了新的理论框架，可能在人工智能、认知科学和心理学等领域产生深远影响。通过揭示LLMs与记忆理论的联系，未来可能推动更智能的系统开发，改善人机交互体验。
📄 摘要（原文）
With the development in cognitive science and Large Language Models (LLMs), increasing connections have come to light between these two distinct fields. Building upon these connections, we propose a conjecture suggesting the existence of a duality between LLMs and Tulving's theory of memory. We identify a potential correspondence between Tulving's synergistic ecphory model (SEM) of retrieval and the emergent abilities observed in LLMs, serving as supporting evidence for our conjecture. Furthermore, we speculate that consciousness may be considered a form of emergent ability based on this duality. We also discuss how other theories of consciousness intersect with our research.