A Survey on Large Language Model Hallucination via a Creativity Perspective
作者: Xuhui Jiang, Yuxing Tian, Fengrui Hua, Chengjin Xu, Yuanzhuo Wang, Jian Guo
分类: cs.AI, cs.HC
发布日期: 2024-02-02
备注: 9 pages, 4 figures
💡 一句话要点
探讨大语言模型幻觉的创造力潜力
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大语言模型 幻觉 创造力 文献回顾 发散思维 聚合思维 应用研究
📋 核心要点
- 现有研究普遍将大语言模型中的幻觉视为缺陷，影响其在关键应用中的可靠性。
- 本研究提出将幻觉视为创造力的潜在来源，通过历史和理论分析探讨其积极作用。
- 系统回顾文献，提出将幻觉转化为创造力的框架，为未来研究提供方向。
📝 摘要（中文）
大语言模型（LLMs）中的幻觉通常被视为局限性，但本调查探讨了它们作为创造力来源的可能性。文章首先回顾了幻觉的分类及其对LLM可靠性的负面影响，接着通过历史实例和相关理论，探讨幻觉在LLM中可能带来的创造性益处。为阐明这一联系的价值和评估标准，文章深入探讨了创造力的定义和评估方法，并系统回顾了文献，分析如何将幻觉转化为创造力。最后，文章讨论了未来研究方向，强调进一步探索和完善幻觉在LLM创造过程中的应用的必要性。
🔬 方法详解
问题定义：本论文旨在解决大语言模型中的幻觉问题，现有方法往往忽视其潜在的创造性价值，导致对LLM的应用局限性。
核心思路：论文提出将幻觉视为创造力的源泉，探讨如何通过历史实例和理论分析，利用幻觉促进创造性思维的形成。
技术框架：整体架构包括幻觉的分类、对创造力的定义与评估、以及如何将幻觉转化为创造力的系统性文献回顾，分为发散思维和聚合思维两个阶段。
关键创新：本研究的创新在于重新定义幻觉的角色，强调其在创造性过程中的积极作用，与传统观点形成鲜明对比。
关键设计：在评估创造力时，采用多种评估方法，结合定量和定性指标，确保对幻觉的创造性潜力进行全面分析。通过对不同文献的系统回顾，提出具体的评估标准和框架。
🖼️ 关键图片
📊 实验亮点
本研究通过系统文献回顾，提出将幻觉转化为创造力的框架，强调其在创意过程中的积极作用。研究表明，幻觉不仅是缺陷，还可能成为激发创造力的重要因素，为LLM的应用开辟了新的方向。
🎯 应用场景
该研究的潜在应用领域包括创意写作、艺术创作和教育等。通过理解和利用大语言模型中的幻觉，能够激发更高水平的创造力，推动相关领域的创新与发展。未来，研究成果可能会影响LLM在创意产业中的应用方式，促进人机协作的进一步深化。
📄 摘要（原文）
Hallucinations in large language models (LLMs) are always seen as limitations. However, could they also be a source of creativity? This survey explores this possibility, suggesting that hallucinations may contribute to LLM application by fostering creativity. This survey begins with a review of the taxonomy of hallucinations and their negative impact on LLM reliability in critical applications. Then, through historical examples and recent relevant theories, the survey explores the potential creative benefits of hallucinations in LLMs. To elucidate the value and evaluation criteria of this connection, we delve into the definitions and assessment methods of creativity. Following the framework of divergent and convergent thinking phases, the survey systematically reviews the literature on transforming and harnessing hallucinations for creativity in LLMs. Finally, the survey discusses future research directions, emphasizing the need to further explore and refine the application of hallucinations in creative processes within LLMs.