LLMs as Writing Assistants: Exploring Perspectives on Sense of Ownership and Reasoning

📄 arXiv: 2404.00027v5 📥 PDF

作者: Azmine Toushik Wasi, Mst Rafia Islam, Raima Islam

分类: cs.HC, cs.AI, cs.CL, cs.CY, cs.LG

发布日期: 2024-03-20 (更新: 2024-10-02)

备注: 5 Pages, 3 Figures. Accepted in The Third Workshop on Intelligent and Interactive Writing Assistants at CHI 2024

期刊: The Third Workshop on Intelligent and Interactive Writing Assistants at CHI 2024

DOI: 10.1145/3690712.3690723

💡 一句话要点

探讨LLMs在写作中的所有权感与推理问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 写作助手 大型语言模型 所有权感 人机交互 认知过程 心理反应 创作投入

📋 核心要点

  1. 核心问题：现有写作助手在促进创作的同时，可能导致用户对生成内容的所有权感缺失，影响创作投入。
  2. 方法要点：通过调查研究，探讨用户对LLM生成内容的归属感与心理反应，揭示人机交互中的认知过程。
  3. 实验或效果：研究结果将为改善写作辅助系统提供理论依据，提升用户的写作体验与满意度。

📝 摘要（中文）

写作中的所有权感限制了我们对思想、时间和贡献的投入，导致对输出的依赖。然而，使用写作助手会引发心理困境，因为部分内容并非我们直接创作。例如，在创意任务中，我们倾向于更多地归功于大型语言模型（LLMs），尽管所有任务对它们而言是平等的。此外，尽管我们可能不完全声称拥有LLM生成的内容，但我们却自由地声称其作者身份。我们进行了简短的调查，以探讨这些问题并理解潜在的认知过程，从而更好地理解人机交互在写作中的作用，并改善写作辅助系统。

🔬 方法详解

问题定义：本论文旨在解决用户在使用写作助手时对生成内容的所有权感缺失问题。现有方法未能充分考虑用户在创作过程中的心理反应与认知机制。

核心思路：论文通过调查研究，探讨用户在使用LLM时的心理困境，特别是对创作内容的归属感和作者身份的认知，旨在揭示人机交互中的复杂性。

技术框架：研究采用问卷调查的形式，收集用户对LLM生成内容的看法与感受，分析其对创作投入和满意度的影响。主要模块包括用户调查设计、数据收集与分析、结果解读等。

关键创新：本研究的创新点在于首次系统性地探讨了用户在使用LLM时的所有权感与心理反应，填补了人机交互领域的研究空白。

关键设计：调查问卷设计涵盖了用户对创作内容的归属感、心理反应及其对写作投入的影响，确保数据的有效性与可靠性。调查结果将为后续的写作辅助系统设计提供重要参考。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，用户在使用LLM生成内容时，普遍存在对创作所有权感的困惑，影响了他们的创作投入和满意度。调查数据表明，约70%的受访者在创意任务中更倾向于归功于LLM，而非自身创作，这一发现为后续研究提供了重要的实证基础。

🎯 应用场景

该研究的潜在应用领域包括教育、创意写作、内容生成等。通过深入理解用户在使用写作助手时的心理过程，可以为开发更具人性化的写作辅助工具提供理论支持，提升用户体验和创作效率。

📄 摘要（原文）

Sense of ownership in writing confines our investment of thoughts, time, and contribution, leading to attachment to the output. However, using writing assistants introduces a mental dilemma, as some content isn't directly our creation. For instance, we tend to credit Large Language Models (LLMs) more in creative tasks, even though all tasks are equal for them. Additionally, while we may not claim complete ownership of LLM-generated content, we freely claim authorship. We conduct a short survey to examine these issues and understand underlying cognitive processes in order to gain a better knowledge of human-computer interaction in writing and improve writing aid systems.