The Typing Cure: Experiences with Large Language Model Chatbots for Mental Health Support
作者: Inhwa Song, Sachin R. Pendse, Neha Kumar, Munmun De Choudhury
分类: cs.HC, cs.AI, cs.CY
发布日期: 2024-01-25 (更新: 2025-05-09)
备注: The first two authors contributed equally to this work; typos corrected and post-review revisions incorporated
💡 一句话要点
提出心理健康支持的LLM聊天机器人设计原则
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 心理健康 大型语言模型 聊天机器人 用户体验 文化适应性 治疗对齐 AI伦理 心理治疗
📋 核心要点
- 现有的LLM聊天机器人在心理健康支持中存在设计不当的风险，可能对用户造成伤害。
- 本研究通过访谈用户，探讨如何为聊天机器人赋予支持角色，并提出治疗对齐的概念。
- 研究结果表明，用户能够有效利用聊天机器人填补心理健康支持的空白，但仍需关注文化适应性。
📝 摘要（中文）
随着人们在严重困扰中越来越多地使用大型语言模型（LLM）聊天机器人作为心理健康支持工具，社交媒体上讨论了这些互动如何拯救生命。然而，证据表明，通用的LLM聊天机器人也存在显著风险，可能危害用户的福祉。本研究调查了使用LLM聊天机器人进行心理健康支持的用户经历。通过对21位来自不同背景的个体进行访谈，分析了用户如何为聊天机器人创造独特的支持角色，填补日常关怀的空白，并在寻求支持时应对相关的文化限制。我们基于心理治疗文献提出了“治疗对齐”的概念，即在心理健康背景下将人工智能与治疗价值观对齐。研究为设计者提供了关于如何在心理健康护理中伦理和有效地使用LLM聊天机器人及其他AI心理健康支持工具的建议。
🔬 方法详解
问题定义：本研究旨在解决LLM聊天机器人在心理健康支持中的潜在风险和用户体验不足的问题。现有方法缺乏对用户文化背景和个体需求的考虑，可能导致不适当的支持。
核心思路：通过对21位用户的深入访谈，分析他们如何与聊天机器人互动，创造个性化的支持体验，并提出“治疗对齐”的概念，以确保AI与心理健康价值观的一致性。
技术框架：研究采用定性分析方法，首先进行用户访谈，然后对访谈内容进行编码和主题分析，识别出用户的需求、挑战和对聊天机器人的期望。
关键创新：本研究的创新点在于提出了“治疗对齐”的概念，强调在设计聊天机器人时需考虑心理治疗的核心价值观，从而提升用户体验和安全性。
关键设计：在访谈过程中，研究者关注用户的文化背景、情感需求和对聊天机器人的期望，确保分析结果能够反映真实的用户体验和需求。通过这种方法，研究为设计者提供了切实可行的建议。
🖼️ 关键图片
📊 实验亮点
研究发现，用户能够通过与聊天机器人的互动填补心理健康支持的空白，且在文化适应性方面表现出显著的需求。访谈结果显示，用户对聊天机器人的支持角色有积极的反馈，但也指出了潜在的风险和改进空间。
🎯 应用场景
该研究为心理健康领域的LLM聊天机器人设计提供了重要的理论基础和实践指导，能够帮助开发者在设计过程中更好地考虑用户的文化和情感需求。未来，这些设计原则有望提升AI在心理健康支持中的有效性和安全性，推动心理健康服务的普及与可及性。
📄 摘要（原文）
People experiencing severe distress increasingly use Large Language Model (LLM) chatbots as mental health support tools. Discussions on social media have described how engagements were lifesaving for some, but evidence suggests that general-purpose LLM chatbots also have notable risks that could endanger the welfare of users if not designed responsibly. In this study, we investigate the lived experiences of people who have used LLM chatbots for mental health support. We build on interviews with 21 individuals from globally diverse backgrounds to analyze how users create unique support roles for their chatbots, fill in gaps in everyday care, and navigate associated cultural limitations when seeking support from chatbots. We ground our analysis in psychotherapy literature around effective support, and introduce the concept of therapeutic alignment, or aligning AI with therapeutic values for mental health contexts. Our study offers recommendations for how designers can approach the ethical and effective use of LLM chatbots and other AI mental health support tools in mental health care.