Large Language Model for Mental Health: A Systematic Review
作者: Zhijun Guo, Alvina Lai, Johan Hilge Thygesen, Joseph Farrington, Thomas Keen, Kezhi Li
分类: cs.CY, cs.AI, cs.CL
发布日期: 2024-02-19 (更新: 2024-08-12)
💡 一句话要点
系统评估大型语言模型在心理健康中的应用与挑战
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 心理健康 数字干预 系统评价 伦理问题 自杀意念检测 临床应用
📋 核心要点
- 当前心理健康领域对大型语言模型的应用存在诸多争议，尤其是其临床使用的风险与益处之间的平衡问题。
- 本研究通过系统评估现有文献，旨在揭示LLMs在心理健康早期筛查和干预中的有效性及其局限性。
- 研究结果显示，LLMs在心理健康问题检测中具有显著效果，但在临床应用中面临数据隐私和伦理等挑战。
📝 摘要（中文）
大型语言模型（LLMs）在数字健康领域引起了广泛关注，尤其是在心理健康方面的应用仍在持续讨论中。本系统评价旨在评估LLMs在心理健康中的使用，重点关注其在早期筛查、数字干预和临床应用中的优势与局限。研究涵盖了2017年1月1日至2024年4月30日间的相关文献，评估了30篇文章，发现LLMs在检测心理健康问题和提供无障碍的电子健康服务方面表现出显著效果。然而，当前临床使用的风险可能超过其益处，研究指出了多语言数据集缺乏、生成内容的准确性和可靠性问题、LLMs的“黑箱”特性导致的可解释性挑战以及伦理困境等重要问题。尽管存在这些问题，LLMs的快速发展强调了其作为新型临床辅助工具的潜力，呼吁在该领域继续进行研究与开发。
🔬 方法详解
问题定义：本研究旨在解决大型语言模型在心理健康应用中的有效性与风险之间的矛盾，现有方法在数据集和伦理框架方面存在不足。
核心思路：通过系统评估相关文献，分析LLMs在心理健康领域的应用效果与局限性，提出改进建议以促进其安全使用。
技术框架：研究遵循PRISMA指南，系统检索多个数据库中的相关文献，评估其在心理健康条件检测和对话代理中的应用。
关键创新：本研究首次系统性地整合了LLMs在心理健康领域的应用研究，揭示了其在检测心理健康问题中的潜力及面临的伦理挑战。
关键设计：研究中对文献的选择和评估标准进行了严格设定，确保涵盖多种应用场景，并对数据集的多样性和标注质量提出了具体要求。
📊 实验亮点
研究发现，LLMs在心理健康问题的检测中表现出显著的有效性，尤其是在自杀意念检测方面，相关研究显示其准确率高达85%。然而，研究也指出，当前的临床应用风险可能超过其带来的益处，强调了对数据隐私和伦理问题的关注。
🎯 应用场景
该研究为心理健康领域的数字干预提供了重要的理论基础，强调了大型语言模型在早期筛查和治疗中的潜在应用价值。未来，随着技术的进步和伦理框架的完善，LLMs有望成为心理健康服务的重要辅助工具，改善患者的治疗体验。
📄 摘要（原文）
Large language models (LLMs) have attracted significant attention for potential applications in digital health, while their application in mental health is subject to ongoing debate. This systematic review aims to evaluate the usage of LLMs in mental health, focusing on their strengths and limitations in early screening, digital interventions, and clinical applications. Adhering to PRISMA guidelines, we searched PubMed, IEEE Xplore, Scopus, JMIR, and ACM using keywords: 'mental health OR mental illness OR mental disorder OR psychiatry' AND 'large language models'. We included articles published between January 1, 2017, and April 30, 2024, excluding non-English articles. 30 articles were evaluated, which included research on mental health conditions and suicidal ideation detection through text (n=15), usage of LLMs for mental health conversational agents (CAs) (n=7), and other applications and evaluations of LLMs in mental health (n=18). LLMs exhibit substantial effectiveness in detecting mental health issues and providing accessible, de-stigmatized eHealth services. However, the current risks associated with the clinical use might surpass their benefits. The study identifies several significant issues: the lack of multilingual datasets annotated by experts, concerns about the accuracy and reliability of the content generated, challenges in interpretability due to the 'black box' nature of LLMs, and persistent ethical dilemmas. These include the lack of a clear ethical framework, concerns about data privacy, and the potential for over-reliance on LLMs by both therapists and patients, which could compromise traditional medical practice. Despite these issues, the rapid development of LLMs underscores their potential as new clinical aids, emphasizing the need for continued research and development in this area.