The Colorful Future of LLMs: Evaluating and Improving LLMs as Emotional Supporters for Queer Youth

📄 arXiv: 2402.11886v1 📥 PDF

作者: Shir Lissak, Nitay Calderon, Geva Shenkman, Yaakov Ophir, Eyal Fruchter, Anat Brunstein Klomek, Roi Reichart

分类: cs.CL, cs.AI

发布日期: 2024-02-19

DOI: 10.18653/v1/2024.naacl-long.113

💡 一句话要点

评估与提升大型语言模型作为LGBTQ青少年情感支持者的能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 情感支持 LGBTQ青少年 心理健康 个性化响应 评估量表 在线咨询 同理心

📋 核心要点

  1. LGBTQ青少年在心理健康方面面临严重挑战，现有支持系统不足，导致他们难以获得有效帮助。
  2. 本文提出了一种新的评估量表，结合定性和定量分析，旨在提升LLMs在情感支持中的表现。
  3. 研究表明，LLM的支持性回应优于人类，但缺乏个性化和同理心，提出了改进的方案以增强其可靠性。

📝 摘要（中文）

LGBTQ青少年面临更高的心理健康风险，如抑郁、焦虑和自杀意念。由于负面污名，他们往往避免寻求帮助，依赖在线资源，这些资源可能提供不兼容的信息。虽然获得支持性环境和可靠信息至关重要，但许多LGBTQ青少年仍缺乏这样的支持。随着大型语言模型（LLMs）如ChatGPT的快速普及，这种情况有望改善。本文旨在全面探讨LLMs在情感支持方面的潜力，进行定性和定量分析，开发了一种基于心理标准和专家意见的十题评分量表。研究发现，LLM的回应在支持性和包容性上优于人类，但缺乏个性化和同理心，可能导致不可靠和潜在有害的建议。我们讨论了这些挑战，展示了专门提示如何改善性能，并提出了一个主动寻求用户背景的LLM支持者蓝图。我们的标注数据集可供进一步研究。

🔬 方法详解

问题定义：本文旨在解决LGBTQ青少年在寻求情感支持时面临的信息不一致和缺乏个性化的问题。现有的在线资源往往无法提供可靠和适合的建议，导致青少年在心理健康方面的风险加剧。

核心思路：论文的核心思路是通过开发一个基于心理学标准的评分量表，评估和提升LLMs在情感支持中的表现，特别是针对LGBTQ青少年的需求。通过引入专门的提示，LLMs可以更好地理解用户背景，从而提供更具同理心和个性化的回应。

技术框架：整体架构包括数据收集、LLM交互分析、评分量表的开发与应用、以及基于用户反馈的模型改进。主要模块包括数据标注、模型评估和反馈循环。

关键创新：最重要的技术创新点在于提出了一个新的评估量表，结合心理学标准与专家意见，系统性地评估LLMs的回应质量，并通过专门的提示改善其性能。与现有方法相比，这种方法更注重用户的个性化需求和情感支持。

关键设计：在评分量表中，设计了十个问题，涵盖支持性、包容性、同理心等维度。模型训练过程中，采用了特定的损失函数以优化个性化响应，并通过用户反馈不断调整模型参数。

🖼️ 关键图片

img_0

📊 实验亮点

实验结果显示，LLM的支持性回应在评分上超越了人类评论，然而在个性化和同理心方面仍显不足。通过引入专门的提示，LLM的表现得到了显著提升，提供了更具个性化的建议，展示了其在情感支持中的潜力。

🎯 应用场景

该研究的潜在应用领域包括心理健康支持、在线咨询服务和教育平台，尤其是针对LGBTQ青少年的情感支持。通过提升LLMs的响应质量，可以为这一群体提供更可靠的情感支持，帮助他们更好地应对心理健康挑战。未来，这种技术有望在更广泛的心理健康领域得到应用，改善人们的生活质量。

📄 摘要（原文）

Queer youth face increased mental health risks, such as depression, anxiety, and suicidal ideation. Hindered by negative stigma, they often avoid seeking help and rely on online resources, which may provide incompatible information. Although access to a supportive environment and reliable information is invaluable, many queer youth worldwide have no access to such support. However, this could soon change due to the rapid adoption of Large Language Models (LLMs) such as ChatGPT. This paper aims to comprehensively explore the potential of LLMs to revolutionize emotional support for queers. To this end, we conduct a qualitative and quantitative analysis of LLM's interactions with queer-related content. To evaluate response quality, we develop a novel ten-question scale that is inspired by psychological standards and expert input. We apply this scale to score several LLMs and human comments to posts where queer youth seek advice and share experiences. We find that LLM responses are supportive and inclusive, outscoring humans. However, they tend to be generic, not empathetic enough, and lack personalization, resulting in nonreliable and potentially harmful advice. We discuss these challenges, demonstrate that a dedicated prompt can improve the performance, and propose a blueprint of an LLM-supporter that actively (but sensitively) seeks user context to provide personalized, empathetic, and reliable responses. Our annotated dataset is available for further research.