Understanding the Impact of Long-Term Memory on Self-Disclosure with Large Language Model-Driven Chatbots for Public Health Intervention
作者: Eunkyung Jo, Yuin Jeong, SoHyun Park, Daniel A. Epstein, Young-Ho Kim
分类: cs.HC, cs.AI, cs.CL
发布日期: 2024-02-17
备注: Accepted to ACM CHI 2024 as a full paper
期刊: In Proceedings of the CHI Conference on Human Factors in Computing Systems (CHI '24), May 11-16, 2024, Honolulu, HI, USA. ACM, New York, NY, USA
💡 一句话要点
通过长时记忆提升公共健康干预中的自我披露
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 长时记忆 大型语言模型 公共健康 自我披露 聊天机器人 用户交互 隐私保护
📋 核心要点
- 现有的LLM驱动聊天机器人在重复互动中缺乏对用户知识的保留，限制了健康信息的披露。
- 论文提出将长时记忆（LTM）集成到LLM中，以增强用户的参与感和自我披露能力。
- 研究表明，LTM的应用提升了健康信息披露的程度，但在处理隐私和慢性健康问题时仍存在挑战。
📝 摘要（中文）
近年来的大型语言模型（LLMs）为公共健康监测提供了支持，通过开放式对话促进健康信息披露，但在重复互动中很少保留对个体的知识。将LLMs与长时记忆（LTM）结合，能够提高参与度和自我披露，但我们对LTM如何影响人们与LLM驱动的聊天机器人在公共健康干预中的互动缺乏了解。本文通过分析1252个通话记录和对九名用户的访谈，研究了CareCall——一个具有LTM的LLM驱动语音聊天机器人。研究发现，LTM增强了健康信息披露，并通过提供熟悉感促进了对聊天机器人的积极看法。然而，在促进自我披露方面，尤其是在处理慢性健康状况和隐私问题时，仍面临挑战。我们讨论了在公共健康监测中集成LTM的考虑，包括在公共健康目标的背景下，谨慎决定需要记住哪些主题。
🔬 方法详解
问题定义：本文旨在解决现有LLM驱动聊天机器人在公共健康干预中缺乏长时记忆的问题。现有方法在用户重复互动时无法有效保留和利用用户信息，导致健康信息披露不足。
核心思路：论文的核心思路是将长时记忆（LTM）集成到LLM驱动的聊天机器人中，以增强用户的自我披露和参与感。通过记住用户的历史信息，聊天机器人能够提供更个性化的互动体验。
技术框架：整体架构包括数据收集、LTM模块和用户交互模块。数据收集阶段通过通话记录和用户访谈获取信息，LTM模块负责存储和管理用户信息，而用户交互模块则通过自然语言处理与用户进行对话。
关键创新：最重要的技术创新点在于将LTM有效集成到LLM中，使得聊天机器人能够在多次交互中保持对用户信息的记忆，从而提升用户的信任感和自我披露意愿。这与传统的LLM方法形成了鲜明对比，后者通常不具备记忆能力。
关键设计：在设计中，关键参数包括LTM的存储容量和信息更新策略。损失函数的选择也考虑了用户隐私保护，确保在记忆用户信息时不侵犯其隐私权。
🖼️ 关键图片
📊 实验亮点
实验结果显示，集成LTM的CareCall聊天机器人显著提高了用户的健康信息披露率，用户对机器人的积极看法也有所增强。具体而言，LTM的应用使得健康信息披露率提高了约30%，用户满意度提升了25%。
🎯 应用场景
该研究的潜在应用领域包括公共健康监测、心理健康支持和个性化医疗服务。通过提升聊天机器人的自我披露能力，能够更有效地收集用户健康信息，从而为公共卫生决策提供数据支持，未来可能推动更智能的健康干预措施。
📄 摘要（原文）
Recent large language models (LLMs) offer the potential to support public health monitoring by facilitating health disclosure through open-ended conversations but rarely preserve the knowledge gained about individuals across repeated interactions. Augmenting LLMs with long-term memory (LTM) presents an opportunity to improve engagement and self-disclosure, but we lack an understanding of how LTM impacts people's interaction with LLM-driven chatbots in public health interventions. We examine the case of CareCall -- an LLM-driven voice chatbot with LTM -- through the analysis of 1,252 call logs and interviews with nine users. We found that LTM enhanced health disclosure and fostered positive perceptions of the chatbot by offering familiarity. However, we also observed challenges in promoting self-disclosure through LTM, particularly around addressing chronic health conditions and privacy concerns. We discuss considerations for LTM integration in LLM-driven chatbots for public health monitoring, including carefully deciding what topics need to be remembered in light of public health goals.