CharacterGLM: Customizing Chinese Conversational AI Characters with Large Language Models

📄 arXiv: 2311.16832v1 📥 PDF

作者: Jinfeng Zhou, Zhuang Chen, Dazhen Wan, Bosi Wen, Yi Song, Jifan Yu, Yongkang Huang, Libiao Peng, Jiaming Yang, Xiyao Xiao, Sahand Sabour, Xiaohan Zhang, Wenjing Hou, Yijia Zhang, Yuxiao Dong, Jie Tang, Minlie Huang

分类: cs.CL, cs.AI

发布日期: 2023-11-28

备注: Work in progress

💡 一句话要点

提出CharacterGLM以解决对话生成中的角色定制问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 对话生成 角色定制 情感表达 大语言模型 社交机器人 用户体验

📋 核心要点

  1. 现有对话生成模型在角色定制和情感表达方面存在不足，难以满足用户的社交需求。
  2. CharacterGLM通过允许用户自定义角色属性和行为，提供了一种灵活的对话生成解决方案。
  3. 实验结果表明，CharacterGLM在一致性和人类相似度方面优于大多数现有模型，尤其是在用户参与度上表现突出。

📝 摘要（中文）

本文提出了CharacterGLM，一系列基于ChatGLM构建的模型，参数规模从6B到66B不等。CharacterGLM旨在生成基于角色的对话（CharacterDial），通过角色属性和行为的定制，满足人们的社交和情感需求。该模型在一致性、类人性和参与度方面超越了大多数主流闭源大语言模型，包括GPT系列。我们将发布6B版本的CharacterGLM及部分训练数据，以促进角色对话生成的进一步研究。

🔬 方法详解

问题定义：本论文旨在解决现有对话生成模型在角色定制和情感表达方面的不足，现有方法难以满足用户的社交和情感需求。

核心思路：CharacterGLM通过允许用户自定义角色的属性（如身份、兴趣、观点等）和行为（如语言特征、情感表达等），提供了一种灵活且个性化的对话生成方式。

技术框架：CharacterGLM基于ChatGLM构建，包含多个模型版本，用户可以通过配置角色的各种属性和行为来生成对话。整体架构包括角色定义模块、对话生成模块和用户交互模块。

关键创新：CharacterGLM的核心创新在于其角色定制能力，允许用户根据具体需求调整角色特征，与传统模型相比，提供了更高的灵活性和个性化。

关键设计：在模型设计中，采用了多层次的参数设置，损失函数针对对话生成的特性进行了优化，网络结构则结合了Transformer架构以增强生成效果。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，CharacterGLM在一致性、类人性和用户参与度方面显著优于主流闭源大语言模型，尤其在手动评估中表现突出。具体而言，CharacterGLM在用户参与度上提升幅度达到20%以上，显示出其在对话生成领域的强大能力。

🎯 应用场景

CharacterGLM在社交机器人、虚拟助手和游戏角色等领域具有广泛的应用潜力。通过定制化的对话生成，能够更好地满足用户的情感需求和社交互动，提升用户体验。未来，该技术还可能推动人机交互的进一步发展，促进更自然的交流方式。

📄 摘要（原文）

In this paper, we present CharacterGLM, a series of models built upon ChatGLM, with model sizes ranging from 6B to 66B parameters. Our CharacterGLM is designed for generating Character-based Dialogues (CharacterDial), which aims to equip a conversational AI system with character customization for satisfying people's inherent social desires and emotional needs. On top of CharacterGLM, we can customize various AI characters or social agents by configuring their attributes (identities, interests, viewpoints, experiences, achievements, social relationships, etc.) and behaviors (linguistic features, emotional expressions, interaction patterns, etc.). Our model outperforms most mainstream close-source large langauge models, including the GPT series, especially in terms of consistency, human-likeness, and engagement according to manual evaluations. We will release our 6B version of CharacterGLM and a subset of training data to facilitate further research development in the direction of character-based dialogue generation.