SWAG: Storytelling With Action Guidance

📄 arXiv: 2402.03483v2 📥 PDF

作者: Zeeshan Patel, Karim El-Refai, Jonathan Pei, Tianle Li

分类: cs.CL, cs.AI

发布日期: 2024-02-05 (更新: 2024-10-07)

备注: EMNLP Findings 2024

💡 一句话要点

提出SWAG以解决自动化故事生成的参与度不足问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 故事生成 大型语言模型 自动化创作 参与度提升 反馈机制

📋 核心要点

  1. 现有的长篇故事生成方法往往缺乏参与度，生成的内容虽然连贯但不够吸引人。
  2. SWAG通过两个LLM的反馈循环，将故事生成视为一个搜索问题，以选择最佳行动引导故事发展。
  3. 实验结果显示，SWAG在多个评估标准上显著优于传统的故事生成方法，表现出更高的内容质量。

📝 摘要（中文）

自动化长篇故事生成通常依赖长上下文的大型语言模型（LLMs）进行一次性创作，虽然能够生成连贯的内容，但不一定引人入胜。我们提出了故事生成的新方法——故事叙述与行动引导（SWAG）。该方法将故事写作视为一个搜索问题，通过两个模型的反馈循环进行：一个LLM生成故事内容，另一个辅助LLM选择下一个最佳“行动”，以引导故事的未来方向。我们的结果表明，SWAG在GPT-4评估和人类评估中显著优于以往的端到端故事生成技术。使用小型开源模型的SWAG管道超越了GPT-3.5-Turbo。

🔬 方法详解

问题定义：论文要解决的具体问题是如何提高自动化故事生成的参与度和吸引力。现有方法虽然能够生成连贯的故事，但往往缺乏深度和趣味性，导致用户体验不佳。

核心思路：SWAG的核心思路是通过两个大型语言模型的反馈循环来优化故事生成过程。第一个模型负责生成故事内容，而第二个辅助模型则选择最佳的行动，以引导故事的进一步发展。这种设计使得故事生成不仅仅是线性的，而是可以根据用户的需求进行动态调整。

技术框架：SWAG的整体架构包括两个主要模块：内容生成模块和行动选择模块。内容生成模块使用一个LLM生成初步故事，而行动选择模块则通过分析当前故事状态，选择最合适的下一步行动。两个模块之间通过反馈机制相互作用，形成闭环。

关键创新：SWAG的最重要技术创新在于将故事生成视为一个搜索问题，通过引入行动选择机制，显著提升了故事的参与度和趣味性。这与传统的线性生成方法形成了鲜明对比。

关键设计：在模型设计上，SWAG使用了小型开源模型进行训练，优化了参数设置和损失函数，以确保生成内容的连贯性和吸引力。此外，模型的训练过程中，采用了多样化的故事情节和用户反馈数据，以增强模型的适应性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

SWAG在多个评估标准上表现优异，尤其是在与GPT-4的对比中，显示出显著的性能提升。具体而言，SWAG的生成内容在参与度和趣味性上超越了传统的端到端故事生成技术，且使用的小型开源模型的表现超过了GPT-3.5-Turbo。

🎯 应用场景

SWAG的潜在应用场景包括自动化内容创作、游戏剧情生成和教育领域的故事教学等。其实际价值在于能够生成更具吸引力和互动性的故事内容，提升用户体验。未来，SWAG有望在多种创意写作和娱乐应用中发挥重要作用。

📄 摘要（原文）

Automated long-form story generation typically employs long-context large language models (LLMs) for one-shot creation, which can produce cohesive but not necessarily engaging content. We introduce Storytelling With Action Guidance (SWAG), a novel approach to storytelling with LLMs. Our approach frames story writing as a search problem through a two-model feedback loop: one LLM generates story content, and another auxiliary LLM is used to choose the next best "action" to steer the story's future direction. Our results show that SWAG can substantially outperform previous end-to-end story generation techniques when evaluated by GPT-4 and through human evaluation. Our SWAG pipeline using only small open-source models surpasses GPT-3.5-Turbo.