Creative Collision: Directorial Persona Steering and Competition in Large Language Models
作者: Subramanyam Sahoo, Justin Shenk
分类: cs.CL, cs.LG
发布日期: 2026-06-15
备注: Accepted at ICML 2026 Workshop on Human-AI Co-Creativity
💡 一句话要点
提出创意碰撞方法以增强大语言模型的可控性
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大语言模型 激活引导 创意碰撞 导演个性 生成一致性 语义方向 可控生成
📋 核心要点
- 现有方法主要通过单一语义方向引导大语言模型，缺乏对复杂语义的有效处理。
- 本文提出创意碰撞方法，通过叠加两个对立的导演个性向量，增强模型的生成能力和可控性。
- 实验结果表明，斯皮尔伯格的引导在大多数情况下主导生成过程，并且中间碰撞点提升了生成一致性。
📝 摘要（中文）
激活引导已成为塑造大语言模型推理行为的强大工具，但大多数先前的研究仅在残差流中注入单一语义方向。本文研究了两个语义相对立的引导向量的叠加，称为创意碰撞。具体而言，我们构建了斯皮尔伯格（乐观、救赎道德倾向）和斯科塞斯（黑暗、道德模糊）的导演个性向量，并通过标量混合参数进行插值。研究发现，斯皮尔伯格的表现特征在几乎整个插值范围内展现出强大的方向主导性，且中间碰撞点在高引导系数下相较于单一导演引导显著提高了生成一致性。这些结果揭示了变换器残差流中竞争语义方向的几何特性，对可控创意生成和价值对齐叙事合成具有直接影响。
🔬 方法详解
问题定义：本文旨在解决现有激活引导方法仅使用单一语义方向的问题，导致生成内容缺乏多样性和复杂性。
核心思路：通过构建两个导演个性向量并进行叠加，形成新的引导机制，从而实现对生成内容的更精细控制。
技术框架：研究采用了一个包含两个导演个性向量的插值模型，使用标量混合参数和引导系数来调节生成内容的风格和道德倾向。
关键创新：本文的创新在于引入了创意碰撞的概念，通过对立向量的叠加实现了更丰富的生成效果，突破了传统单一引导的限制。
关键设计：在参数设置上，使用了标量混合参数α和引导系数λ，实验发现两者的最佳组合能够最大化生成一致性和道德倾向的多样性。具体而言，个性向量在40层解码器的第28层达到最大局部化。
🖼️ 关键图片
📊 实验亮点
实验结果显示，斯皮尔伯格的引导在大多数插值范围内展现出强大的方向主导性，且在高引导系数下，中间碰撞点的生成一致性比单一导演引导提升显著，具体提升幅度未知。这些发现为可控创意生成提供了新的视角。
🎯 应用场景
该研究的潜在应用领域包括电影剧本创作、游戏叙事生成和其他需要高度可控的创意内容生成的场景。通过实现对生成内容的精细调控，能够更好地满足用户的个性化需求，提升创作效率。
📄 摘要（原文）
Activation steering has emerged as a powerful tool for shaping the behaviour of large language models at inference time, yet most prior work injects a \emph{single} semantic direction into the residual stream. We study the richer setting in which two semantically opposing steering vectors are superimposed -- a regime we call \textbf{Creative Collision}. Concretely, we construct directorial persona vectors for Steven Spielberg (optimistic, redemptive moral valence) and Martin Scorsese (dark, morally ambiguous) via mean-difference activation contrast on curated screenplay-derived corpora, then interpolate between them with a scalar mixing parameter $α\in [0,1]$ and a steering coefficient $λ$. Across five evaluation axes -- moral valence, generation coherence, surface style, directional dominance, and vector geometry -- three principal findings emerge: (i)~Spielberg's representational signature exhibits robust \emph{directional dominance}, suppressing Scorsese's moral influence across almost the entire interpolation range; (ii)~intermediate collision points paradoxically \emph{improve} generation coherence relative to pure single-director steering at high $λ$; and (iii)~both personas localise maximally to layer~28 of a 40-layer decoder-only transformer, revealing a shared \emph{moral-tone substrate}. These results illuminate the geometry of competing semantic directions in transformer residual streams and have direct implications for controllable creative generation and value-aligned narrative synthesis.