Editorial Alignment: A Participatory Approach to Engaging Editorial Expertise in LLM-mediated Knowledge Dissemination

📄 arXiv: 2606.20258v1 📥 PDF

作者: Simon Aagaard Enni, Malthe Stavning Erslev, Karl-Emil Kjær Bilstrup, Kristoffer Laigaard Nielbo

分类: cs.HC, cs.AI

发布日期: 2026-06-18

备注: 14 pages

💡 一句话要点

提出编辑对齐方法以增强LLM知识传播中的编辑参与

🎯 匹配领域: 支柱三：空间感知与语义 (Perception & Semantics)

关键词: 大型语言模型 知识传播 编辑对齐 参与式人工智能 设计工作坊 公共知识机构

📋 核心要点

  1. 核心问题：现有的LLM在知识传播中缺乏编辑参与，导致编辑职能被边缘化。
  2. 方法要点：通过设计工作坊，探索编辑如何参与重新对齐LLM接口，以符合编辑标准。
  3. 实验或效果：在北欧公共知识机构的案例中，成功设计并实施了LLM支持的百科全书接口，提升了编辑的参与度。

📝 摘要（中文）

随着大型语言模型（LLM）驱动的信息服务的出现，公共知识机构的运营条件正在发生变化，这威胁到这些机构所承担的编辑职能。尽管LLM为知识传播提供了强大的新功能，但预训练的LLM已经与其商业开发者的价值观和传播策略对齐，从而挑战了编辑权威。本文通过设计工作坊研究编辑参与如何重新对齐LLM接口，以符合编辑标准，并在北欧公共知识机构的案例研究中设计和实施了一个LLM支持的百科全书接口。我们将编辑对齐引入参与式人工智能的设计实践中，将AI对齐框架视为设计过程，并将编辑标准定位为将编辑实践和价值观转化为技术实施对齐目标的设计工件。最后，我们讨论了编辑对齐如何为持续参与创造空间，并赋予编辑在LLM介导的知识传播中的主动权。

🔬 方法详解

问题定义：本文旨在解决大型语言模型（LLM）在知识传播中对编辑职能的侵蚀问题。现有方法未能有效整合编辑的参与，导致知识传播的权威性和准确性受到挑战。

核心思路：论文提出通过设计工作坊的方式，促进编辑参与LLM接口的重新对齐，以确保其符合编辑标准和价值观。这样的设计能够增强编辑在知识传播中的主动性和权威性。

技术框架：整体架构包括设计工作坊、编辑参与、LLM接口设计和实施四个主要模块。设计工作坊为编辑提供了参与的机会，LLM接口则在此基础上进行调整和优化。

关键创新：最重要的技术创新点在于将编辑对齐作为参与式人工智能的设计实践，强调编辑标准作为设计工件的作用。这一方法与传统的LLM设计方法本质上不同，后者往往忽视了编辑的参与。

关键设计：在设计过程中，关键参数包括编辑标准的定义、参与者的选择和设计工作坊的结构。损失函数和网络结构的具体细节尚未公开，需进一步研究。

📊 实验亮点

在案例研究中，设计并实施的LLM支持的百科全书接口显著提升了编辑的参与度，具体表现为编辑反馈的积极性和对内容质量的提升。虽然具体的性能数据尚未披露，但编辑的主动性和权威性得到了有效增强。

🎯 应用场景

该研究的潜在应用领域包括公共知识机构、教育平台和在线百科全书等。通过增强编辑参与，能够提升知识传播的质量和权威性，推动更为民主和透明的信息共享方式。未来，随着LLM技术的不断发展，编辑对齐方法可能会在更多领域得到应用，促进人机协作的深入发展。

📄 摘要（原文）

The emergence of LLM-driven information services is reshaping the conditions under which public knowledge institutions operate, threatening to absorb the editorial function these institutions exist to exercise. While LLMs offer powerful new affordances for knowledge dissemination, editorial authority is challenged by pretrained LLMs that arrive already aligned with the values and dissemination strategies of their commercial developers. This paper investigates editor participation in re-aligning LLM interfaces to editorial standards through design workshops, in a case study where we design and implement an LLM-enabled encyclopedia interface with a Nordic public knowledge institution. We introduce editorial alignment as a design practice within Participatory AI, framing AI alignment as a design process and positioning the editorial standard as a design artefact that translates editorial practice and values into alignment objectives for technical implementation. Last, we discuss how editorial alignment can create space for ongoing participation and give editors agency in LLM-mediated knowledge dissemination.