Editing Arbitrary Propositions in LLMs without Subject Labels

📄 arXiv: 2401.07526v1 📥 PDF

作者: Itai Feigenbaum, Devansh Arpit, Huan Wang, Shelby Heinecke, Juan Carlos Niebles, Weiran Yao, Caiming Xiong, Silvio Savarese

分类: cs.CL, cs.AI, cs.LG

发布日期: 2024-01-15

💡 一句话要点

提出一种无需主题标签的LLM任意命题编辑方法

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 命题编辑 梯度追踪 信息更新 自然语言处理 知识图谱 布尔分类

📋 核心要点

  1. 现有的L&E方法仅限于二元命题，且依赖于主题标签，限制了其应用范围。
  2. 本文提出的梯度追踪（GT）方法能够在无需主题标签的情况下编辑任意命题，扩展了编辑的能力。
  3. 实验结果表明，本文方法在无主题标签的情况下，性能接近现有的L&E方法，并且在新数据集FACT上表现出色。

📝 摘要（中文）

大型语言模型（LLM）编辑旨在修改LLM中的事实信息。现有的定位与编辑（L&E）方法仅限于二元命题，且依赖于语义主题标签，这在实际应用中可能不可用或定义不明确。本文提出了一种简单快速的定位方法——梯度追踪（GT），能够在无需主题标签的情况下编辑任意命题。通过将LLM视为布尔分类器，我们的实验展示了该方法在没有主题标签的情况下，能够接近现有L&E方法的性能。此外，我们引入了一个新的数据集——事实准确性分类测试（FACT），该数据集包含非二元命题，进一步验证了我们方法的有效性。

🔬 方法详解

问题定义：本文旨在解决现有L&E方法仅限于二元命题和依赖主题标签的问题。这些限制使得在实际应用中难以有效编辑LLM的响应。

核心思路：提出的梯度追踪（GT）方法通过定位LLM内部信息存储位置，允许编辑任意命题，而不需要依赖主题标签。这种设计使得编辑过程更加灵活和高效。

技术框架：整体流程包括两个主要阶段：首先使用GT进行位置追踪，找到需要编辑的权重位置；然后采用一种轻微变体的Rank-One Model Editing（ROME）方法在该位置进行编辑。

关键创新：最重要的技术创新在于GT方法的提出，使得可以在没有主题标签的情况下编辑任意命题，突破了现有方法的局限性。

关键设计：在实验中，使用了二元命题的数据集CounterFact进行验证，设计了适合布尔分类的提示，确保LLM能够正确响应T/F问题。

🖼️ 关键图片

fig_0

📊 实验亮点

实验结果显示，本文方法在没有主题标签的情况下，能够在CounterFact数据集上接近现有L&E方法的性能，且在新引入的FACT数据集上成功实现了对非二元命题的编辑，展示了显著的灵活性和有效性。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理中的信息更新、知识图谱的动态维护以及智能问答系统的优化。通过提高LLM的编辑能力，可以更好地满足用户对信息准确性的需求，提升模型的实用性和可靠性。

📄 摘要（原文）

Large Language Model (LLM) editing modifies factual information in LLMs. Locate-and-Edit (L\&E) methods accomplish this by finding where relevant information is stored within the neural network, and editing the weights at that location. The goal of editing is to modify the response of an LLM to a proposition independently of its phrasing, while not modifying its response to other related propositions. Existing methods are limited to binary propositions, which represent straightforward binary relations between a subject and an object. Furthermore, existing methods rely on semantic subject labels, which may not be available or even be well-defined in practice. In this paper, we show that both of these issues can be effectively skirted with a simple and fast localization method called Gradient Tracing (GT). This localization method allows editing arbitrary propositions instead of just binary ones, and does so without the need for subject labels. As propositions always have a truth value, our experiments prompt an LLM as a boolean classifier, and edit its T/F response to propositions. Our method applies GT for location tracing, and then edit the model at that location using a mild variant of Rank-One Model Editing (ROME). On datasets of binary propositions derived from the CounterFact dataset, we show that our method -- without access to subject labels -- performs close to state-of-the-art L\&E methods which has access subject labels. We then introduce a new dataset, Factual Accuracy Classification Test (FACT), which includes non-binary propositions and for which subject labels are not generally applicable, and therefore is beyond the scope of existing L\&E methods. Nevertheless, we show that with our method editing is possible on FACT.