Analyzing Sentiment Polarity Reduction in News Presentation through Contextual Perturbation and Large Language Models
作者: Alapan Kuila, Somnath Jena, Sudeshna Sarkar, Partha Pratim Chakrabarti
分类: cs.CL
发布日期: 2024-02-03
备注: Accepted in ICON 2023
💡 一句话要点
提出基于上下文扰动和大语言模型的新闻情感极性降低方法
🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 情感分析 新闻报道 对抗攻击 大语言模型 文本扰动 客观性提升
📋 核心要点
- 核心问题：现有新闻报道中情感操控严重，导致报道客观性不足，影响公众舆论。
- 方法要点：提出通过上下文扰动技术和大语言模型，减少新闻文本中的情感极性，同时保持语义完整性。
- 实验或效果：实验结果显示，所提方法在情感极性降低方面表现优异，且文本流畅性和语法正确性得以保持。
📝 摘要（中文）
在当今媒体环境中，新闻机构在塑造公众舆论方面发挥着重要作用，因此解决新闻文本中的情感操控问题显得尤为重要。新闻作者常常注入个人偏见和情感语言，这可能扭曲报道的客观性。本文提出了一种新颖的方法，通过减少新闻内容中潜在情感的极性来应对这一问题。我们借鉴了基于对抗攻击的句子扰动技术和使用ChatGPT的提示方法，采用变换约束来修改句子，同时保持其核心语义。通过替换、插入和删除三种扰动方法，结合上下文感知的掩码语言模型，我们旨在通过束搜索算法最大化目标新闻方面的情感得分。实验和人类评估表明，这两种模型在实现情感极性降低的同时，保持了文本相似性、流畅性和语法正确性。对比分析确认了基于对抗攻击的扰动方法和基于提示的方法的竞争性能，为促进更客观的新闻报道和抵制媒体中的情感语言偏见提供了有希望的解决方案。
🔬 方法详解
问题定义：本文旨在解决新闻文本中情感操控的问题，现有方法往往无法有效降低情感极性，同时保持文本的客观性和流畅性。
核心思路：通过引入对抗攻击的句子扰动技术和基于提示的方法，设计了一种新的文本修改框架，旨在减少潜在情感的极性，同时保留句子的核心语义。
技术框架：整体流程包括三个主要阶段：首先，使用上下文感知的掩码语言模型对句子进行扰动；其次，应用替换、插入和删除三种扰动方法；最后，通过束搜索算法优化目标情感得分。
关键创新：本研究的创新点在于结合了对抗攻击和大语言模型的优势，提出了一种新的情感极性降低方法，与传统方法相比，能够在保持文本相似性的同时有效降低情感极性。
关键设计：在模型设计中，采用了特定的损失函数来平衡情感极性和文本流畅性，同时设置了多种扰动策略，以确保在修改过程中尽量减少对原句的影响。
🖼️ 关键图片
📊 实验亮点
实验结果表明，所提出的方法在情感极性降低方面表现出色，尤其是在文本流畅性和语法正确性方面保持了较高水平。与基线方法相比，情感极性降低幅度达到了显著提升，验证了该方法的有效性和实用性。
🎯 应用场景
该研究的潜在应用领域包括新闻媒体、社交媒体内容审核及情感分析工具。通过减少新闻报道中的情感偏见，能够提升公众对信息的客观理解，促进更为公正的舆论环境。未来，该方法还可扩展至其他文本类型的情感调节。
📄 摘要（原文）
In today's media landscape, where news outlets play a pivotal role in shaping public opinion, it is imperative to address the issue of sentiment manipulation within news text. News writers often inject their own biases and emotional language, which can distort the objectivity of reporting. This paper introduces a novel approach to tackle this problem by reducing the polarity of latent sentiments in news content. Drawing inspiration from adversarial attack-based sentence perturbation techniques and a prompt based method using ChatGPT, we employ transformation constraints to modify sentences while preserving their core semantics. Using three perturbation methods: replacement, insertion, and deletion coupled with a context-aware masked language model, we aim to maximize the desired sentiment score for targeted news aspects through a beam search algorithm. Our experiments and human evaluations demonstrate the effectiveness of these two models in achieving reduced sentiment polarity with minimal modifications while maintaining textual similarity, fluency, and grammatical correctness. Comparative analysis confirms the competitive performance of the adversarial attack based perturbation methods and prompt-based methods, offering a promising solution to foster more objective news reporting and combat emotional language bias in the media.