AdSteer: Native Advertising in Large Language Model Generation

📄 arXiv: 2611.04147v1 📥 PDF

作者: Shuhang Lin, Chuhao Zhou, Zhenyu Wang, Xiao Lin, Changsheng Wang, Saibo Geng, Dimitris N. Metaxas

分类: cs.CL

发布日期: 2026-11-03

💡 一句话要点

提出AdSteer框架以解决大语言模型中的原生广告问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 原生广告 广告整合 解码框架 用户体验 计算效率

📋 核心要点

  1. 现有方法主要依赖于提示级注入或重写，可能影响响应质量或增加计算成本。
  2. AdSteer框架通过自适应调整令牌概率，将上下文相关的广告自然融入响应中。
  3. 实验结果表明，AdSteer在整体得分上平均提高14.1%，且令牌数减少22.5%。

📝 摘要（中文）

大语言模型（LLM）服务面临快速上升的服务成本，为了维持广泛用户基础的免费或低价访问，需要替代的货币化机制。原生广告通过将用户意图与商家产品对接，提供了一种有前景的解决方案。然而，如何自然地将赞助内容整合到LLM的响应中仍然未被充分探索。现有方法主要依赖于提示级注入、多次重写或微调，这可能会影响响应质量或引入额外的计算成本。我们提出了AdSteer，一个轻量级的解码时广告框架，能够自适应调整令牌概率，将上下文适宜的广告融入响应中。AdSteer校准广告影响的强度和持续时间，使赞助内容成为响应的自然部分。实验结果显示，AdSteer在GEM-Bench的三个应用场景中，整体得分平均提高14.1%，且比基于重写的方法平均减少22.5%的总令牌数，证明了AdSteer为LLM中的原生广告提供了有效且实用的解决方案。

🔬 方法详解

问题定义：本论文旨在解决如何在大语言模型生成中自然整合原生广告的问题。现有方法如提示级注入和重写，往往会影响生成内容的质量，且增加计算开销。

核心思路：AdSteer框架通过在解码阶段动态调整令牌的概率，使得广告内容能够与生成的文本自然融合，从而提升用户体验并降低广告的干扰感。

技术框架：AdSteer的整体架构包括广告影响的强度和持续时间的校准模块，令牌概率调整模块，以及与LLM生成过程的集成。该框架在解码时实时调整广告内容的呈现。

关键创新：AdSteer的主要创新在于其轻量级的解码时广告整合方式，与传统的重写或微调方法相比，能够在不显著增加计算负担的情况下提升广告的自然性和有效性。

关键设计：在设计中，AdSteer设置了多个参数以调节广告的影响力，并采用特定的损失函数来优化广告内容的自然融合，确保生成文本的流畅性和一致性。具体的网络结构和参数设置在实验中进行了详细验证。

🖼️ 关键图片

fig_0

📊 实验亮点

实验结果显示，AdSteer在GEM-Bench的三个应用场景中，整体得分平均提高14.1%，并且相比于重写方法，令牌数减少22.5%。这些结果表明AdSteer在保持生成质量的同时，有效降低了计算成本，展现了其在原生广告整合中的优势。

🎯 应用场景

AdSteer框架在多个领域具有广泛的应用潜力，尤其是在内容生成、在线广告和用户个性化推荐等场景中。通过自然整合广告内容，能够提升用户体验，同时为服务提供商创造新的收入来源。未来，AdSteer可能会推动更多商业化应用的落地，促进LLM技术的可持续发展。

📄 摘要（原文）

Large language model (LLM) services face rapidly rising serving costs. To sustain free or affordable access for a broad user base, alternative monetization mechanisms are needed. Native advertising offers a promising approach, as it creates economic value by aligning user intent with merchant offerings. Yet how to integrate sponsored content naturally into LLM responses remains largely underexplored. Existing approaches primarily rely on prompt-level injection, multi-pass rewriting, or fine-tuning, which can compromise response quality or introduce additional computational costs. We propose AdSteer, a lightweight decoding-time advertising framework that adaptively adjusts token probabilities to integrate contextually appropriate advertisement into responses. AdSteer calibrates the strength and duration of advertising influence, making sponsored content a natural part of the response. Experiments on GEM-Bench across three application scenarios show that AdSteer achieves an average improvement of 14.1% in overall score over the strongest baselines and 22.5% fewer total tokens on average than rewrite-based methods. These results demonstrate that AdSteer provides an effective and practical solution for native advertising in LLMs.