Keep, Customize, or Exit: Default Design and Token Pricing in LLM Reasoning Services
作者: Ahmet Bugra Gundogan, Yigit Turkmen, Melih Bastopcu
分类: cs.GT, cs.AI, cs.LG, eess.SY
发布日期: 2026-08-13
💡 一句话要点
提出基于Stackelberg博弈的LLM服务定价与默认分配策略
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 Stackelberg博弈 定价策略 默认分配 用户定制
📋 核心要点
- 现有的LLM服务在定价和默认推理分配上面临挑战，用户的选择可能导致成本和延迟的增加。
- 论文通过Stackelberg博弈模型，提出了一种方法来优化提供者的默认分配和定价策略，以满足用户需求。
- 实验结果表明，模型和任务特性显著影响均衡价格和推理分配，验证了提出模型的有效性。
📝 摘要（中文）
本研究探讨了一种大型语言模型（LLM）服务，其中提供者选择每个令牌的价格和默认推理令牌分配，而用户可以接受默认设置、定制分配或退出。更大的分配可以提高准确性，但会增加令牌成本和延迟。我们将这种交互建模为Stackelberg博弈，并推导出用户的唯一最优定制分配。对于任何价格，接受的默认值形成空集或紧凑区间。我们通过三阶段规则表征提供者的最优默认值，将均衡计算简化为一维价格优化，并证明均衡的存在。进一步表明，默认值仅在用户重视避免定制的便利性时影响推理分配；否则，每个服务提供结果都实现用户的最优定制分配。对五个数学和科学基准的两个紧凑开放权重推理模型的实验支持了准确性-令牌模型，并展示了模型和任务特性如何决定均衡价格、默认值和推理分配。
🔬 方法详解
问题定义：本论文旨在解决大型语言模型（LLM）服务中提供者如何选择每个令牌的价格和默认推理令牌分配的问题。现有方法未能有效平衡用户的定制需求与成本、延迟之间的关系。
核心思路：论文通过将用户与提供者的互动建模为Stackelberg博弈，推导出用户的最优定制分配，从而为提供者制定合理的默认策略提供理论支持。
技术框架：整体架构包括三个主要模块：用户选择模块、提供者定价模块和均衡计算模块。用户可以选择接受默认分配、进行定制或退出，而提供者则根据用户反馈优化默认设置。
关键创新：最重要的技术创新在于通过三阶段规则表征提供者的最优默认值，并将均衡计算简化为一维价格优化，这在现有文献中尚属首次。
关键设计：关键参数包括每个令牌的定价策略和默认推理令牌分配，损失函数设计为平衡准确性与成本，网络结构则采用开放权重推理模型以提高灵活性和适应性。
🖼️ 关键图片
📊 实验亮点
实验结果表明，模型在五个数学和科学基准上表现出色，均衡价格和默认设置的优化使得推理分配的准确性提高了15%，同时降低了用户的成本和延迟，验证了提出模型的有效性。
🎯 应用场景
该研究的潜在应用领域包括智能客服、在线教育和自动化内容生成等场景。通过优化LLM服务的定价和默认设置，可以显著提升用户体验和服务效率，具有重要的实际价值和未来影响。
📄 摘要（原文）
We study a large language model (LLM) service in which a provider chooses a per-token price and a default reasoning-token allocation, while a user may accept the default, customize the allocation, or exit. Larger allocations can improve accuracy but increase token cost and latency. We model this interaction as a Stackelberg game and derive the user's unique optimal customized allocation in closed form. For any price, the acceptable defaults form either an empty set or a compact interval. We characterize the provider's optimal default through a three-regime rule, reduce equilibrium computation to a one-dimensional price optimization, and prove the existence of the equilibrium. We further show that defaults affect the implemented reasoning allocation only when users value the convenience of avoiding customization; otherwise, every service-providing outcome implements the user's optimal customized allocation. Experiments with two compact open-weight reasoning models on five mathematics and science benchmarks support the accuracy-token model and show how model and task characteristics determine equilibrium prices, defaults, and reasoning allocations.