Using Large Language Models as Low-Cost Statistical Estimators for Human-Response Data
作者: Haobo Yang
分类: cs.AI, cs.CY, cs.HC
发布日期: 2026-06-29
备注: 37 pages
💡 一句话要点
利用大型语言模型作为低成本统计估计器解决人类响应数据问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 统计估计 条件期望 贝叶斯推断 社会科学研究 数据分析 实验设计
📋 核心要点
- 现有的人类实验方法成本高、耗时长且易受抽样偏差影响，限制了社会科学研究的效率和准确性。
- 本文提出利用预训练的大型语言模型作为低成本的统计估计器，能够在条件均值依赖推断中实现贝叶斯最优风险。
- 研究表明，在满足一定条件下，经过良好校准的LLM可以在许多预测和决策任务中替代传统的人类实验，降低成本。
📝 摘要（中文）
社会科学和行为科学的定量研究依赖于人类实验，这些实验成本高、耗时且易受抽样偏差影响。本文展示了预训练的大型语言模型（LLM）在平方损失下诱导条件期望的风险等效估计器，建立了受限的功能风险等效性。我们将LLM形式化为在独立同分布数据上训练的误指定功能估计器，分解估计误差为表示偏差和优化误差，并证明在适度的正则条件下，LLM的期望误差收敛于不可约的总体方差加上平方表示偏差。研究结果表明，经过良好校准的LLM在条件均值依赖推断中能够实现贝叶斯最优风险，具有重要的实际应用价值。
🔬 方法详解
问题定义：本文旨在解决社会科学研究中人类实验的高成本和低效率问题，现有方法易受抽样偏差影响，限制了研究的可靠性。
核心思路：通过将预训练的大型语言模型（LLM）作为低成本的统计估计器，利用其在条件均值推断中的能力，提供一种新的解决方案。
技术框架：研究首先将LLM形式化为在独立同分布数据上训练的误指定功能估计器，接着分解估计误差为表示偏差和优化误差，并进行风险分析。
关键创新：本文的主要创新在于建立了受限的功能风险等效性，证明了LLM在条件均值推断中的风险能够达到贝叶斯最优水平，这在现有文献中尚属首次。
关键设计：研究中使用了平方损失作为损失函数，并通过Pinsker不等式界定了表示偏差的上界，同时提供了有限样本浓度界和校准协议，确保模型的有效性。
📊 实验亮点
实验结果表明，经过良好校准的LLM在条件均值依赖推断中能够实现贝叶斯最优风险，且在多个预测任务中表现出色，显著降低了传统人类实验的成本，提供了有效的替代方案。
🎯 应用场景
该研究的潜在应用领域包括社会科学、市场研究和心理学等领域，能够显著降低人类实验的成本，提高数据分析的效率。未来，随着大型语言模型的进一步发展，预计将会在更多的决策支持系统中得到应用，推动相关领域的研究进展。
📄 摘要（原文）
Quantitative research across the social and behavioral sciences depends on human subject experiments that are expensive, slow, and subject to sampling bias. Here we show that pretrained large language models induce risk-equivalent estimators of conditional expectations under squared loss, establishing restricted functional risk equivalence: under squared loss, the LLM induces an estimator whose risk matches the Bayes optimal risk for squared-loss prediction of conditional expectations for any inference that depends on the data only through the conditional mean. We formalize the LLM as a misspecified functional estimator $T(\hat{P}n)$ trained on i.i.d.\ data, decompose the estimation error into representation bias $ε{\mathrm{rep}}$ and optimization error, and prove that under mild regularity conditions the LLM's expected error converges to the irreducible population variance plus the squared representation bias, with the representation bias bounded by the Pinsker inequality. The identifiability error $δ$ propagates into the effective bias, inflating the asymptotic risk floor. We establish restricted functional risk equivalence via a bidirectional Le Cam deficiency analysis: the forward deficiency vanishes asymptotically while the reverse deficiency is exactly zero. We provide finite-sample concentration bounds and a calibration protocol with explicit decision rules. The result is a precise, provable statement: a well-calibrated LLM achieves the Bayes-optimal risk for conditional-mean-dependent inference, bounded by explicit scope conditions. In practical applications, this means that under satisfied conditions and well-calibrated models, large language models can be used in many prediction and decision-making tasks that originally relied on human experiments, approximating near-optimal statistical inference at lower cost.