Mind the Gaps: Mixture-of-Minds for Human Simulation
作者: Pranav Dahiya
分类: cs.AI
发布日期: 2026-08-06
💡 一句话要点
提出Anacreon以解决个体层面的人类模拟问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 人类模拟 个体预测 语言模型 聚类分析 社会偏见 情感链 适配器训练
📋 核心要点
- 现有的统计方法在整体层面上有效,但在个体层面上表现不佳,导致个体预测的偏差和不准确。
- Anacreon模型通过学习个体的作者嵌入和聚类真实语料,针对个体层面进行模拟,减少了提示脆弱性和正向偏见。
- 在大型外部调查中,Anacreon达到了0.775的序数对齐,显著提升了个体预测的准确性,且残余偏差较小。
📝 摘要(中文)
预测人群对新问题的回答一直是一个长期目标。现有的统计方法在整体层面上表现良好,但在个体层面上却存在不足。大型语言模型模拟器在恢复人群的中心趋势时,往往忽视了个体的异质性,并且携带社会偏见和提示脆弱性,扭曲了个体预测。本文提出了Anacreon,一个针对个体层面的观众模拟模型,旨在在狭窄且明确的领域内进行学习。Anacreon通过学习作者嵌入来区分个体,并围绕种子人物对真实的定性语料进行聚类,为每个聚类训练专用的适配器,从而形成“思维混合”。该模型在大型外部调查中达到了0.775的前沿序数对齐,展现了个体层面的高准确性,且残余偏差较小。
🔬 方法详解
问题定义:本文旨在解决现有大型语言模型在个体层面预测人类行为时的不足,尤其是在个体异质性和社会偏见方面的挑战。
核心思路:Anacreon通过学习个体的作者嵌入,聚类真实的定性语料,并为每个聚类训练专用的适配器,以此实现对个体行为的更精准模拟。
技术框架:Anacreon的整体架构包括三个主要模块:个体嵌入学习模块、聚类模块和适配器训练模块。首先,模型从公共文本中提取个体特征,然后进行聚类,最后为每个聚类训练适配器以生成个体化的响应。
关键创新:Anacreon的核心创新在于其“思维混合”策略,通过为不同个体群体设计专用适配器,显著提高了个体层面的预测准确性,克服了传统模型的局限。
关键设计:模型在训练过程中采用了平衡的训练分布,以减少正向偏见,并通过打乱响应选项来降低提示脆弱性,确保生成的响应更具多样性和真实性。
🖼️ 关键图片
📊 实验亮点
Anacreon在大型外部调查中达到了0.775的序数对齐,显著优于现有方法,展现了个体层面的高准确性。与传统模型相比,该模型有效减少了残余偏差,提升了个体预测的可靠性。
🎯 应用场景
该研究的潜在应用领域包括市场调查、社交媒体分析和个性化推荐系统。通过更准确地模拟个体行为,Anacreon可以帮助企业更好地理解消费者需求,从而提升产品设计和营销策略的有效性。未来,该模型可能在社会科学研究和人机交互领域产生深远影响。
📄 摘要(原文)
Predicting how a population will answer a new question is a long-standing goal. Statistical methods succeed at the level of the mass but falter at the level of the individual. Large language model simulators inherit this gap. They recover a population's central tendencies while flattening its heterogeneity, and they carry social biases and prompt brittleness that distort individual predictions. This paper introduces Anacreon, an audience simulation model that targets the individual level within a narrow, well-specified domain. Anacreon learns an authorship embedding that separates individuals, clusters a real qualitative corpus around seed people, and trains a dedicated adapter for each cluster, a mixture of minds, on a Gemma~4 12B base. It harvests demographics, psychological traits, and survey responses from public text, and augments each record with a chain-of-emotion. It reduces prompt brittleness by shuffling response options and reduces positive bias by balancing the training distribution. On a large, externally sourced survey, Anacreon reaches a state-of-the-art ordinal alignment of 0.775, the individual-level accuracy measure on which the field has converged, with a small residual bias. The work is a step toward drawing aggregate insight from faithfully simulated individuals.