Beyond representational alignment with brain-guided language models for robust reasoning

📄 arXiv: 2606.11893v1 📥 PDF

作者: Mingqing Xiao, Kai Du, Zhouchen Lin

分类: cs.LG, cs.AI, cs.CL, q-bio.NC

发布日期: 2026-06-10

💡 一句话要点

提出脑导向语言模型以增强推理能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 脑导向模型 推理能力 神经信号 大型语言模型 认知对齐 增强学习 任务诱发信号

📋 核心要点

  1. 现有大型语言模型与人类推理相关的神经机制之间的对应关系尚不明确，限制了其推理能力的提升。
  2. 论文提出了一种脑导向框架，通过引导模型表示与脑信号的联合结构，增强LLMs的推理能力。
  3. 实验结果表明，任务诱发的脑信号能够提升LLMs的推理性能，最高可实现13%的绝对准确率增益。

📝 摘要（中文）

现有的大型语言模型（LLMs）与人类高级认知的神经机制之间的对应关系尚未充分表征。考虑到人脑中的语言与推理似乎是可分离的，本文探讨了LLMs是否与推理相关区域的神经信号对齐，以及这些信号是否能提升LLMs的性能。我们聚焦于演绎推理，发现LLM内部表示不仅与任务fMRI活动部分对齐，还能直接通过这些信号增强。通过神经预测度量，我们发现LLMs在推理相关区域的可解释方差中解释了相当大的比例，而在特定推理类型中的预测度较低，表明存在对齐与分歧。基于此，我们提出了一种脑导向框架，通过模型与大脑表示的联合结构引导模型表示，应用干预于推理时并在训练中进行微调。我们证明了任务诱发的脑信号可以直接增强LLM推理，带来与语言监督无关的增益，最高可达13%的绝对准确率提升。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在推理任务中与人类推理相关神经信号的对齐不足问题，现有方法未能充分利用这些神经信号来提升推理性能。

核心思路：论文的核心思路是通过脑导向框架引导模型表示，利用推理相关的脑信号来增强LLMs的推理能力，从而实现更强的认知对齐。

技术框架：整体架构包括两个主要阶段：在推理时应用脑信号干预和在训练过程中进行微调。通过这两个阶段，模型能够更好地对齐人类的推理机制。

关键创新：最重要的技术创新在于将脑信号作为指导信息，推动LLMs的内部表示向更符合人类推理的方向发展，这一方法超越了传统的相关性分析。

关键设计：在模型训练中，采用特定的损失函数来优化模型与脑信号的对齐，同时设置了多种参数以确保模型在不同推理类型上的适应性和灵活性。具体的网络结构设计也考虑了如何有效整合脑信号信息。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，任务诱发的脑信号能够显著提升LLMs的推理性能，最高可实现13%的绝对准确率增益。与仅依赖语言监督的模型相比，脑导向方法在10个不同规模的LLMs（从1.5B到72B）中均表现出显著的性能提升。

🎯 应用场景

该研究的潜在应用领域包括智能助手、教育技术和心理健康评估等。通过增强语言模型的推理能力，可以提升人机交互的自然性和智能化水平，进而推动AI在复杂任务中的应用价值和影响力。

📄 摘要（原文）

The correspondence between large language models (LLMs) and the neural mechanisms underlying human higher-order cognition remains insufficiently characterized. Given that language and reasoning in the human brain appear dissociable, an open question is whether LLMs align with neural signals from reasoning-related regions and whether such signals can improve them. Here, focusing on deductive reasoning, we show that LLM internal representations are not only partially aligned with task-fMRI activity but can also be directly enhanced by these signals. Using a neural-predictivity metric, we find that LLMs explain a substantial fraction of the explainable variance in reasoning-related regions at the aggregate level, whereas predictivity within specific reasoning types is lower, indicating both alignment and divergence. Building on this, we propose a brain-guided framework: we steer model representations along directions induced by the joint structure of model and brain representations, applying intervention at inference and fine-tuning during training. We demonstrate that task-evoked brain signals can directly enhance LLM reasoning, yielding gains orthogonal to language-only supervision across 10 LLMs (1.5B-72B), with transfer across reasoning types and up to 13\% absolute accuracy gain. Our results advance LLM-brain correspondences from correlation to guidance, establishing a brain-signal-driven pathway toward more robust and cognitively aligned AI.