NeuroCogMap Reveals Cognitive Organization of Large Language Models
作者: Zhongxiang Sun, Haolang Lu, Qiang Ma, Qi Li, Qipeng Wang, Liang Pang, Chenyu Liu, Qiankun Li, Hao Sun, Kun Wang, Yi Zeng, Jun Xu, Guoqi Li, Ji-Rong Wen
分类: q-bio.NC, cs.AI, cs.CL
发布日期: 2026-07-01
备注: 79 pages, 6 main figures, 5 extended figures
💡 一句话要点
提出NeuroCogMap以揭示大语言模型的认知组织结构
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大语言模型 认知组织 功能包 认知神经科学 模型解释性 人类决策 自然语言理解
📋 核心要点
- 现有方法未能清晰揭示大语言模型内部表征的功能组织，导致对其认知行为的理解不足。
- 论文提出NeuroCogMap框架，通过将内部特征组织为功能包，链接可解释功能与认知能力，提供系统化的认知结构视图。
- NeuroCogMap有效改善了对人类语言理解时皮层反应的预测，尤其在高阶联想皮层中表现出显著的对应性。
📝 摘要（中文）
理解复杂认知功能在人工系统中的组织方式对于解释大语言模型（LLMs）及其与生物认知的关系至关重要。尽管LLMs表现出广泛的认知类行为，但其内部表征是否形成可重复的功能系统仍不明确。本文提出了NeuroCogMap，一个受认知神经科学启发的框架，将LLMs的内部特征组织为功能包，并将其与可解释的功能、认知能力及认知层次关联。这些功能包形成了一种稳定且语义一致的组织，部分在不同模型中保留，并与模型输出功能相关联。NeuroCogMap不仅揭示了LLMs的主要失败模式，还改善了对人类皮层在自然语言理解过程中的反应预测，尤其在高阶联想皮层中表现出最强的对应关系。
🔬 方法详解
问题定义：本文旨在解决大语言模型内部表征的功能组织不明确的问题，现有方法未能有效解释模型的行为和失败模式。
核心思路：NeuroCogMap框架通过将LLMs的内部特征组织为功能包，建立与可解释功能和认知能力的联系，从而提供一种新的认知结构视图。
技术框架：该框架包括特征提取、功能包划分和功能关联三个主要模块。特征提取从模型中提取内部表征，功能包划分则根据语义一致性和功能相关性进行组织，最后通过分析功能包与模型输出的关系来验证其有效性。
关键创新：NeuroCogMap的主要创新在于其将认知神经科学的概念引入到大语言模型的分析中，形成了一种新的功能组织视角，与传统方法相比，提供了更深入的理解。
关键设计：在设计中，采用了稳定的功能包划分算法，并通过语义相似性度量来优化功能包的构建，确保其在不同模型间的可重复性和一致性。
🖼️ 关键图片
📊 实验亮点
实验结果表明，NeuroCogMap显著提高了对人类皮层反应的预测能力，尤其在高阶联想皮层中，表现出与自然语言理解的强对应性。这一框架不仅揭示了LLMs的主要失败模式，还为机制导向的检测和干预提供了内部标记。
🎯 应用场景
NeuroCogMap的研究成果具有广泛的应用潜力，尤其在人工智能系统的设计与优化、认知模型的改进以及人机交互领域。通过揭示模型内部的认知结构，可以为智能系统的透明性和可解释性提供支持，促进更安全和有效的AI应用。
📄 摘要（原文）
Understanding how complex cognitive functions are organized within artificial systems is central to interpreting large language models (LLMs) and relating them to biological cognition. Yet although LLMs exhibit broad cognitive-like behaviours, it remains unclear whether their internal representations form reproducible functional systems that explain behaviour, failure and links to human cognition. Here we present NeuroCogMap, a cognitive neuroscience-inspired framework that organizes internal features of LLMs into functional parcels and links them to interpretable functions, cognitive capabilities and a cognitive hierarchy. These parcels form a stable and semantically coherent organization that is partly conserved across models and functionally linked to model outputs. Within this organization, major LLM failures, including hallucination, bias, refusal failure and sycophancy, correspond to distinct disruptions in representational and behavioural-control systems, yielding internal signatures for mechanism-guided detection and targeted intervention. Beyond model behaviour, NeuroCogMap improves prediction of human cortical responses during naturalistic language comprehension, with the strongest correspondence in higher-order association cortex. At the cognitive level, its internal signatures expose latent strategies that guide refinements of classical models of human decision-making. Together, these findings establish NeuroCogMap as a system-level framework for mapping functional organization in artificial systems and for relating this organization to human cortical function and cognitive behaviour.