Human-like Category Learning by Injecting Ecological Priors from Large Language Models into Neural Networks
作者: Akshay K. Jagadish, Julian Coda-Forno, Mirko Thalmann, Eric Schulz, Marcel Binz
分类: cs.LG, cs.AI
发布日期: 2024-02-02 (更新: 2024-05-28)
备注: 27 pages (9 pages of main text, 4 pages of references, and 14 pages of appendix), 13 figures, and 7 Tables
期刊: Proceedings of the 41st International Conference on Machine Learning, Vienna, Austria. PMLR 235, 2024
💡 一句话要点
通过注入生态先验提升神经网络的人类类类别学习能力
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 生态理性 类别学习 大型语言模型 元学习 认知模型 人类行为模拟 智能教育
📋 核心要点
- 现有方法在定义生态有效任务和构建理性模型方面存在挑战，限制了生态理性理论的验证。
- 本文提出通过大型语言模型生成符合真实世界统计特征的类别学习任务，并利用元学习框架构建生态理性元学习推理（ERMI）模型。
- ERMI在定量和定性上均优于其他认知模型，能够更好地解释人类数据，并在OpenML-CC18基准上实现了最先进的性能。
📝 摘要（中文）
生态理性指人类作为理性代理人适应环境的概念。然而，由于难以定义生态有效的任务和构建相应的理性模型，验证这一理论面临挑战。本文展示了大型语言模型能够生成与真实世界任务统计特征相匹配的类别学习任务，从而解决了第一个挑战。我们通过元学习框架推导出适应这些任务的理性代理，形成了一类称为生态理性元学习推理（ERMI）的模型。ERMI在两个实验中比其他七种认知模型更好地定量解释人类数据，并在定性上与人类行为相符。此外，ERMI的生态有效先验使其在OpenML-CC18分类基准上实现了最先进的性能。
🔬 方法详解
问题定义：本文旨在解决如何定义生态有效的类别学习任务及构建适应这些任务的理性模型的问题。现有方法在这两方面均存在不足，导致生态理性理论的验证困难。
核心思路：论文的核心思路是利用大型语言模型生成符合真实世界统计特征的认知任务，并通过元学习框架推导出适应这些任务的理性代理模型ERMI。这样的设计使得模型能够更好地模拟人类的学习和推理过程。
技术框架：整体架构包括任务生成模块和模型训练模块。首先，通过大型语言模型生成类别学习任务，然后利用元学习方法训练ERMI模型，使其能够在这些任务上进行有效推理。
关键创新：最重要的技术创新在于提出了生态理性元学习推理（ERMI）模型，该模型在定量和定性上均优于现有的认知模型，能够更好地模拟人类的学习行为。
关键设计：在模型设计中，采用了特定的损失函数以优化模型在类别学习任务上的表现，并通过调整网络结构来增强模型的泛化能力，确保其在未见刺激上的表现与人类相似。
🖼️ 关键图片
📊 实验亮点
在实验中，ERMI模型在两个不同实验中比七种其他认知模型更好地解释人类数据，且在OpenML-CC18分类基准上实现了最先进的性能，显示出其在类别学习任务上的优越性。具体而言，ERMI能够准确识别与人类相同的困难任务，并在学习过程中逐渐依赖于基于示例的策略。
🎯 应用场景
该研究的潜在应用领域包括智能教育、认知机器人和人机交互等。通过模拟人类的类别学习过程，ERMI模型可以用于开发更智能的学习系统和机器人，使其在复杂环境中更有效地进行任务处理和决策。未来，该研究可能推动人工智能在理解和适应人类行为方面的进步。
📄 摘要（原文）
Ecological rationality refers to the notion that humans are rational agents adapted to their environment. However, testing this theory remains challenging due to two reasons: the difficulty in defining what tasks are ecologically valid and building rational models for these tasks. In this work, we demonstrate that large language models can generate cognitive tasks, specifically category learning tasks, that match the statistics of real-world tasks, thereby addressing the first challenge. We tackle the second challenge by deriving rational agents adapted to these tasks using the framework of meta-learning, leading to a class of models called ecologically rational meta-learned inference (ERMI). ERMI quantitatively explains human data better than seven other cognitive models in two different experiments. It additionally matches human behavior on a qualitative level: (1) it finds the same tasks difficult that humans find difficult, (2) it becomes more reliant on an exemplar-based strategy for assigning categories with learning, and (3) it generalizes to unseen stimuli in a human-like way. Furthermore, we show that ERMI's ecologically valid priors allow it to achieve state-of-the-art performance on the OpenML-CC18 classification benchmark.