Neuron-centric Hebbian Learning
作者: Andrea Ferigo, Elia Cunegatti, Giovanni Iacca
分类: cs.NE, cs.AI, cs.LG
发布日期: 2024-02-16 (更新: 2024-04-16)
备注: Accepted at Genetic and Evolutionary Computation Conference (GECCO 2024)
💡 一句话要点
提出以神经元为中心的Hebbian学习以简化优化过程
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: Hebbian学习 神经网络 可塑性 机器人控制 优化算法 神经元激活 模型简化
📋 核心要点
- 现有的塑性模型主要集中在突触参数的优化，导致优化过程复杂且参数冗余。
- 本文提出以神经元为中心的Hebbian学习（NcHL），将优化重点转向神经元特定的Hebbian参数，从而简化模型。
- 实验结果显示，NcHL在性能上与ABCD规则相当，但参数数量显著减少，提升了模型的可扩展性。
📝 摘要（中文）
大脑学习机制的一个显著特征是突触的结构和功能可塑性适应。尽管突触在信息传递中起着关键作用，但许多研究表明，神经元的激活才是导致突触变化的主要因素。现有的塑性模型，如ABCD规则，主要关注突触而非神经元，导致优化过程复杂化。为此，本文提出了一种新的塑性模型——以神经元为中心的Hebbian学习（NcHL），其优化重点在于神经元特定的Hebbian参数。与ABCD规则相比，NcHL将参数数量从$5W$减少到$5N$，其中$W$为权重数量，$N$为神经元数量，通常$N ext{ } ext{<<} ext{ } W$。此外，我们还设计了一种“无权重”的NcHL模型，通过记录神经元激活来近似权重，从而减少内存需求。实验结果表明，NcHL在两个机器人运动任务中的表现与ABCD规则相当，但参数数量减少了约97倍，具有可扩展的可塑性。
🔬 方法详解
问题定义：现有的塑性模型，如ABCD规则，主要关注突触的Hebbian参数优化，导致每个突触关联多个参数，增加了优化的复杂性。
核心思路：本文提出NcHL模型，优化重点转向神经元特定的Hebbian参数，简化了参数设置并降低了计算复杂度。
技术框架：NcHL模型的整体架构包括神经元激活记录、Hebbian参数优化和权重近似模块。通过记录神经元的激活情况，模型能够动态调整Hebbian参数。
关键创新：NcHL的核心创新在于将优化焦点从突触转向神经元，显著减少了需要优化的参数数量，从$5W$降至$5N$，提高了模型的可扩展性。
关键设计：模型设计中，采用了基于神经元激活的权重近似方法，减少了内存需求，并通过简化的损失函数来优化神经元的Hebbian参数。
🖼️ 关键图片
📊 实验亮点
实验结果表明，NcHL在两个机器人运动任务中表现与ABCD规则相当，但参数数量减少了约97倍，显著提升了模型的可扩展性和效率。
🎯 应用场景
该研究的潜在应用领域包括机器人控制、智能系统和神经网络优化等。通过简化的参数设置和优化过程，NcHL能够在资源受限的环境中实现高效的学习和适应，具有重要的实际价值和未来影响。
📄 摘要（原文）
One of the most striking capabilities behind the learning mechanisms of the brain is the adaptation, through structural and functional plasticity, of its synapses. While synapses have the fundamental role of transmitting information across the brain, several studies show that it is the neuron activations that produce changes on synapses. Yet, most plasticity models devised for artificial Neural Networks (NNs), e.g., the ABCD rule, focus on synapses, rather than neurons, therefore optimizing synaptic-specific Hebbian parameters. This approach, however, increases the complexity of the optimization process since each synapse is associated to multiple Hebbian parameters. To overcome this limitation, we propose a novel plasticity model, called Neuron-centric Hebbian Learning (NcHL), where optimization focuses on neuron- rather than synaptic-specific Hebbian parameters. Compared to the ABCD rule, NcHL reduces the parameters from $5W$ to $5N$, being $W$ and $N$ the number of weights and neurons, and usually $N \ll W$. We also devise a ``weightless'' NcHL model, which requires less memory by approximating the weights based on a record of neuron activations. Our experiments on two robotic locomotion tasks reveal that NcHL performs comparably to the ABCD rule, despite using up to $\sim97$ times less parameters, thus allowing for scalable plasticity