题目:Meta-learning biologically plausible plasticity rules with random feedback pathways
文献来源:Nature Communications | (2023) 14:1805
代码:https://github.com/NeuralDynamicsAndComputing/MetaLearning-Plasticity
简介:反向传播被广泛用于人工神经网络的训练,但它与大脑突触可塑性的关系尚不清楚。一些反向传播的生物模型依赖于具有前馈连接对称的反馈投影,但实验没有证实这种对称后向连接的存在。随机反馈对齐提供了另一种模型,其中误差通过固定的、随机的向后连接向后传播。这种方法成功地训练了浅层模型,但学习缓慢,并且在更深层次的模型或在线学习中表现不佳。在这项研究中,作者开发了一种元学习方法来发现可解释的、生物学上可信的可塑性规则,通过固定的随机反馈连接提高在线学习性能。由此得到的塑性规则显示了在低数据条件下深度模型的在线训练的提高。该研究结果显示了元学习在发现满足生物约束的有效的、可解释的学习规则方面的潜力。
主要内容:
-------------------------------------------
欢迎点赞收藏转发!
下次见!