国科大杭州高等研究院陈洛南研究员团队在脉冲神经网络的类脑学习算法方面取得进展
2024/04/25
![]() |
图 混沌脉冲反向传播算法的原理示意图
在国家自然科学基金项目(批准号:T2350003、T2341007)等资助下,国科大杭州高等研究院陈洛南研究员团队在脉冲神经网络的类脑学习算法方面取得进展。相关研究成果以“脑启发的混沌脉冲反向传播(Brain-inspired Chaotic Spiking Backpropagation)”为题,于2024年1月30日发表在《国家科学评论》(National Science Review)杂志上。论文链接:https://doi.org/10.1093/nsr/nwae037。
深度神经网络已经成为工程和科研领域的基本工具之一,在图像识别、机器翻译和蛋白质结构预测等方向都有着广泛应用。然而,深度神经网络仍具有缺陷,如时空信息表征效率低、自组织学习能力弱、硬件实现难度大且能耗远超人类大脑等。相较于深度神经网络,脉冲神经网络具有更好的生物可解释性、更强的时空表征能力和更低的能耗,因此被誉为第三代人工神经网络。但是,脉冲神经网络难以直接高效地训练,使得它在目标任务上的准确率远不及同规模的传统深度神经网络,极大地限制了脉冲神经网络的应用。
受大脑工作模式启发,陈洛南团队开发了混沌脉冲反向传播算法(CSBP),通过引入损失函数使网络权重产生类似大脑中的混沌,并进一步利用混沌的遍历性和伪随机性,显著提高了脉冲神经网络的学习性能。该工作发现CSBP 的学习过程最初是混沌的,随后出现各种分叉动力学,最终退化为梯度动力学并收敛。CSBP 在神经形态数据集(如DVS-CIFAR10和 DVS-Gesture)和大规模静态数据集(如CIFAR100和ImageNet)上的准确性和鲁棒性都明显优于目前最先进的方法。该工作为高效训练脉冲神经网络提供了一个重要的工具,并为理解大脑的学习过程提供了新的见解。
文章来源国家自然科学基金委员会,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。
-
2025年两院院士增选有效候选人116
-
2025最新JCR分区及影响因子2461
-
好学术:科研网址导航|学术头条分641
-
2025年国际期刊预警名单发布!770
-
2025年中科院期刊分区表重磅发4295
-
中国科协《重要学术会议目录(202964
-
吉林大学校长张希:学术会议中的提1619
-
2025年国自然正式放榜!08-27
-
SCI论文中的数据引用,如何避免08-15
-
EI核心期刊和普通期刊有什么本质08-15
-
国内期刊EI与核心有什么区别?三08-15
-
怎么查找前几年的EI期刊源?科研08-15
-
如何准确验证论文是否被SCI收录08-15
-
机械类EI期刊投稿全攻略:从实验08-15
-
SCI论文DOI号查找全攻略:学08-15
-
BGFX 2001
-
科技发展与服务中心 24105
-
宁波德泰中研信息科技有限公司 1949
-
apise 23324
-
青岛鹏图商务会展有限公司 18060
-
ASTIRC 2213
-
北京企联高科高分子技术中心 24151
-
北京师范大学环境学院 21085
-
玩具有限公司 18190
-
武汉市cbb会议主办 18155
-
中国健康产业论坛 24070
-
中国水利技术信息中心 1931
-
中华普通外科杂志编辑部 21004
-
武汉青博盛学术服务有限公司 23881
-
中国广东东莞 18046
-
电子科技大学 23094
-
山东飞鲨国际展览有限公司 8104
-
浙江大学华家池校区纳米技术研究院 21099
-
上海顺展展览服务有限公司 7990
-
四川大学材料学院 17924