国科大杭州高等研究院陈洛南研究员团队在脉冲神经网络的类脑学习算法方面取得进展
2024/04/25
![]() |
图 混沌脉冲反向传播算法的原理示意图
在国家自然科学基金项目(批准号:T2350003、T2341007)等资助下,国科大杭州高等研究院陈洛南研究员团队在脉冲神经网络的类脑学习算法方面取得进展。相关研究成果以“脑启发的混沌脉冲反向传播(Brain-inspired Chaotic Spiking Backpropagation)”为题,于2024年1月30日发表在《国家科学评论》(National Science Review)杂志上。论文链接:https://doi.org/10.1093/nsr/nwae037。
深度神经网络已经成为工程和科研领域的基本工具之一,在图像识别、机器翻译和蛋白质结构预测等方向都有着广泛应用。然而,深度神经网络仍具有缺陷,如时空信息表征效率低、自组织学习能力弱、硬件实现难度大且能耗远超人类大脑等。相较于深度神经网络,脉冲神经网络具有更好的生物可解释性、更强的时空表征能力和更低的能耗,因此被誉为第三代人工神经网络。但是,脉冲神经网络难以直接高效地训练,使得它在目标任务上的准确率远不及同规模的传统深度神经网络,极大地限制了脉冲神经网络的应用。
受大脑工作模式启发,陈洛南团队开发了混沌脉冲反向传播算法(CSBP),通过引入损失函数使网络权重产生类似大脑中的混沌,并进一步利用混沌的遍历性和伪随机性,显著提高了脉冲神经网络的学习性能。该工作发现CSBP 的学习过程最初是混沌的,随后出现各种分叉动力学,最终退化为梯度动力学并收敛。CSBP 在神经形态数据集(如DVS-CIFAR10和 DVS-Gesture)和大规模静态数据集(如CIFAR100和ImageNet)上的准确性和鲁棒性都明显优于目前最先进的方法。该工作为高效训练脉冲神经网络提供了一个重要的工具,并为理解大脑的学习过程提供了新的见解。
文章来源国家自然科学基金委员会,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。
-
2025最新JCR分区及影响因子1939
-
好学术:科研网址导航|学术头条分468
-
《时代技术》投稿全攻略:一位审稿499
-
2025年国际期刊预警名单发布!600
-
2025年中科院期刊分区表重磅发3957
-
中科院已正式发布2024年预警期861
-
2025年度国家自然科学基金项目727
-
中国科协《重要学术会议目录(202733
-
2024年国家自然科学基金项目评1138
-
2024年JCR影响因子正式发布1214
-
吉林大学校长张希:学术会议中的提1391
-
SCI论文插图全攻略:从规范解析08-01
-
国际学术会议参加经验是怎么样的呢08-01
-
掠夺性会议是怎么进行判断的呢?—08-01
-
SCI论文投稿费怎么交?202408-01
-
中南财经政法大学 1942
-
浙江理工大学 23109
-
北京华进展览展示有限公司 21043
-
沈阳博思教育咨询有限公司 2117
-
徐州工程学院 22971
-
曲阜师范大学 管理学院 2000
-
唐山风火会务服务有限公司(www 23903
-
湖北省武汉市洪山区武汉体育学院 8176
-
天津聚宠国际会展服务有限公司 7927
-
浙江大学电气工程学院 1953
-
沈阳市仪器仪表与自动化学会 23089
-
广州市广播电视大学 17940
-
河南纳智博研会议服务有限公司 23982
-
香港维科 2053
-
中国电子学会通信学分会 23255
-
重庆大学 18085
-
中科院自动化所 17974
-
中山大学附属肿瘤医院 24019
-
扬州大学信息工程学院 18038
-
MSEE2016组委会 22877