- 山东省立医院高聆、薄涛、赵家军教 77
- 如何分辨 EI(Engineer 45
- 《福建画报》期刊的相关信息 44
- 适合自费出书的出版社有哪些? 48
- 一投就中‼️ 核物理方向必冲的S 47
- 专利如何转让交易的过程和相关注意 46
- 怎么样去写小论文? 75
- 关于论文润色攻略有哪些? 47
- 东南大学孙立涛教授团队在可视化原 56
- 交通经济优秀论文题目有哪些 47
- 专著封面上是否应该有副主编的名字 48
- 关于《结合医学学报(英文)》期刊 31
- 探讨法学毕业论文的实证研究的意义 36
- 关于留学生发表论文受重视度 57
- 一区期刊和顶刊都代表了什么? 57
- 西北第二民族学院 20387
- 北京泛玟商贸有限责任公司 20405
- 广东羊城之旅 22397
- IAASE 20403
- 沈阳博思教育 23396
- 武汉致远会务 17418
- 上海鸿与智工业媒体 20387
- 可持续城市与社区研究会 23389
- 香港机械工程师协会 1371
- 四川大学 20404
- 中健联盟(北京)养老服务有限公司 7369
- 河南省郑州市管城区 17380
- 东北大学秦皇岛分校 17409
- 贵州省赤水市人民医院 7372
- 福建省空间信息中心 20422
- 中环科能(北京)企业管理有限公司 23386
- 上海阳佳广告公司 17463
- 福建师范大学 20386
- 中国矿业大学 23394
- 北京众联中科信息管理咨询有限公司 1395
北京大学深圳研究生院田永鸿团队脉冲神经网络深度学习开源框架研究成果在Science子刊发表
2024/03/28
脉冲神经网络(Spiking Neural Network, SNN)被誉为第三代神经网络,使用更低层次的生物神经系统的抽象,既是神经科学中研究大脑原理的基本工具,又因其稀疏计算、事件驱动、超低功耗的特性而备受计算科学的关注。随着深度学习方法的引入,SNN的性能得到大幅度提升,脉冲深度学习(Spiking Deep Learning)成为新兴的研究热点。传统SNN框架更多的关注生物可解释性,致力于构建精细脉冲神经元并仿真真实生物神经系统,并不支持自动微分,无法充分利用GPU的大规模并行计算能力,也缺乏对神经形态传感器和计算芯片的支持,难以用于脉冲深度学习任务。
图1:SpikingJelly(惊蜇)框架的整体结构、示例代码、仿真速度、生态位以及典型应用
为了解决上述问题,北京大学深圳研究生院信息工程学院田永鸿教授团队构建并开源了脉冲神经网络深度学习框架SpikingJelly(中文名:惊蜇)。SpikingJelly(惊蜇)提供了全栈式的脉冲深度学习解决方案,提供神经形态数据处理、深度SNN的构建、替代梯度训练、ANN转换SNN、权重量化和神经形态芯片部署等功能。SpikingJelly(惊蜇)框架的主要优势如下:
简单易用。脉冲深度学习作为计算神经科学与深度学习的交叉学科,要求研究者同时掌握两个领域的知识体系,但实际情况是研究者可能只对一个领域有深度了解。SpikingJelly(惊蜇)框架提供了简单易用的PyTorch风格的API、中英文双语编写的教程、活跃友善的讨论社区,常用的网络模型和训练脚本也一并给出,研究者可以快速进行跨领域的学习和使用,通过寥寥数行代码轻松构建并训练深度SNN。
扩展性强。通过模仿真实生物神经系统或借鉴人工神经网络的成熟经验,改进和提出新的SNN算法和模型,这种研究范式已经被广泛使用,成果颇丰。研究者期望能够自由地定义和扩展新模型,仅需少量代码改动就对模型行为产生巨大改变,这一开发理念与SpikingJelly(惊蜇)的设计哲学不谋而合。SpikingJelly(惊蜇)中的绝大多数模块都是通过层次清晰的多重继承实现,这既为开发者降低了开发成本,也给用户提供了完美的定义新模型的范例。
超高性能。深度学习涉及大规模数据处理、大尺度模型训练,脉冲深度学习亦不例外。SNN特有的额外的时间维度,使其具有更高的计算复杂度,因而脉冲深度学习对计算资源的需求更高。考虑到ImageNet这样百万规模样本的数据集已经在SNN中广泛使用,研究者愈发关注网络的训练速度。SpikingJelly(惊蜇)充分利用SNN的特性,通过计算图遍历顺序优化、JIT (just-in-time compilation,即时编译)、半自动CUDA代码生成等技术来加速SNN仿真,与其他框架相比可达11倍的训练加速。第三方独立社区Open Neuromorphic组织对多个SNN框架进行了精细的速度基准测试,参与评测的框架除了SpikingJelly(惊蜇)还包括来自Intel、SynSense时识科技、加州大学圣克鲁斯分校、海德堡大学、瑞典皇家理工学院等科技公司和学术机构的框架,结果表明SpikingJelly(惊蜇)具有最快的仿真速度,“more than 10 times faster than libraries that rely on pure PyTorch acceleration(比其他纯PyTorch加速的框架快10倍以上)”。
图2:SpikingJelly(惊蜇)框架中的典型模块
SpikingJelly(惊蜇)框架自2019年冬季一经推出就受到了研究者们的欢迎和广泛使用,基于SpikingJelly(惊蜇)的研究工作已经大量出版,将SNN的应用从简单的MNIST数据集分类扩展到人类水平的ImageNet图像分类、网络部署、事件相机数据处理等实际应用。此外,一些尖端前沿领域的探索也被报道,包括可校准的神经形态感知系统、神经形态忆阻器、事件驱动加速器硬件设计等。目前有超过123篇公开论文使用SpikingJelly(惊蜇)框架进行实验,其中包括3篇ICCV、3篇IJCAI、5篇NeurIPS、4篇CVPR、4篇ICLR、3篇AAAI、2篇ICML、3篇ECCV、1篇TMLR、1篇ACM MM、1篇PR、7篇IEEE Transactions (含1篇TPAMI),以及1篇子刊Nature Communications,此外还有3篇非计算机领域的一区期刊文章。以上应用和研究表明,SpikingJelly(惊蜇)的开源,极大促进了脉冲深度学习领域的发展。
图3:SpikingJelly(惊蜇)框架的典型应用
SpikingJelly(惊蜇)框架的论文“SpikingJelly:An open-source machine learning infrastructure platform for spike-based intelligence”已正式发表于Science子刊《科学·进展》(Science Advances)。田永鸿、中国科学院自动化所李国齐教授为共同通讯作者,北京大学深圳研究生院信息工程学院实习生方维为第一作者。国家自然科学基金、鹏城云脑网络智能重大科技基础设施项目、北京市自然科学基金为此项研究提供了资助。SpikingJelly(惊蜇)框架在2020—2022连续三年获得科技部领导的启智社区优秀开源项目,启智社区亦为框架的发展提供了大力支持。
文章来源北京大学新闻网,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。
中国科学院大连化学物理研究所实现了化学反应的立体动力学精准调控
清华团队合作揭示二甲双胍转运蛋白OCT1的转运和抑制分子机制
PubScholar合作期刊CPL多篇研究成果被Physics World报道
TESTING研究结果再次在JAMA发表并提出了IgA肾病治疗新方案
南方医科大学与海外合作者在肠道菌群紊乱驱动克罗恩病机制研究方面取得进展
北京大学物理学院刘开辉教授课题组在高品质二维过渡金属硫族化合物及其合金制备研究中取得进展
第四届计算机图形学、图像与虚拟化研究国际会议(ICCGIV 2024)(2024-05-17)
第九届机电控制技术与交通运输国际学术会议(ICECTT 2024)(2024-05-24)
2024年教育政策与实践研讨会(ICEPP 2024)(2024-05-24)
第三届机电一体化与机械工程国际会议(ICMME2024)(2024-05-24)
2024年电子器件、传感控制技术与光学机械工程国际学术会议(EDSCTOE 2024)(2024-05-25)
第十四届地质和地球物理学国际会议(ICGG 2024)(2024-05-31)
2024年食品工程与农业科学国际会议(ICFEAS 2024)(2024-06-02)
2024年第三届网络、通信与信息技术国际会议(CNCIT 2024)(2024-06-07)
第十届机械工程、材料和自动化技术国际会议(MMEAT 2024)(2024-06-21)
2024年先进机器人,自动化工程与机器学习国际会议(ARAEML 2024)(2024-06-28)
2024年船舶,机械与先进材料国际会议(ICSMAM 2024)(2024-5-31)
2024计算机视觉与智能通信国际会议(ICCVIC 2024)(2024-6-20)
2024年第二届通信,计算与人工智能国际会议(CCCAI 2024)(2024-6-21)
2024年计算建模、仿真与智能计算国际学术会议(CMSIC 2024)(2024-6-23)
2024年互联网技术与教育信息化国际会议(ITIE 2024)(2024-6-23)
2024计算机与人工智能、通信技术国际学术会议(CAICT 2024)(2024-5-26)
2024年第十一届人工智能国际会议 (ICOAI 2024)(2024-10-23)
2024计算机图形学、图像处理与模式识别国际会议(ICGIPR 2024)(2024-6-28)
2024年机械工程与工业发展国际学术研讨会(ISMEID 2024)(2024-5-29)
2024年机器人前沿技术与创新国际会议(FTIR 2024)(2024-7-19)