- 北京大学化学学院刘忠范课题组、彭 53
- 北京大学物理学院宋志达课题组在 53
- 独立完成著作和合作完成著作的优势 65
- 清华大学曹炳阳教授团队在非晶氧化 54
- 清华大学药学院尹航课题组发现4- 44
- SCI期刊 VS 国内核心期刊, 60
- 如何应对研究生导师完全不指导论文 61
- 北京大学材料学院董蜀湘课题组在人 62
- 发表论文评职称专业代发 41
- 撤销已发表的SCI论文的步骤建议 43
- 英文论文中是否可以有多个一作? 60
- 发表教育史相关论文的中文学术期刊 61
- 期刊主编有话说:你的sci论文为 41
- 本硕博和职场人员发表SCI具有哪 81
- 国外出版是否自费取决于什么? 48
- Faculty of Music 7473
- AAA 7377
- 集美大学 23389
- 北京东方比特科技有限公司 1414
- 上海品珅商务咨询有限公司 17391
- 经贸导刊 22378
- 云南大学国际关系研究院 17397
- 武汉工程大学 22416
- 华源科创(北京)信息咨询有限公司 7407
- 中国农业科学院农业传媒与传播研究 1439
- 上海博蔚会展有限公司 23392
- zkppp 7371
- 广东省医学会 20432
- 中国交通企业管理协会 22385
- 四川大学网络空间安全研究院 22419
- 广州恒斌展览有限公司 1392
- 清华大学生物科学与技术系/生命科 20430
- 首都医科大学生工学院物理教研室 20389
- guizhou academy 1377
- 武汉科严文化发展有限公司 22373
清华大学精仪系类脑计算团队合作报道基于动态忆阻器的复杂网络生成技术新进展
2024/03/29
人工神经网络(ANN)在过去十几年中发展迅猛。ANN范式最初的主要任务是通过调整固定拓扑结构的神经网络中的连接权重来实现(局部)最优的任务表现。但最近,如何使网络拓扑结构也能进化和自适应重构这一问题受到了领域里研究者更多的关注,因为网络拓扑结构的可进化能力被认为是人工通用智能的一个基础,这是人工智能技术的长远目标。效率和可重构性之间的冲突成为人工神经网络技术实现网络结构可进化目标的一个主要障碍。
忆阻器是具有记忆功能的可变电阻器,具有丰富的内在动力学行为,和生物神经单元的行为有可类比之处,作为一种新型的神经形态硬件给脑启发计算范式的发展注入了巨大的活力。忆阻器通常被集成到交叉阵列中以用作神经网络中神经元层之间的突触连接。受经典深度学习算法的影响,忆阻器主要用于构建固定结构ANN的加速器。这要求忆阻器克服内在动力学所固有的随机性,以保持稳定的静态电阻和较高的循环耐受性。然而,为了满足这些需求,往往需要花费大量的器件级和电路级优化精力。
受ANN技术发展趋势的引导和忆阻器在ANN应用中存在的问题启发,清华大学精密仪器系类脑计算团队提出逆向利用忆阻器动力学的内在随机性实现复杂网络的按需生成的方法。在该方法中,通过时间复用创建多个虚拟节点,并利用器件动力学所具有的周期到周期(cycle to cycle,C2C)可变性生成不平凡的网络拓扑特征,例如小世界特征。当用于储备池计算时,与传统的全连接网络储备池相比,忆阻器复杂网络可以显著增加储备池记忆容量并提高性能。这项工作拓展了基于忆阻器的神经形态计算范式,并有望启发对忆阻器的内在物理性质(例如动力学和随机性)进行更多研究和应用。该成果近日以“具有内在可变性的动态忆阻器内的生成复杂网络”(Generative complex networks within a dynamic memristor with intrinsic variability)为题发表在《自然·通讯》(Nature Communications)上。
图1.动态忆阻器表征及电学特性
该研究所用到的Pd/HfO2/Ta2O5/Ta忆阻器(图1所示)被电激发后的自发电阻衰减时间常数具有C2C可变性,以此作为时域虚拟节点连接的随机性来源。依据C2C随机性的统计规律设计了“probabilistic border and all-or-none connection”(PBAONC)连接生成机制用于创建复杂网络(图2所示)。该设计使得仅在单个忆阻器内通过调节时间复用时隙就可以便捷地调节复杂网络的拓扑结构,提高了忆阻器应用于ANN时的效率和可重构性。
图2.PBAONC复杂网络的生成示意图
图3.基于忆阻器的PBAONC复杂网络储备池计算
该方法利用动态忆阻器电阻衰减的内在C2C可变性来生成复杂的网络连接模式。生成的PBAONC复杂网络具有一定程度的小世界特性,这是生物(例如大脑)、互联网和社交网络中普遍存在的特征,实现了信息整合和分化的更优平衡。该工作展示了忆阻器PBAONC复杂网络在类脑储备池计算任务中的优势。实验结果表明,基于PBAONC拓扑的储备池网络具有更优的谱半径(图3所示)。忆阻器复杂网络储备池的记忆容量增加到传统忆阻器全连接储备池网络的209.8%并且在语音识别任务中展现出更佳的性能(图4所示)。
图4.时序信息处理任务
该研究的第一完成单位为清华大学精密仪器系、清华大学类脑计算研究中心。清华大学精密仪器系2020级博士研究生郭云鹏、北京信息科技大学段文睿讲师和清华大学类脑计算中心刘学工程师为该论文共同第一作者,李黄龙副教授、马骋副研究员、刘学工程师和段文睿讲师为该论文的共同通讯作者。精密仪器系博士生王昕鑫、西南大学段书凯教授和王丽丹教授为研究作出了重要贡献。该研究得到了国家自然科学基金、科技创新2030-“脑科学与类脑研究”重大项目、北京市脑科学与类脑研究中心等的资助。
文章来源清华大学新闻,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。
清华大学 生命学院颉伟课题组揭示谱系因子在全能性胚胎中的双向激活功能
南方医科大学李凯副研究员在骨关节炎软骨细胞衰老调控机制研究方面取得进展
北京大学生命科学学院王伟课题组及合作者报道酚酸类化感物质通过促进相变抑制翻译从而调控物种间竞争的新机制
北京大学环境学院叶春翔课题组在Nature Communications发文提出大气活性氮外部循环特征
清华大学深圳国际研究生院丁文伯团队在自驱动振动传感与故障诊断上取得新进展
第四届计算机图形学、图像与虚拟化研究国际会议(ICCGIV 2024)(2024-05-17)
第九届机电控制技术与交通运输国际学术会议(ICECTT 2024)(2024-05-24)
2024年教育政策与实践研讨会(ICEPP 2024)(2024-05-24)
第三届机电一体化与机械工程国际会议(ICMME2024)(2024-05-24)
2024年电子器件、传感控制技术与光学机械工程国际学术会议(EDSCTOE 2024)(2024-05-25)
第十四届地质和地球物理学国际会议(ICGG 2024)(2024-05-31)
2024年食品工程与农业科学国际会议(ICFEAS 2024)(2024-06-02)
2024年第三届网络、通信与信息技术国际会议(CNCIT 2024)(2024-06-07)
第十届机械工程、材料和自动化技术国际会议(MMEAT 2024)(2024-06-21)
2024年先进机器人,自动化工程与机器学习国际会议(ARAEML 2024)(2024-06-28)
2024年航空航天与机电工程国际会议(AMEE 2024)(2024-7-27)
2024年化学、能源科学与环境工程国际会议(ICCESEE 2024)(2024-6-29)
2024年法律、商业管理与金融国际会议(LBMF 2024)(2024-6-29)
2024年知识经济与智慧金融国际学术会议(ICKESF 2024)(2024-6-30)
2024年交通运输、计算机技术与信息科学国际会议(TCTIS 2024)(2024-7-27)
2024年城市规划、商业与数字化经济国际会议(ICUPBDE 2024)(2024-6-29)
2024年大数据、物联网与计算国际会议(ICBICC 2024)(2024-12-30)
2024年智慧城市、人文发展与区域经济国际会议(ICSCCDRE 2024)(2024-5-25)
2024光学成像、测量与光电子技术国际会议(ICOIM 2024)(2024-6-30)
2024年教育,艺术与管理研究国际会议(ICEAMR 2024)(2024-5-31)