当前位置:首页 >> 学术资讯 >> 科研信息

北京大学人工智能研究院唐希源研究员及合作者在面向边缘AI的可转置存内计算芯片方向研究取得重要进展

2024/04/10

近日,北京大学人工智能研究院类脑智能芯片研究中心唐希源研究员团队在国际电路与系统领域顶级期刊 IEEE Transactions on Circuits and Systems I: Regular Papers  (TCAS-I) 发表研究论文,论文题目为“A 28nm 16Kb Bit-Scalable Charge-DomainTranspose 6T SRAM In-Memory Computing Macro”。北京大学集成电路学院博士后宋嘉豪为第一作者,唐希源与集成电路学院王源教授为通讯作者。

随着人工智能的飞速发展,AI在人们生活中起着越来越重要的作用。大量的边缘智能传感器被部署在人们的生活环境中,用于收集数据并自主作出决策。虽然这些智能设备带来了便利,但同时也带来了泄露个人隐私数据的风险。用户通常需要使用个人数据来重新训练或调整模型以适应其个人健康状况或生活习惯。在边缘端的功耗和计算资源限制下,用户仍需将个人数据上传到云端进行模型重训练。如果云服务提供商不可信,则可能导致隐私数据泄露。因此,人们希望能够直接在边缘端完成神经网络的重训练,从而避免将数据上传至云端。

尽管存内计算技术在处理AI推理时因为能够显著减少数据搬运功耗而被广泛使用(图1),但是由于反向传播需要读取模型权重矩阵的转置,传统的存内计算方案无法支持网络训练任务。随着智能应用快速推进,边缘端数据安全与网络训练高功耗、高成本的冲突日益严峻。

图1. 存内计算架构以及可转置存内计算核的示意图

针对这一挑战,唐希源课题组提出了一种可同时实现高能效模型推断前馈计算与训练反向传播计算的可转置存内计算电路设计,该工作的整体架构如图2所示。

图2. 团队提出的可转置存内计算电路整体架构图与局域阵列示意图

为了在高密度的6T SRAM阵列中支持高精度可转置计算,该工作提出一种基于分簇结构的电荷域局域阵列设计。在分簇结构中,8个6T SRAM单元共用一个电荷域计算单元在位线电容上完成高精度的电荷域计算。因此,该工作的功能单元面积仅为6T SRAM的1.37倍,额外硬件开销很小。此外,该设计可以通过比特串行映射的方法对计算精度进行扩展。如图3所示,课题组基于28nm标准CMOS工艺完成了可转置存内计算电路的芯片原型验证,芯片在前馈计算时的能效达到257.1TOPS/W,在反向传播计算时的能效达到31.8TOPS/W,达到世界先进水平,并在CIFAR-10与MNIST数据集完成性能验证。该技术为边缘端智能提供了低功耗、高鲁棒性的AI加速器解决方案。

图3. 28nm芯片原型显微图


版权声明:
文章来源北京大学新闻网,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。

相关学术资讯
近期会议

第二届无人系统与自动化控制国际学术会议(ICUSAC 2025)(2025-12-26)

2025年IEEE第八届算法,计算与人工智能国际会议 (ACAI 2025)(2025-12-26)

第二届遥感技术与图像处理国际学术会议(RSTIP 2025)(2025-12-26)

第二届模式识别与图像分析国际学术会议(PRIA 2025)(2025-12-26)

2025年创新设计与数字化转型国际会议(2025-12-26)

第五届通信技术与信息科技国际学术会议(ICCTIT 2025)(2025-12-26)

第五届人工智能与大数据国际学术研讨会 (AIBDF 2025)(2025-12-26)

2025物理学、量子计算与光学国际会议(ICPQCO 2025)(2025-12-27)

2026年数学、人工智能与金融学国际会议(ICMAIF 2026(2026-01-06)

2026智能电网信息工程、电缆工程与电气国际会议(CEEE 2026)(2026-01-06)

2025年化学工程、材料物理与能源科学国际会议(CEMPES 2025)(2025-12-29)

2025全球政治、思想教育与社会人文国际学术会议(IESH 2025)(2025-12-27)

2025年哲学历史与文化遗产国际会议(ICPHCH 2025)(2025-12-30)

2025年社会科学、数据建模心理学国际会议(PSSDM 2025)(2025-12-22)

2025年分子营养学、生物技术与农业适应国际会议(MUBAA 2025)(2025-12-25)

2025年食品交叉科学、营养工程与生物技术国际会议(IFINEB 2025)(2025-12-27)

第二届无人系统与自动化控制国际学术会议(ICUSAC 2025)(2025-12-26)

2025年控制工程,智能系统与算法国际会议(CEISA 2025)(2025-12-26)

2025年城乡规划、区域经济与人文发展国际会议(URPRECD 2025)(2025-12-25)

2025计算建模、数据分析与机器人技术国际会议(CMDART 2025)(2025-12-24)

小贴士:学术会议云是学术会议查询检索的第三方门户网站。它是会议组织发布会议信息、众多学术爱好者参加会议、找会议的双向交流平台。它可提供国内外学术会议信息预报、分类检索、在线报名、论文征集、资料发布以及了解学术资讯,查找会服机构等服务,支持PC、微信、APP,三媒联动。