当前位置:首页 >> 学术资讯 >> 科研信息

北京大学人工智能研究院唐希源研究员及合作者在面向边缘AI的可转置存内计算芯片方向研究取得重要进展

2024/04/10

近日,北京大学人工智能研究院类脑智能芯片研究中心唐希源研究员团队在国际电路与系统领域顶级期刊 IEEE Transactions on Circuits and Systems I: Regular Papers  (TCAS-I) 发表研究论文,论文题目为“A 28nm 16Kb Bit-Scalable Charge-DomainTranspose 6T SRAM In-Memory Computing Macro”。北京大学集成电路学院博士后宋嘉豪为第一作者,唐希源与集成电路学院王源教授为通讯作者。

随着人工智能的飞速发展,AI在人们生活中起着越来越重要的作用。大量的边缘智能传感器被部署在人们的生活环境中,用于收集数据并自主作出决策。虽然这些智能设备带来了便利,但同时也带来了泄露个人隐私数据的风险。用户通常需要使用个人数据来重新训练或调整模型以适应其个人健康状况或生活习惯。在边缘端的功耗和计算资源限制下,用户仍需将个人数据上传到云端进行模型重训练。如果云服务提供商不可信,则可能导致隐私数据泄露。因此,人们希望能够直接在边缘端完成神经网络的重训练,从而避免将数据上传至云端。

尽管存内计算技术在处理AI推理时因为能够显著减少数据搬运功耗而被广泛使用(图1),但是由于反向传播需要读取模型权重矩阵的转置,传统的存内计算方案无法支持网络训练任务。随着智能应用快速推进,边缘端数据安全与网络训练高功耗、高成本的冲突日益严峻。

图1. 存内计算架构以及可转置存内计算核的示意图

针对这一挑战,唐希源课题组提出了一种可同时实现高能效模型推断前馈计算与训练反向传播计算的可转置存内计算电路设计,该工作的整体架构如图2所示。

图2. 团队提出的可转置存内计算电路整体架构图与局域阵列示意图

为了在高密度的6T SRAM阵列中支持高精度可转置计算,该工作提出一种基于分簇结构的电荷域局域阵列设计。在分簇结构中,8个6T SRAM单元共用一个电荷域计算单元在位线电容上完成高精度的电荷域计算。因此,该工作的功能单元面积仅为6T SRAM的1.37倍,额外硬件开销很小。此外,该设计可以通过比特串行映射的方法对计算精度进行扩展。如图3所示,课题组基于28nm标准CMOS工艺完成了可转置存内计算电路的芯片原型验证,芯片在前馈计算时的能效达到257.1TOPS/W,在反向传播计算时的能效达到31.8TOPS/W,达到世界先进水平,并在CIFAR-10与MNIST数据集完成性能验证。该技术为边缘端智能提供了低功耗、高鲁棒性的AI加速器解决方案。

图3. 28nm芯片原型显微图


版权声明:
文章来源北京大学新闻网,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。

相关学术资讯
近期会议

2025生物学、环境工程与清洁能源国际会议(ICBEECE 2025)(2025-09-05)

第七届 IEEE 能源、电力与电网国际学术会议(IEEE-ICEPG 2025)(2025-09-12)

2025环境、气候变化与生物科学国际会议(ECCBS 2025)(2025-09-13)

2025年第七届先进计算机科学,信息技术与通信国际会议(CSITC2025)(2025-09-19)

第十届机械制造技术与材料工程国际学术会议(MMTME 2025)(2025-09-19)

第九届交通工程与运输系统国际学术会议(ICTETS 2025)(2025-09-26)

第六届智能计算与人机交互国际研讨会(ICHCI 2025)(2025-09-26)

第五届机电一体化技术与航空航天工程国际学术会议(ICMTAE 2025)(2025-09-26)

2025年先进制造技术、机械工程与自动化国际会议(ICAMTMEA 2025)(2025-10-01)

2025-2026年科技计划项目申报和科技创新平台建设运行科研资金全过程管理使用高级研修班(苏州)(2025-10-22)

2025年施工技术与材料性能国际会议(ICCTMP 2025)(2025-9-19)

2025年人工智能与图像处理国际会议(AIIP 2025)(2025-11-25)

2025年模型构建、多维空间与几何学国际学术会议(ICMBMSG 2025)(2025-9-24)

2025年无人机系统与先进控制国际会议(UAVSAC 2025)(2025-9-28)

2025年区块链、物联网与数据安全国际会议(ICBTDS 2025)(2025-9-26)

2025年消费电子、计算机工程与物联网国际会议(IECIT 2025)(2025-10-23)

2025年设计、人文发展与管理科学国际会议 (DHDMS 2025)(2025-9-23)

2025年桥梁工程、隧道与施工技术国际会议(ICBETCT 2025)(2025-10-30)

2025年新闻学、数字媒体与传播国际学术会议(JDMC 2025)(2025-9-26)

2025环境污染与污染控制、可持续发展国际会议(EPPCSD 2025)(2025-10-19)

小贴士:学术会议云是学术会议查询检索的第三方门户网站。它是会议组织发布会议信息、众多学术爱好者参加会议、找会议的双向交流平台。它可提供国内外学术会议信息预报、分类检索、在线报名、论文征集、资料发布以及了解学术资讯,查找会服机构等服务,支持PC、微信、APP,三媒联动。