当前位置:首页 >> 学术资讯 >> 科研信息

“可解释、可通用的下一代人工智能方法”重大研究计划系列成果三 ——基于最优传输的神经网络隐式层建模

2024/03/28


图 基于正则化最优传输的全局池化层框架

  在国家自然科学基金项目(批准号:92270110)资助下,中国人民大学许洪腾副教授课题组提出基于最优传输的神经网络隐式层-全局池化层的设计方法。相关成果以“广义全局池操作的正则化最优传输层(Regularized Optimal Transport Layers for Generalized Global Pooling Operations)”为题,于2023年9月发表于《IEEE Transactions on Pattern Analysis and Machine Intelligence》。论文链接:https://ieeexplore.ieee.org/document/10247589

  当前,神经网络的设计普遍缺乏理论支持且可解释性有限,多数选择仍基于经验。为了提高模型应用效率并赋予神经网络模块更统一的理论基础,研究团队深入研究了GNNs、Transformer等神经网络模块,进行了一系列最优传输驱动的神经网络层的设计工作,使神经网络更具有理论支持和可解释性。

  该团队提出了基于正则化最优传输的全局池化层框架(ROTP)。ROTP综合当前广泛使用的全局池化层的计算方法构建了一个统一的计算范式。将全局池化操作视为对输入数据进行样本索引和特征维度选择的过程,其核心目标在于学习样本索引和特征维度之间的最优传输。该过程将全局池化操作转化为对输入数据的样本索引和特征维度之间条件期望的最大化问题。在各种机器学习任务中,包括多样例学习、图分类、集合分类等领域,ROTP表现出优异性能。这项研究为全局池化层的实际应用提供了理论支持,对基于优化的神经网络隐式层设计提供了可借鉴的范式,为提高模型性能和解释性开辟了新的途径。


版权声明:
文章来源国家自然科学基金委员会,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。

相关学术资讯
近期会议

2026年先进航空航天技术与卫星应用国际学术会议 (AATSA 2026)(2026-05-15)

2026年第四届亚洲计算机视觉、图像处理与模式识别国际会议(CVIPPR 2026)(2026-05-22)

2026年物理学、核能科学与能源科学国际会议(ICPNSES 2026)(2026-05-24)

2026年第五届网络、通信与信息技术国际会议(CNCIT 2026)(2026-05-29)

第九届统计与数据科学国际研讨会(SDS)(2026-05-29)

第十届土木建筑与结构工程国际学术会议(I3CSE 2026)(2026-05-29)

第五届艺术设计与数字化技术国际学术会议(ADDT 2026)(2026-06-05)

第五届信号处理与通信安全国际学术会议(ICSPCS 2026)(2026-06-05)

第八届能源系统与电气电力国际学术会议(ICESEP 2026)(2026-06-05)

2026年智能机器人与控制技术国际会议(CIRCT 2026)(2026-06-12)

2026年测绘与地理信息技术国际会议(ICSGIT 2026)(2026-5-18)

2026哲学、语言与人文学科国际研讨会(ISPLH 2026)(2026-5-20)

2026年数据分析与仿真研究国际会议(ICSRDA 2026)(2026-5-30)

2026年低碳技术、生态系统与环境预防国际会议(LTEP 2026)(2026-5-27)

2026生物医学、畜牧养殖与动物科学国际会议(ICBLAS 2026)(2026-6-26)

2026年土木建筑、结构工程与混凝土材料国际会议(ICESEM 2026)(2026-5-14)

2026年机械仪表、光电检测与计算机结构国际会议(MIODCS 2026)(2026-5-17)

2026年能源科学、储能系统与电力工程国际会议(IESPE 2026)(2026-5-18)

2026年清洁能源、环境工程与低碳技术国际会议(CEEELCT 2026)(2026-5-19)

2026市政工程、城市建设与交通运输国际会议(ICMEUCT 2026)(2026-6-23)

小贴士:学术会议云是学术会议查询检索的第三方门户网站。它是会议组织发布会议信息、众多学术爱好者参加会议、找会议的双向交流平台。它可提供国内外学术会议信息预报、分类检索、在线报名、论文征集、资料发布以及了解学术资讯,查找会服机构等服务,支持PC、微信、APP,三媒联动。