- 关于学术会议吃茶歇的正确方式 36
- 江西省评选农艺师高级职称的条件有 61
- 快速参加国际学术会议的步骤 45
- 文献综述通常包括哪些内容 74
- 清华大学航院李晓雁课题组合作在可 51
- sci文章发表投稿前要注意哪些事 82
- 审稿中的论文是否能修改作者顺序 89
- 中国科学技术大学发现生物大分子凝 55
- 《宁夏党校学报》主要分为哪些栏目 54
- 矿物学论文相关的期刊有哪几本 77
- 关于民法学方向论文题目借鉴及期刊 70
- 有哪些关于反犯罪和邪恶的相关论文 69
- 中国科学院成功研制当前最小低功耗 56
- 想要自己投稿EI期刊的详细步骤 69
- 2024年北京理工大学(珠海)开 93
- 国际科学与工程发展协会 22409
- IAASE 7393
- 中纤网 23414
- 九江金桥旅行社有限公司 17416
- 北京中德毛发移植整形医院 22517
- 国际工学技术出版协会 20429
- 百奥泰国际会议(大连)有限公司 23400
- 武汉光电国家实验室 22389
- 上海交通大学安泰经管学院 20424
- 上海生物谷 23388
- 上海筱虞文化传播有限公司 1409
- Universiti Tekno 22385
- 广州雅程整合传播有限公司 17445
- ofweek 23383
- QQ 7407
- 北京爱德迈德广告有限公司 23444
- 浙江大学华家池校区纳米技术研究院 20439
- 海纳集团 22420
- 河南师范大学 20416
- 中科院先进院 1415
“可解释、可通用的下一代人工智能方法”重大研究计划系列成果三 ——基于最优传输的神经网络隐式层建模
2024/03/28
图 基于正则化最优传输的全局池化层框架
在国家自然科学基金项目(批准号:92270110)资助下,中国人民大学许洪腾副教授课题组提出基于最优传输的神经网络隐式层-全局池化层的设计方法。相关成果以“广义全局池操作的正则化最优传输层(Regularized Optimal Transport Layers for Generalized Global Pooling Operations)”为题,于2023年9月发表于《IEEE Transactions on Pattern Analysis and Machine Intelligence》。论文链接:https://ieeexplore.ieee.org/document/10247589。
当前,神经网络的设计普遍缺乏理论支持且可解释性有限,多数选择仍基于经验。为了提高模型应用效率并赋予神经网络模块更统一的理论基础,研究团队深入研究了GNNs、Transformer等神经网络模块,进行了一系列最优传输驱动的神经网络层的设计工作,使神经网络更具有理论支持和可解释性。
该团队提出了基于正则化最优传输的全局池化层框架(ROTP)。ROTP综合当前广泛使用的全局池化层的计算方法构建了一个统一的计算范式。将全局池化操作视为对输入数据进行样本索引和特征维度选择的过程,其核心目标在于学习样本索引和特征维度之间的最优传输。该过程将全局池化操作转化为对输入数据的样本索引和特征维度之间条件期望的最大化问题。在各种机器学习任务中,包括多样例学习、图分类、集合分类等领域,ROTP表现出优异性能。这项研究为全局池化层的实际应用提供了理论支持,对基于优化的神经网络隐式层设计提供了可借鉴的范式,为提高模型性能和解释性开辟了新的途径。
文章来源国家自然科学基金委员会,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。
南京大学环境学院与海外合作者在自清洁抗污染滤膜研究方面取得进展
北京大学第一医院在原发性膜性肾病发病机制方面的研究取得新进展
清华大学 物理系金奇奂研究组在离子阱声子计算研究方面取得进展
北京大学环境学院刘永课题组在全球湖泊氮磷截留的效应机制研究方面取得进展
第三届机电一体化与机械工程国际会议(ICMME2024)(2024-05-24)
第十四届地质和地球物理学国际会议(ICGG 2024)(2024-05-31)
2024年食品工程与农业科学国际会议(ICFEAS 2024)(2024-06-02)
2024年第三届网络、通信与信息技术国际会议(CNCIT 2024)(2024-06-07)
第十届机械工程、材料和自动化技术国际会议(MMEAT 2024)(2024-06-21)
2024年第二届管理创新与经济发展国际学术会议(MIED 2024)(2024-06-28)
2024年先进机器人,自动化工程与机器学习国际会议(ARAEML 2024)(2024-06-28)
第六届电子工程与信息学国际学术会议(EEI 2024)(2024-06-28)
第五届机械工程、智能制造与机电一体化学术会议暨 2024年汽车新材料新工艺技术论坛(MEIMM2024)(2024-07-05)
2024年文化、艺术设计与社会科学国际学术会议(ICCADSS 2024)(2024-07-25)
2024年第十二届控制、机电一体化和自动化国际会议 (ICCMA 2024)(2024-11-11)
2024软件工程与计算机网络国际会议(ICSECN 2024)(2024-7-13)
2024年化学、能源研究与材料科学国际会议(CERMS 2024)(2024-6-30)
第四届能源工程与电力系统国际会议(EEPS 2024)(2024-8-9)
2024年第十届控制科学与系统工程国际会议(ICCSSE 2024)(2024-10-18)
2024天文学、卫星遥感与地球科学国际会议(ICASRE 2024)(2024-7-23)
2024年健康大数据、体育与可持续发展国际学术会议 (HBDSSD 2024)(2024-6-30)
2024年深度学习、图像处理与计算机技术国际会议(DLIPCT 2024)(2024-6-23)
2024年第十七届前沿计算机理论与工程国际会议(ICACTE 2024)(2024-9-13)
2024能源动力、材料应用与自动化国际会议(ICEPMA 2024)(2024-6-30)