- 申请博士学位对发表论文有哪些基本 58
- 要保持自己的学术能力和水平的相关 27
- 论文查重软件在学术诚信中的作用是 54
- 农业工程领域选sci还是scop 18
- 编写论文提纲的内容与结构 83
- 体育心理学论文摘要写作的方法及范 41
- 清华大学材料学院李敬锋、朱静课题 76
- 中国科学技术大学在全流程人工智能 50
- 出版英文专著前需要做的重要事情 65
- 撰写论文有哪些意义? 46
- 探讨SCI论文是否可以随便增加作 50
- Springer旗下有哪些开源期 48
- 论文清样的含义 67
- 关于《北京口腔医学》期刊资讯 39
- 浙江大学教授团队在跨媒体智能计算 88
- 中国环境科学学会 22394
- 河北师范大学资源与环境学院 20389
- 中国房地产协会 22410
- 中国民航大学 20397
- 南通纺织职业技术学院 17416
- 云南师范大学 7407
- 中国交通运输协会 20415
- 会展服务有限公司 23442
- HKSME 22416
- 武汉优莱特文化发展有限公司 23392
- 河北工业大学 17396
- QQ 7401
- 广东深圳喜图印刷 20402
- 广东技术师范学院 1387
- NMRA 23394
- 系统仿真专业委员会 20409
- 北京理工大学 23437
- 北京太阳花酒店 1379
- 北京中经蓝山文化交流有限公司 17402
- 同济大学经济与管理学院 23424
“可解释、可通用的下一代人工智能方法”重大研究计划系列成果三 ——基于最优传输的神经网络隐式层建模
2024/03/28
图 基于正则化最优传输的全局池化层框架
在国家自然科学基金项目(批准号:92270110)资助下,中国人民大学许洪腾副教授课题组提出基于最优传输的神经网络隐式层-全局池化层的设计方法。相关成果以“广义全局池操作的正则化最优传输层(Regularized Optimal Transport Layers for Generalized Global Pooling Operations)”为题,于2023年9月发表于《IEEE Transactions on Pattern Analysis and Machine Intelligence》。论文链接:https://ieeexplore.ieee.org/document/10247589。
当前,神经网络的设计普遍缺乏理论支持且可解释性有限,多数选择仍基于经验。为了提高模型应用效率并赋予神经网络模块更统一的理论基础,研究团队深入研究了GNNs、Transformer等神经网络模块,进行了一系列最优传输驱动的神经网络层的设计工作,使神经网络更具有理论支持和可解释性。
该团队提出了基于正则化最优传输的全局池化层框架(ROTP)。ROTP综合当前广泛使用的全局池化层的计算方法构建了一个统一的计算范式。将全局池化操作视为对输入数据进行样本索引和特征维度选择的过程,其核心目标在于学习样本索引和特征维度之间的最优传输。该过程将全局池化操作转化为对输入数据的样本索引和特征维度之间条件期望的最大化问题。在各种机器学习任务中,包括多样例学习、图分类、集合分类等领域,ROTP表现出优异性能。这项研究为全局池化层的实际应用提供了理论支持,对基于优化的神经网络隐式层设计提供了可借鉴的范式,为提高模型性能和解释性开辟了新的途径。
文章来源国家自然科学基金委员会,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。
清华大学工物系牵头的CDEX合作组获得国际领先的轻暗物质-电子相互作用直接探测结果
化学与分子工程学院陈鹏/樊新元课题组开发近红外生物正交光催化反应用于活体遥控分子激活(CAT-NIR)
北京大学物理学院王楠林课题组与合作者在探测高温超导体Higgs模和揭示超导与赝能隙关系方面取得进展
中国科学院城市环境研究所朱永官院士团队在土壤病毒群落对土地利用方式的响应研究方面取得进展
北京大学环境学院李振山课题组在市政污泥可持续性资源化方向取得进展
武汉大学姜卫平教授团队在地球自转定向参数变化机理方面取得进展
第十四届地质和地球物理学国际会议(ICGG 2024)(2024-05-31)
2024年食品工程与农业科学国际会议(ICFEAS 2024)(2024-06-02)
2024年第三届网络、通信与信息技术国际会议(CNCIT 2024)(2024-06-07)
第四届计算机图形学、图像与虚拟化研究国际会议(ICCGIV 2024)(2024-06-07)
第十届机械工程、材料和自动化技术国际会议(MMEAT 2024)(2024-06-21)
第二届电力、电网与储能国际学术会议(PGES 2024)(2024-06-21)
2024年先进机器人,自动化工程与机器学习国际会议(ARAEML 2024)(2024-06-28)
第五届机械工程、智能制造与机电一体化学术会议暨 2024年汽车新材料新工艺技术论坛(MEIMM2024)(2024-07-05)
2024年文化、艺术设计与社会科学国际学术会议(ICCADSS 2024)(2024-07-25)
第七届智能机器人与控制工程国际会议(IRCE 2024)(2024-08-07)
2024年神经生物工程、生物医学与深度学习国际会议(NEBSDL 2024)(2024-6-30)
2024能源动力、材料应用与自动化国际会议(ICEPMA 2024)(2024-6-30)
2024年电子信息工程与人工智能国际学术会议(EIEAI2024)(2024-5-30)
2024年知识经济与智慧金融国际学术会议(ICKESF 2024)(2024-6-30)
2024公共艺术、科学研究与社会服务国际会议(PASRSS 2024)(2024-5-30)
2024年人机交互与网络安全国际学术会议(HCINS 2024)(2024-6-30)
2024先进材料、能源环境与机械制造国际学术会议(ICAMEEMM 2024)(2024-5-30)
2024年生物信息学与计算机科学国际会议(ICBCS 2024)(2024-5-30)
2024年计算机科学与航天航空技术国际学术研讨会(ISCSAT 2024)(2024-6-30)
2024年低碳发展与新能源技术国际学术会议(ICLCDNET 2024)(2024-6-30)