- 清华大学物理系杨鲁懿研究组合作在 41
- 针对硕士毕业论文的免费查重系统主 70
- 选择SCI论文润色公司需要考虑的 48
- 清华大学牵头研制的三江源一号卫星 47
- 分享比较好投的电化学sci杂志 57
- sci论文校对时可以删作者吗 48
- 发表复调论文的主要期刊有哪几本 61
- 数字出版与传统出版是什么关系 95
- 关于铁路运输方向论文题目借鉴及期 51
- 会计论文发表哪些论文题目合适呢? 65
- 探讨《神经解剖学杂志》的特色和亮 34
- 重庆医科大学团队在脓毒症生物标志 71
- 《中华神经科杂志》期刊相关内容 36
- 关于著作初稿已完成该怎么出版的建 51
- 北京大学邹鹏课题组开发基因编码的 54
- 湖南科技大学 20399
- 四川省现场统计学会 23399
- 上海屹桥文化传媒有限公司 1389
- 苏州工业园区落加大先进技术研究院 23396
- ACEPS-8 22366
- EESED2016 22390
- 青穆文化传播有限公司 22379
- 北京恒跃展览有限公司 7410
- 广东心域广告传媒有限公司 22420
- 内蒙古集宁师范高等专科学校生化系 17412
- 广州宇建企业管理有限公司 1432
- 北京化工大学 17394
- 重庆市规划展览馆 17376
- 兰州理工大学能源与动力工程学院 20392
- 湖北文化传播有限公司 23372
- 河南省滑县人民医院 22404
- 河南纳智博研会务有限公司 7419
- WQWREW 7371
- 武汉尔湾文化 1370
- RH 7396
上海交通大学在非规则信号的结构化学习理论方向取得新进展
2024/04/15
图 “混合ISTA”与残差连接的对比
在国家自然科学基金项目(批准号:61932022、61931023、61720106001)资助下,上海交通大学熊红凯教授团队在非规则多媒体信号的结构化学习理论研究方面取得进展。研究成果以“混合迭代软阈值收缩算法:基于无约束深度神经网络、具有收敛保证的深度软阈值收缩算法展开网络(Hybrid ISTA: Unfolding ISTA With Convergence Guarantees Using Free-Form Deep Neural Networks)”为题于2023年3月3日发表在期刊《电气电子工程师协会·图形分析与机器智能汇刊》(IEEE Trans. Pattern Analysis and Machine Intelligence)上,论文链接:https://ieeexplore.ieee.org/document/9767634。
如何根据信号可观测的演化结果探求信号本源是医学成像、遥感测控、机器视觉等领域广泛研究的一类反问题。传统优化算法求解反问题时,尽管具备理论解析性,但运算复杂、性能欠佳;深度神经网络尽管性能出色,但依赖经验化设计,加之其“黑盒”属性,无法保证模型稳定可靠。因此,亟待探索兼具理论解析性与优秀性能的反问题求解方法。
针对上述问题,上海交通大学熊红凯教授研究团队构建了一种可解析的深度展开神经网络。他们基于迭代软阈值收敛算法(ISTA)提出了一种通用的算法改进框架“混合ISTA”,在标准ISTA及其五种基于神经网络的变体算法上进行拓展,构造了六种深度展开神经网络,并系统建立了特征表示和误差边界的解析理论;松弛了网络的拓扑结构约束,在迭代步骤中引入无结构约束的网络参数,在不破坏理论收敛性的前提下,保障高效率和高精度求解,完全释放模型性能。 “混合ISTA”的迭代步骤与著名的残差连接(Residual Connectivity)对比结果表明(图),虽然两者有部分相似之处,即都含有跨层连接操作,但“混合ISTA”通过引入两步带有可学习参数的近端梯度下降算子,对算子中的参数进行合理假设,理论证明网络输出的收敛性和加速收敛速率,从而提升网络性能。在信号稀疏重构的实验中,“混合ISTA”改进的算法在计算量百倍少于传统算法、参数量十倍少于神经网络算法时,重构性能依然领先,极大降低了计算功耗。
项目研究成果赋予了“黑盒”性质的神经网络以理论解析性,开辟了设计可解释的深度神经网络新方向,为构建可信、可靠神经网络模型和新一代人工智能范式的变革提供了支撑,有助于进一步推动深度神经网络在反问题以及更多领域的应用。
文章来源国家自然科学基金委员会,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。
北京大学物理学院王剑威、龚旗煌课题组实现超大规模集成的图论光量子计算芯片
清华大学卫强教授团队在识别心理动态的智能推荐方法研究方面取得进展
清华大学化学系王朝课题组开发出具有超大可逆双轴面应变的超弹性水凝胶
江颖课题组完成qPlus型光耦合扫描探针显微镜自主研发和专利转让
第四届计算机图形学、图像与虚拟化研究国际会议(ICCGIV 2024)(2024-05-17)
第九届机电控制技术与交通运输国际学术会议(ICECTT 2024)(2024-05-24)
2024年教育政策与实践研讨会(ICEPP 2024)(2024-05-24)
第三届机电一体化与机械工程国际会议(ICMME2024)(2024-05-24)
2024年电子器件、传感控制技术与光学机械工程国际学术会议(EDSCTOE 2024)(2024-05-25)
第十四届地质和地球物理学国际会议(ICGG 2024)(2024-05-31)
2024年食品工程与农业科学国际会议(ICFEAS 2024)(2024-06-02)
2024年第三届网络、通信与信息技术国际会议(CNCIT 2024)(2024-06-07)
第十届机械工程、材料和自动化技术国际会议(MMEAT 2024)(2024-06-21)
2024年先进机器人,自动化工程与机器学习国际会议(ARAEML 2024)(2024-06-28)
2024年第七届国际机器人与智能技术会议(ICRIT 2024)(2024-8-21)
2024社会发展、心理健康与文化国际学术会议(ICSDMHC 2024)(2024-6-22)
第十四届管理与服务科学国际会议 (MASS 2024)(2024-10-25)
2024年计算机视觉,图形与图像处理国际会议(CVGIP 2024)(2024-6-28)
2024年第五届教育教学管理国际会议(ICTEM 2024)(2024-7-29)
2024年机电工程与航天航空技术国际研讨会(ISMEEAT2024)(2024-6-28)
2024年艺术、文化与哲学发展国际学术会议(ICDACP 2024)(2024-5-25)
2024年第九届可再生能源与保护国际会议 (ICREC 2024)(2024-11-22)
第十届创新教育国际研讨会 (CCE 2024)(2024-10-25)
2024年复合医学与组织胚胎学国际会议(ICCMTE 2024)(2024-5-25)