西北工业大学李学龙教授提出正激励噪声的新思想
2024/04/16
![]() |
图1 图像识别准确率随图像噪声强度的增大而“反直觉”地呈现出“先增后减”现象
图2 正激励噪声在跨域遥感标检测任务中的应用示例
在国家自然科学基金项目(批准号:61871470)资助下,西北工业大学李学龙教授提出以“任务熵”定义噪声,并利用甚至设计“有用的噪声”的新思想。研究成果以“正激励噪声(Positive-incentive Noise)”为题于2022年12月29日发表在期刊《电气电子工程师协会·神经网络与学习系统汇刊》(IEEE Transactions on Neural Networks and Learning Systems)上。论文链接:https://ieeexplore.ieee.org/document/10003114。
工程科学研究中,几乎不可避免地在数据、特征、样本、决策等多层面存在噪声,例如,超声影像中由于相干声波的路径差异会不可避免地导致斑点噪声,遥感成像时会因为炫光等特殊环境产生难以预料的噪声。因此,现有研究工作中,研究者总是试图将噪声的含量尽可能降到最低,并认为这样就将其影响也降到了最低。噪声会对任务产生负面影响已经成为信号处理领域的理论体系和工程任务一个约定俗成的假设。然而,李学龙教授在信号分类等科学研究中发现,当数据中加入适量的噪声时,人工智能算法对信号识别的准确率不降反增。整体上,分类准确率随含噪量的增加呈现“先增后减”现象(图1),这说明噪声也可以是有用的。
针对这一现象,李学龙教授深入思考后认为“某些噪声和信号的产生是同源的”,并进一步认识到对噪声的系统研究离不开对任务的定量化描述。因此,他提出以任务熵(Task Entropy)—— 来定量分析任务复杂度的理论体系,建立了信息处理中的噪声分析计算框架。根据该计算框架,在任务给定的情况下,通过计算任意噪声 与任务 之间的互信息(Mutual Information)将噪声分类为“正激励噪声”(Positive-incentive Noise, Pi/π-Noise)和“纯噪声”。其中,正激励噪声是指“与任务 间互信息大于0、能够减小任务熵”的噪声;纯噪声则指“互信息为0、不能减少任务熵”的噪声。以跨域遥感的目标检测任务(图2)为例,背景在检测中通常被认为是需要剔除的“噪声”,物体(此例中为飞机)的边界框一般要求应尽可能紧致。而根据正激励噪声理论,合理地利用背景噪声,可以帮助简化检测任务、提升检测精度。因此,在训练模型时,可以根据噪声与任务的互信息最大化准则,自适应的调整边界框大小,使其包含适量与检测目标强耦合的背景,如跑道、停机坪等。李学龙教授还指出,该计算框架的核心在于找到任务 对应的“任务概率分布”和确定正激励噪声的边界。
项目研究工作启发人们重新认识信息处理中的噪声,为跨域遥感、多模态认知计算、涉水光学、稳定探测等领域信息处理和噪声利用提供了新思路。
文章来源国家自然科学基金委员会,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。
-
好学术:科研网址导航|学术头条分240
-
《时代技术》投稿全攻略:一位审稿254
-
2025年国际期刊预警名单发布!381
-
2025年中科院期刊分区表重磅发3185
-
中科院已正式发布2024年预警期612
-
2025年度国家自然科学基金项目531
-
中国科协《重要学术会议目录(201792
-
2024年国家自然科学基金项目评908
-
2024年JCR影响因子正式发布897
-
吉林大学校长张希:学术会议中的提1112
-
上海交大李丹课题组与合作者在AD06-16
-
上海交大申涛、陈向洋通过“光电合06-16
-
期刊投稿增刊问题:如何规避学术陷06-16
-
Applied Sciences06-16
-
Elsevier期刊proof阶06-16
-
南京财经大学 22986
-
VERBI软件有限责任公司 7985
-
北京中味国际展览有限公司 8095
-
PPCE 22871
-
海南优为会务 18187
-
北京高博特广告有限公司 20878
-
百胜餐饮沈阳公司 17948
-
东都国际展览(北京)有限公司 7830
-
湖北省武汉市洪山区武汉体育学院 8093
-
生物谷 20765
-
美国伊利诺伊理工学院 23878
-
个人 8004
-
广东省珠海市当当大道 17925
-
工业和信息化部工业文化发展中心 23864
-
同济大学地下与工程建筑系 17872
-
同济戴斯大酒店 18119
-
ASTIRC 1865
-
新疆燕泰会议服务有限公司 17955
-
重庆市渝北区 17925
-
中国真空学会薄膜专业委员会 1974