西北工业大学李学龙教授提出正激励噪声的新思想
2024/04/16
![]() |
图1 图像识别准确率随图像噪声强度的增大而“反直觉”地呈现出“先增后减”现象
图2 正激励噪声在跨域遥感标检测任务中的应用示例
在国家自然科学基金项目(批准号:61871470)资助下,西北工业大学李学龙教授提出以“任务熵”定义噪声,并利用甚至设计“有用的噪声”的新思想。研究成果以“正激励噪声(Positive-incentive Noise)”为题于2022年12月29日发表在期刊《电气电子工程师协会·神经网络与学习系统汇刊》(IEEE Transactions on Neural Networks and Learning Systems)上。论文链接:https://ieeexplore.ieee.org/document/10003114。
工程科学研究中,几乎不可避免地在数据、特征、样本、决策等多层面存在噪声,例如,超声影像中由于相干声波的路径差异会不可避免地导致斑点噪声,遥感成像时会因为炫光等特殊环境产生难以预料的噪声。因此,现有研究工作中,研究者总是试图将噪声的含量尽可能降到最低,并认为这样就将其影响也降到了最低。噪声会对任务产生负面影响已经成为信号处理领域的理论体系和工程任务一个约定俗成的假设。然而,李学龙教授在信号分类等科学研究中发现,当数据中加入适量的噪声时,人工智能算法对信号识别的准确率不降反增。整体上,分类准确率随含噪量的增加呈现“先增后减”现象(图1),这说明噪声也可以是有用的。
针对这一现象,李学龙教授深入思考后认为“某些噪声和信号的产生是同源的”,并进一步认识到对噪声的系统研究离不开对任务的定量化描述。因此,他提出以任务熵(Task Entropy)—— 来定量分析任务复杂度的理论体系,建立了信息处理中的噪声分析计算框架。根据该计算框架,在任务给定的情况下,通过计算任意噪声 与任务 之间的互信息(Mutual Information)将噪声分类为“正激励噪声”(Positive-incentive Noise, Pi/π-Noise)和“纯噪声”。其中,正激励噪声是指“与任务 间互信息大于0、能够减小任务熵”的噪声;纯噪声则指“互信息为0、不能减少任务熵”的噪声。以跨域遥感的目标检测任务(图2)为例,背景在检测中通常被认为是需要剔除的“噪声”,物体(此例中为飞机)的边界框一般要求应尽可能紧致。而根据正激励噪声理论,合理地利用背景噪声,可以帮助简化检测任务、提升检测精度。因此,在训练模型时,可以根据噪声与任务的互信息最大化准则,自适应的调整边界框大小,使其包含适量与检测目标强耦合的背景,如跑道、停机坪等。李学龙教授还指出,该计算框架的核心在于找到任务 对应的“任务概率分布”和确定正激励噪声的边界。
项目研究工作启发人们重新认识信息处理中的噪声,为跨域遥感、多模态认知计算、涉水光学、稳定探测等领域信息处理和噪声利用提供了新思路。
文章来源国家自然科学基金委员会,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。
-
2025年两院院士增选有效候选人116
-
2025最新JCR分区及影响因子2461
-
好学术:科研网址导航|学术头条分641
-
2025年国际期刊预警名单发布!770
-
2025年中科院期刊分区表重磅发4295
-
中国科协《重要学术会议目录(202964
-
吉林大学校长张希:学术会议中的提1619
-
2025年国自然正式放榜!08-27
-
SCI论文中的数据引用,如何避免08-15
-
EI核心期刊和普通期刊有什么本质08-15
-
国内期刊EI与核心有什么区别?三08-15
-
怎么查找前几年的EI期刊源?科研08-15
-
如何准确验证论文是否被SCI收录08-15
-
机械类EI期刊投稿全攻略:从实验08-15
-
SCI论文DOI号查找全攻略:学08-15
-
辽宁工业大学 17985
-
International As 7993
-
S&E研究中心 1981
-
中国汽车零部件 17995
-
悉尼科技大学 23914
-
深圳市汉威展览策划有限公司 18084
-
浙江大学 21237
-
湖南投资集团 17977
-
中国国联咨询有限公司 18251
-
中国环境科学学会 20863
-
EQ3 7906
-
南京航空航天大学 21190
-
兰州大学资源环境学院 21197
-
上海良安大饭店 18281
-
亚洲商业协会有限公司 18028
-
东北大学软件学院 22961
-
IRnet 学术中心 8184
-
QSD 23149
-
中国农业科学院农业资源与农业区划 20996
-
CECSF 21050