在国家自然科学基金项目（批准号：62022048、61906106）资助下，清华大学黄高研究团队在动态深度神经网络研究方面取得进展。研究成果以“基于自适应聚焦的高效视频识别（Adaptive Focus for Efficient Video Recognition）”为题，于2021年10月17日发表于《国际计算机视觉会议》（International Conference on Computer Vision, ICCV），并被选为口头报告论文。论文链接：https://openaccess.thecvf.com/content/ICCV2021/papers/Wang_Adaptive_Focus_for_Efficient_Video_Recognition_ICCV_2021_paper.pdf。

　　深度神经网络是人工智能的核心支撑技术之一，推动了计算机视觉、语音识别、对抗博弈等技术的变革。然而，深度学习模型的巨大计算开销和能耗需求制约了其在计算资源受限场景中的应用。如何从根本上提升深度学习的计算效率，是一个具有挑战且蕴含巨大价值的科学问题。

　　该团队从深度神经网络的结构入手，揭示了传统神经网络的静态计算机制是计算低效的主要根源，并针对工业应用中常见的视频识别任务提出了具有时间与空间自适应特性的动态深度神经网络，将时间动态性和空间动态性建模至深度神经网络，利用强化学习算法自动定位视频中重要的时间片段与空间区域，实现有限计算资源的最优分配（图）。该方案相比于传统的静态神经网络，将视频识别的计算效率提升了近一个数量级。

　　由于动态神经网络能够以较低的功耗实现对环境的动态感知，因此在边缘计算平台、物联网设备以及各类空中、水下无人系统等对能耗要求比较苛刻的场景中有广阔的应用前景。该团队自2019年以来，在样本自适应、空间自适应和时空自适应三类典型的动态神经网络方面开展了持续深入的研究，并撰写了关于动态神经网络的首篇综述，在线发表于《IEEE模式分析与机器智能汇刊》（IEEE Transactions on Pattern Analysis and Machine Intelligence。TPAMI），论文链接：https://ieeexplore.ieee.org/document/9560049。

图 动态深度神经网络研究示意图