- SCI论文的一般结构分为哪些部分 81
- 北京大学生命科学学院王忆平课题组 50
- 高等教育有哪些特征呢 44
- 是否有中文的中科院top期刊呢? 47
- 《临床和实验医学杂志》期刊指南 40
- 《中国药物滥用防治杂志》的目标读 39
- 一些优秀的经济社会学论文题目 42
- 中学生常看的杂志类型有哪些? 40
- 探讨关于废水处理的sci论文的难 72
- 创伤骨科方向的顶级sci期刊 30
- 个人出书程序的程序流程 60
- 关于共同一作的必然性进行详细探讨 66
- 知网查重入口的注意事项 42
- 发广告学论文怎么发表才好呢? 77
- 在测绘领域具有重要影响力的SCI 48
- 河源职业技术学院 17385
- 杨浦区四平路总工会 17390
- 北京雅森国际展览有限公司 7440
- 华中科技大学能源与动力工程学院 22404
- 中国传媒大学动画学院 20374
- Wicom组委会 20377
- 《中华病理学杂志》编辑部 20392
- BIT 23399
- APISE 22375
- 上海博蔚会展有限公司 20359
- 天津市电子学会 20448
- 北京航空航天大学 7374
- 清华大学 22416
- 上海麦峰医学科技有限公司 23394
- 百奥泰国际会议(大连)有限公司 1378
- 内蒙古民族大学 7392
- 大秦国际--新疆西部游旅行社会议 17382
- APISE 22375
- 上海龙润公司 1384
- 中国河南省郑州市 22410
深圳国际研究生院肖喜团队在视频对抗攻击方面取得新进展
2024/04/18
近年来,我国短视频行业快速发展,一旦视频审核系统被恶意攻击,将造成不可估量的后果。因此,为了保护未成年人的身心健康,防止违法暴力视频恶意传播,避免政治敏感纠纷,严格审核用户上传的视频变得尤为重要。深度神经网络容易受到对抗攻击,通过给图像或视频叠加极小扰动就可以造成分类系统的误分类,研究视频分类系统的对抗攻击将有助于发现分类模型的脆弱性,并成为提高模型鲁棒性的重要基础。
学术界当前的对抗攻击方法均考虑范数限制的扰动,而这种方式需要消耗大量的查询次数,造成攻击过程中巨大的计算成本,所生成的对抗样本还会被去噪或对抗训练等方法有效防御,对于提高查询效率和抵抗防御能力的方法研究鲜少涉及。为此,清华大学深圳国际研究生院肖喜副教授团队提出了一种基于风格迁移的黑盒视频对抗攻击方法(StyleFool)来攻击视频分类系统。该方法采用语义不变的无限制扰动,旨在不改变视频语义信息的前提下,对抗扰动不做范数限制。
图1. StyleFool攻击示意图
传统的风格迁移基于艺术风格,导致生成的风格化图像与现实场景相差甚远。为解决这一问题,团队提出了一种风格图像选择方法,既能确保风格化视频保持高自然性,又能使得风格化视频可以移动甚至跨过决策边界。团队将输入视频进行视频风格迁移,并利用梯度估计的方法优化风格化视频,直到视频达到误分类的要求。与同类方法相比,StyleFool能够显著提高攻击的成功率并降低查询次数。同时,在抵御视频对抗防御方法的性能方面,由于StyleFool考虑了前后帧间一致性约束和语义不变的无限制扰动,它所生成的对抗样本可以轻松绕过先进的视频防御方法。StyleFool在不改变语义信息的情况下产生无限制的扰动,跳出了传统的范数限制攻击的束缚,并在攻击性能、抵御防御性能等方面优于现有对抗攻击方法,大大降低了攻击成本,是对抗攻击迈向非语义化的一大突破。
图2. 攻击结果对比
图3. 抵御对抗防御性能结果
上述研究成果以“StyleFool:通过风格迁移欺骗视频分类系统”(StyleFool: Fooling Video Classification Systems via Style Transfer)为题,被CCF-AIEEE安全与隐私研讨会(IEEE S&P 2023:IEEE Symposium on Security and Privacy,简称:IEEE S&P)录用。
论文第一作者为清华大学深圳国际研究生院人工智能项目2021级硕士生曹钰鑫,通讯作者为清华大学深圳国际研究生院肖喜副教授。该研究成果得到了国家自然科学基金、深圳基础研究项目和深研院海外科研合作基金的支持。
文章来源清华大学新闻,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。
国家天文台研究员与海外合作者在脉冲星双星系统演化研究方面获得进展
清华大学 药学院鲁白团队开发新的人源性阿尔茨海默病类脑器官模型并确定APOE3ch突变对该病的保护性作用
北京大学物理学院何琼毅教授、龚旗煌院士课题组在远程制备非高斯量子态方面取得重要进展
自然资源部第一海洋研究所姚政权研究员与国外合作者在南亚季风演化机制研究方面取得进展
第四届计算机图形学、图像与虚拟化研究国际会议(ICCGIV 2024)(2024-05-17)
第九届机电控制技术与交通运输国际学术会议(ICECTT 2024)(2024-05-24)
2024年教育政策与实践研讨会(ICEPP 2024)(2024-05-24)
第三届机电一体化与机械工程国际会议(ICMME2024)(2024-05-24)
2024年电子器件、传感控制技术与光学机械工程国际学术会议(EDSCTOE 2024)(2024-05-25)
第十四届地质和地球物理学国际会议(ICGG 2024)(2024-05-31)
2024年食品工程与农业科学国际会议(ICFEAS 2024)(2024-06-02)
2024年第三届网络、通信与信息技术国际会议(CNCIT 2024)(2024-06-07)
第十届机械工程、材料和自动化技术国际会议(MMEAT 2024)(2024-06-21)
2024年先进机器人,自动化工程与机器学习国际会议(ARAEML 2024)(2024-06-28)
第三届生命、健康与现代医学国际会议(LHMM 2024)(2024-10-25)
2024年地质、遥感测绘与自然科学国际学术会议(GRSSMNS 2024)(2024-5-25)
2024年机器学习与图像处理国际学术研讨会(ISMLIP 2024)(2024-5-31)
第五届心理健康与教育、人文发展国际学术会议(MHEHD2024)(2024-5-17)
2024年第三届先进的电力系统和能源工程国际会议(EPSEE 2024)(2024-5-24)
2024年水利工程与交通运输国际学术会议(ICWCET 2024)(2024-6-25)
2024年机械、材料工程与应用力学国际学术会议(ICMEAM 2024)(2024-6-23)
2024年桥梁、隧道与建筑工程国际会议(ICBTCE 2024)(2024-6-22)
2024现代管理、知识经济与信息技术国际会议(ICMKEIT 2024)(2024-6-26)
2024智慧教育与多媒体技术国际会议(ICSEMT 2024)(2024-6-30)