中国农业大学信电学院智能与系统安全实验室在大语言模型安全领域取得新进展
2026/04/25
近日,中国农业大学信息与电气工程学院智能与系统安全实验室,在大语言模型指纹领域、大语言模型后门领域的三篇研究论文被人工智能领域顶级会议2026-ACL(The 64th Annual Meeting of the Association for Computational Linguistics, CCF-A类会议)接收。
其中,《大语言模型隐式指纹方法》(Imf: Implicit fingerprint for large language models)和《大语言模型指纹抑制攻击方法》(Inhibitory Attacks on Backdoor-based Fingerprinting for Large Language Models)以main形式接收;《基于软标签机制和关键提取引导的大语言模型API后门防御方法》(SLIP: Soft Label Mechanism and Key-Extraction-Guided CoT-based Defense Against Instruction Backdoor in APIs)以findings形式接收。
《大语言模型隐式指纹方法》(Imf: Implicit fingerprint for large language models)针对目前显式指纹存在显著的语义差异导致的两大核心问题:容易被攻击者通过微调或模型合并等攻击手段去除;容易被系统级的“生成修订干预”攻击所屏蔽,导致验证失败)提出了隐式指纹(ImF),框架如图1所示。ImF不再依赖显式的标记,而是通过语言隐写术将所有权信息编码进自然流畅的目标回复中,并反向推导出与之语义一致的思维链查询。该方法旨在消除指纹行为与模型自然行为的边界,从而在保持模型通用能力的同时,实现黑盒下的鲁棒所有权验证。
图1 ImF方法架构图
《大语言模型指纹抑制攻击方法》首次探究了现有后门模型指纹方法在模型集成场景中的适用性,发现针对性的模型集成策略能在保留模型集成自身效用的前提下完全的抑制模型指纹的输出。基于此,本文提出了两种指纹响应抑制方法:Token Filter Attack(TFA)和Sentence Verification Attack(SVA),如图2所示。TFA利用指纹模型回答和普通模型回答之间的显著差异性,在每一步生成中,让子模型的top-K个候选token集合两两之间做交集以去除指纹token,然后对这些交集取并集以保证集成的效用。SVA利用指纹模型的指纹响应具有更高PPL的特性,让每一个子模型对其他模型生成的回答计算PPL并投票,最后选出得票高者为最终回答。
图2(a)TFA方法框图
图2(b)SVA方法框图
《基于软标签机制和关键提取引导的大语言模型API后门防御方法》针对大语言模型新型的指令后门攻击:攻击者可以将恶意指令嵌入系统提示中,在黑盒设置下悄悄操纵模型的预测。首先进行了两个试点实验以剖析指令后门攻击如何实现后门控制并揭示了两个关键规律:认知覆盖和异常语义相关性。并在此基础上提出了基于软标签机制和关键提取引导的后门防御,框架如图3所示。
图3 SLIP方法架构图
《大语言模型隐式指纹方法》的通讯作者为薛一鸣教授,2025级博士研究生吴家璇为第一作者;《大语言模型指纹抑制攻击方法》的通讯作者为彭万里副教授,2025级专业硕士研究生付航为第一作者;《基于软标签机制和关键提取引导的大语言模型API后门防御方法》通讯作者为文娟副教授,2024级博士研究生吴政娴为第一作者。
上述论文成果受到国家自然科学基金项目(No.62272463、No.62402117)的资助,本研究工作得到中国农业大学校级高性能计算平台支持。
文章来源中国农业大学,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。
-
2026年第十六届电力与能源系统国际 110
-
2026年10月优质国际学术会议推荐 448
-
2026年智能科学与信息物理技术国际 157
-
第五届传感、测量、通信与物联网技术国 548
-
2026年第三届计算机网络与云计算国 3097
-
2026资源、化学化工与应用材料国际 4170
-
2026年图像处理与数字创意设计国际 3855
-
2026年机械工程,新能源与电气技术 8936
-
2026年材料科学、低碳技术与动力工 4359
-
2026智能驾驶、智能传感与无人系统 09-28
-
2026生命健康、精准营养与食品安全 09-28
-
第二届信息学、生物医学与系统生物学国 09-28
-
2026环境资源、清洁能源与可持续发 09-28
-
第三届纺织科学、材料工程与智能制造国 09-28
-
第二届林业工程、环境科学与可持续发展 09-28
-
2026 JCR影响因子正式发布2049
-
中国科协发布2025年《重要学术2146
-
2026年新锐分区(原中科院期刊10945
-
2025年两院院士增选有效候选人6679
-
好学术:科研网址导航|学术头条分9207
-
2025年国际期刊预警名单发布!9157
-
2025年中科院期刊分区表重磅发30335
-
吉林大学校长张希:学术会议中的提10134
-
清华大学2026年CCF计算经济09-28
-
北京清华长庚医院黄天荫团队合作构09-28
-
中国农业大学资环学院刘学军教授团09-28
-
中国科大实现液晶向列比特的可重构09-28
-
研究提出丽江云杉复合体分类界定新09-28
-
新型多孔压电陶瓷研制取得进展09-28
-
研究揭示二倍半萜衍生物治疗溃疡性09-28
-
辽宁省细胞生物学学会 2807

-
河南纳智博研会议服务有限公司 2765

-
杭州译风会展服务有限公司 18706

-
中国消防协会 22010

-
中国化工企业管理协会 24627

-
香港机械工程师协会 24078

-
四川盛大会展 2672

-
河南省科学院 24137

-
应用科学与工程协会 23951

-
电子科技大学第十三届小波智能媒体 23939

-
中国国联咨询有限公司 19050

-
国际工学技术出版协会 23843

-
华南师范大学教育信息技术学院 18718

-
武汉泰迪智慧科技有限公司 23773

-
VFESVDS 21824

-
北京企升会展有限公司 24705

-
芮徕堡(上海)展览服务有限公司 24679

-
河南永城煤化工 18770

-
青岛皇冠商务会展有限公司 18713

-
沈阳博思教育 24713





















192











































