近日，图灵奖得主、清华大学人工智能学院院长姚期智联合图灵奖得主约书亚·本吉奥（Yoshua Bengio）、清华大学智能产业研究院院长张亚勤、加州大学伯克利分校教授斯图尔特·罗素（Stuart Russell）等多位全球顶尖人工智能科学家齐聚英国，联合签署《IDAIS伦敦宣言》，共同探讨如何防范人工智能驱动的攻击行为对社会造成大范围危害。本次活动是人工智能安全国际对话（IDAIS）系列的第五场会议，由安全人工智能论坛（Safe AI Forum）与牛津大学马丁人工智能治理研究院联合主办。

第一排前四为人工智能安全国际对话（IDAIS）发起人，从左至右依次为斯图尔特·罗素、姚期智、约书亚·本吉奥、张亚勤

为期三天的会议中，与会科学家与治理领域专家共同拟定并签署了一份共识声明。声明呼吁各国正视人工智能网络攻击、生物滥用技术不断扩散所带来的共同威胁，并携手开展协同防范工作。

声明警示，按照当前发展趋势，技术能力有限的非国家行为体，有望在一年内掌握部分国家级网络攻击手段，将对关键基础设施与国家安全造成前所未有的风险。目前全球社会尚未做好应对这一紧迫威胁的准备，而生物领域的滥用风险也接踵而至。

声明还针对两大风险领域明确了工作重点：守护关键基础设施、强化前沿人工智能模型的安全防护、建立完善的风险评估体系。声明同时提醒，网络领域当下出现的乱象，也为生物安全风险和未来更多挑战敲响了警钟，其中就包括逐步走向自主化的人工智能系统可能出现失控的问题。

会议现场

“声明”签署者列表

人工智能安全国际对话（IDAIS）汇聚全球顶尖科学家，旨在携手共同应对人工智能带来的各类风险。2023年10月举办的首场对话由姚期智、约书亚·本吉奥、张亚勤、斯图尔特·罗素共同发起。截至目前，人工智能安全国际对话（IDAIS）已经举行五场，分别为2023年IDAIS-牛津、2024年IDAIS-北京、2024年IDAIS-威尼斯、2025年IDAIS-上海、2026年IDAIS-伦敦。

安全人工智能论坛（Safe AI Forum）代表团与人工智能学院专家开展研讨

今年3月，人工智能安全国际对话（IDAIS）主办方安全人工智能论坛（Safe AI Forum）首席执行官芬恩?海德（Fynn Heide）率代表团访问清华大学人工智能学院，与姚期智及学院相关领域专家围绕AI安全重要议题展开学术交流与研讨。

AI安全是人工智能学院重点布局的核心学科方向之一。清华大学人工智能学院长期聚焦该领域前沿研究与人才培养，持续推进相关理论探索、技术攻关与国际合作。