文章导读
你是否觉得AI风险离自己还很遥远？当图灵奖得主姚期智、本吉奥等顶尖科学家紧急联合签署《IDAIS伦敦宣言》，情况可能比你想象的紧迫得多。他们的核心警告让人后背发凉：按照现在的发展速度，一年内，那些技术能力有限的非国家行为体，就能掌握原本只有国家级力量才拥有的网络攻击手段，直接威胁关键基础设施。全球社会目前对此几乎毫无防备，而生物领域的滥用风险也紧随其后。这份宣言里到底藏着一个怎样的时间表？你准备好面对一个AI可能被轻易武器化的世界了吗？
— 内容由好学术AI分析文章内容生成，仅供参考。
近日，图灵奖得主、清华大学人工智能学院院长姚期智联合图灵奖得主约书亚·本吉奥（Yoshua Bengio）、清华大学智能产业研究院院长张亚勤、加州大学伯克利分校教授斯图尔特·罗素（Stuart Russell）等多位全球顶尖人工智能科学家齐聚英国，联合签署《IDAIS伦敦宣言》，共同探讨如何防范人工智能驱动的攻击行为对社会造成大范围危害。本次活动是人工智能安全国际对话（IDAIS）系列的第五场会议，由安全人工智能论坛（Safe AI Forum）与牛津大学马丁人工智能治理研究院联合主办。
第一排前四为人工智能安全国际对话（IDAIS）发起人，从左至右依次为斯图尔特·罗素、姚期智、约书亚·本吉奥、张亚勤
为期三天的会议中，与会科学家与治理领域专家共同拟定并签署了一份共识声明。声明呼吁各国正视人工智能网络攻击、生物滥用技术不断扩散所带来的共同威胁，并携手开展协同防范工作。
声明警示，按照当前发展趋势，技术能力有限的非国家行为体，有望在一年内掌握部分国家级网络攻击手段，将对关键基础设施与国家安全造成前所未有的风险。目前全球社会尚未做好应对这一紧迫威胁的准备，而生物领域的滥用风险也接踵而至。
声明还针对两大风险领域明确了工作重点：守护关键基础设施、强化前沿人工智能模型的安全防护、建立完善的风险评估体系。声明同时提醒，网络领域当下出现的乱象，也为生物安全风险和未来更多挑战敲响了警钟，其中就包括逐步走向自主化的人工智能系统可能出现失控的问题。
会议现场
“声明”签署者列表
人工智能安全国际对话（IDAIS）汇聚全球顶尖科学家，旨在携手共同应对人工智能带来的各类风险。2023年10月举办的首场对话由姚期智、约书亚·本吉奥、张亚勤、斯图尔特·罗素共同发起。截至目前，人工智能安全国际对话（IDAIS）已经举行五场，分别为2023年IDAIS-牛津、2024年IDAIS-北京、2024年IDAIS-威尼斯、2025年IDAIS-上海、2026年IDAIS-伦敦。
安全人工智能论坛（Safe AI Forum）代表团与人工智能学院专家开展研讨
今年3月，人工智能安全国际对话（IDAIS）主办方安全人工智能论坛（Safe AI Forum）首席执行官芬恩・海德（Fynn Heide）率代表团访问清华大学人工智能学院，与姚期智及学院相关领域专家围绕AI安全重要议题展开学术交流与研讨。
AI安全是人工智能学院重点布局的核心学科方向之一。清华大学人工智能学院长期聚焦该领域前沿研究与人才培养，持续推进相关理论探索、技术攻关与国际合作。
供稿：智能产业研究院、人工智能学院
编辑：刘芳芳
审核：郭玲
© 版权声明
本文由分享者转载或发布，内容仅供学习和交流，版权归原文作者所有。如有侵权，请留言联系更正或删除。
相关文章
感觉现在技术跑太快，监管根本跟不上节奏。
又是宣言又是共识，实际执行起来难不难？
以前总觉得AI离失控很远，现在看是近在眼前了。
姚期智和张亚勤都在，这阵容够硬核的。
关键基础设施要是真被攻破，后果不敢想😰。
看着挺热闹，具体啥时候能出点硬措施啊？
生物滥用这块风险确实被低估了，得赶紧管管。
非国家行为体一年就能搞国家级攻击？这速度太吓人了吧。
大佬们终于坐到一起谈安全了，希望别光开会不落地。