五眼联盟就AI模型攻击政府与企业发表联合声明
五眼联盟(美国、英国、澳大利亚、加拿大和新西兰)的网络安全机构发布联合声明,警告人工智能模型可能被恶意使用,对政府和企业的关键基础设施构成重大威胁。声明强调,AI技术的快速发展为网络攻击提供了新的工具和手段,各成员国需加强合作,共同防御基于AI的恶意活动,保护国家安全和经济利益。
背景速读
- **Five Eyes(五眼联盟)** 是由美国、英国、加拿大、澳大利亚和新西兰组成的情报共享联盟,其网络安全机构定期联合发布技术警告。
- 这份联合声明的核心主张是:当前主流AI模型(如大语言模型)存在安全漏洞,攻击者可利用AI模型发动针对政府系统和关键基础设施的大规模攻击,甚至导致服务瘫痪。
- 背景:近年来,西方国家(尤其是五眼联盟成员国)的政府机构、能源公司和医院屡遭勒索软件和数据泄露攻击。此次声明将AI系统视为潜在攻击跳板,而非仅仅防御工具。
- 声明指向“前沿AI模型”——主要指GPT-4、Claude等具备代码生成和推理能力的基础模型,认为其能力可能被恶意用于自动化网络攻击,包括漏洞挖掘、钓鱼邮件生成和恶意软件编写。
- 这是五眼联盟首次专门针对AI模型的安全风险发布联合立场文件,反映各国政府对AI安全治理的紧迫关注,也为未来可能出台的监管政策铺垫技术依据。