揭秘AI应用在预训练模型中心的安全风险
本文系统性地剖析了基于预训练模型中心构建的AI应用所面临的安全威胁。研究揭示了模型中心生态系统中存在的多重风险，包括恶意模型注入、后门攻击、供应链漏洞以及数据泄露等问题。通过深入分析这些安全挑战，本文为开发者和平台运营者提供了关键的防护策略与最佳实践建议。
背景速读
- 预训练模型（Pre-trained models）是已经被大规模数据训练好的AI模型（如GPT、BERT），开发者可以直接下载使用或微调，无需从头训练。
- 模型中心（Model hubs）如Hugging Face、TensorFlow Hub是托管这些模型的开源平台，类似AI领域的"GitHub"。
- 本文揭露的"供应链攻击"（supply chain attack）路径：恶意上传者将带后门的模型伪装成热门模型上传到模型中心，用户下载使用后，模型会在本地设备执行恶意代码——而非仅做推理（inference）。
- 关键漏洞：Python pickle序列化格式在加载模型时能自动执行任意代码（deserialization attack），而许多主流框架默认使用pickle处理模型文件。
- 此前已有类似安全问题：2024年Hugging Face发现多个含恶意payload的模型；美国政府也发布过关于AI供应链安全的警告。