ModelScan

什么是ModelScan？

ModelScan是由Protect AI开发的开源安全工具，扫描机器学习模型以检测不安全代码并防止模型序列化攻击。作为业界首个支持多种格式的ML模型扫描器，它在不执行模型的情况下检查模型文件，识别在序列化过程中注入的恶意代码。该工具保护用户免受凭证盗取、数据盗取、数据投毒和模型投毒的威胁，适用于来自各种来源的ML模型。ModelScan支持PyTorch、TensorFlow、Keras、sklearn和XGBoost框架，扫描H5、Pickle和SavedModel格式，并无缝集成到ML和CI/CD Pipeline中。

主要功能

• 多格式支持

  扫描包括H5、Pickle和SavedModel在内的多种序列化格式的模型，保护使用PyTorch、TensorFlow、Keras、sklearn和XGBoost的用户。

• 静态分析安全扫描

  逐字节检查模型文件而不执行代码，安全高效地检测不安全操作和恶意代码签名。

• 风险严重性分类

  将检测到的漏洞分为四个严重级别：CRITICAL、HIGH、MEDIUM和LOW，便于优先修复。

• CI/CD Pipeline集成

  与CI/CD Pipeline和ML工作流无缝协作，允许在模型部署、重新训练或评估前进行自动化安全扫描。

• 开源且免费

  作为Apache 2.0开源项目通过pip安装提供，所有用户都可免费使用来保护其机器学习工作流。

使用场景

• 部署前安全验证 : 在部署到端点前扫描所有模型，确保它们在存储或传输过程中未被篡改。
• ML供应链保护 : 通过在重新训练、微调或评估前扫描预训练模型来检测供应链攻击，防止环境污染。
• 第三方模型验证 : 在从互联网、团队间共享或从Hugging Face下载的模型加载到生产系统前验证其安全性。
• 训练后安全审计 : 在训练完成后扫描模型，检测训练Pipeline中可能发生的任何恶意代码注入。
• 企业ML安全合规 : 将自动化模型扫描集成到企业ML工作流中，以满足AI/ML软件部署的安全合规要求。

常见问题