ModelScan

ModelScanとは？

ModelScanはProtect AIによって開発されたオープンソースセキュリティツールで、機械学習モデルをスキャンして安全でないコードを検出し、モデルシリアライゼーション攻撃から保護します。複数の形式に対応する業界初のMLモデルスキャナーとして、モデルを実行せずにモデルファイルを検査し、シリアライゼーション過程中に注入された悪意のあるコードを識別します。このツールは、様々なソースのMLモデルを使用する際に、認証情報の盗難、データの盗難、データポイズニング、モデルポイズニングからユーザーを保護します。ModelScanはPyTorch、TensorFlow、Keras、sklearn、XGBoostフレームワークに対応し、H5、Pickle、SavedModel形式をスキャンし、MLおよびCI/CDパイプラインにシームレスに統合されます。

主な機能

• マルチフォーマット対応

  H5、Pickle、SavedModelを含む複数のシリアライゼーション形式のモデルをスキャンし、PyTorch、TensorFlow、Keras、sklearn、XGBoostを使用するユーザーを保護します。

• 静的分析セキュリティスキャン

  コードを実行せずにモデルファイルをバイト単位で検査し、安全でない操作と悪意のあるコード署名を安全かつ効率的に検出します。

• リスク重大度分類

  検出された脆弱性をCRITICAL、HIGH、MEDIUM、LOWの4つの重大度レベルに分類し、優先順位付きの修復を可能にします。

• CI/CDパイプライン統合

  CI/CDパイプラインとMLワークフローとシームレスに連携し、モデルのデプロイ、再トレーニング、または評価前に自動化されたセキュリティスキャンを実現します。

• オープンソースで無料

  Apache 2.0オープンソースプロジェクトとしてpip installで提供され、すべてのユーザーが機械学習ワークフローを保護するために無料で使用できます。

ユースケース

• デプロイ前のセキュリティ検証 : デプロイ前にすべてのモデルをスキャンして、保存または転送中に改ざんされていないことを確認します。
• ML供給チェーン保護 : 再トレーニング、ファインチューニング、または評価前に事前学習済みモデルをスキャンして、供給チェーン攻撃を検出し、環境汚染を防止します。
• サードパーティモデル検証 : インターネットから共有されたり、Hugging Faceからダウンロードされたモデルを本番システムに読み込む前にセキュリティを検証します。
• トレーニング後のセキュリティ監査 : トレーニング完了後にモデルをスキャンして、トレーニングパイプライン中に発生した悪意のあるコード注入を検出します。
• エンタープライズMLセキュリティコンプライアンス : 自動化されたモデルスキャンをエンタープライズMLワークフローに統合して、AI/MLソフトウェアデプロイのセキュリティコンプライアンス要件を満たします。

よくある質問