ModelScan
オープンソースMLモデルセキュリティスキャナーで、複数のモデル形式の安全でないコードを検出してシリアライゼーション攻撃を防止します。
製品概要
ModelScanとは？
ModelScanはProtect AIによって開発されたオープンソースセキュリティツールで、機械学習モデルをスキャンして安全でないコードを検出し、モデルシリアライゼーション攻撃から保護します。複数の形式に対応する業界初のMLモデルスキャナーとして、モデルを実行せずにモデルファイルを検査し、シリアライゼーション過程中に注入された悪意のあるコードを識別します。このツールは、様々なソースのMLモデルを使用する際に、認証情報の盗難、データの盗難、データポイズニング、モデルポイズニングからユーザーを保護します。ModelScanはPyTorch、TensorFlow、Keras、sklearn、XGBoostフレームワークに対応し、H5、Pickle、SavedModel形式をスキャンし、MLおよびCI/CDパイプラインにシームレスに統合されます。
主な機能
マルチフォーマット対応
H5、Pickle、SavedModelを含む複数のシリアライゼーション形式のモデルをスキャンし、PyTorch、TensorFlow、Keras、sklearn、XGBoostを使用するユーザーを保護します。
静的分析セキュリティスキャン
コードを実行せずにモデルファイルをバイト単位で検査し、安全でない操作と悪意のあるコード署名を安全かつ効率的に検出します。
リスク重大度分類
検出された脆弱性をCRITICAL、HIGH、MEDIUM、LOWの4つの重大度レベルに分類し、優先順位付きの修復を可能にします。
CI/CDパイプライン統合
CI/CDパイプラインとMLワークフローとシームレスに連携し、モデルのデプロイ、再トレーニング、または評価前に自動化されたセキュリティスキャンを実現します。
オープンソースで無料
Apache 2.0オープンソースプロジェクトとしてpip installで提供され、すべてのユーザーが機械学習ワークフローを保護するために無料で使用できます。
ユースケース
- デプロイ前のセキュリティ検証 : デプロイ前にすべてのモデルをスキャンして、保存または転送中に改ざんされていないことを確認します。
- ML供給チェーン保護 : 再トレーニング、ファインチューニング、または評価前に事前学習済みモデルをスキャンして、供給チェーン攻撃を検出し、環境汚染を防止します。
- サードパーティモデル検証 : インターネットから共有されたり、Hugging Faceからダウンロードされたモデルを本番システムに読み込む前にセキュリティを検証します。
- トレーニング後のセキュリティ監査 : トレーニング完了後にモデルをスキャンして、トレーニングパイプライン中に発生した悪意のあるコード注入を検出します。
- エンタープライズMLセキュリティコンプライアンス : 自動化されたモデルスキャンをエンタープライズMLワークフローに統合して、AI/MLソフトウェアデプロイのセキュリティコンプライアンス要件を満たします。
よくある質問
ModelScanの代替品
Wasmer
軽量コンテナを通じてアプリケーションをローカル、クラウド、またはエッジのどこでも実行できる、高速で安全、そして汎用的なWebAssemblyランタイムです。
Moshi
SSH、Mosh、ET でリモートマシンに接続するモバイルターミナル兼 Agent モニタリングアプリ。スマートフォンから CLI ワークフローを管理できます。
Beam Cloud
サーバーレスワークロードとコンテナの迅速なデプロイとスケーリングを可能にし、シームレスな開発者体験を提供するクラウドプラットフォーム。
Zeabur
開発者中心のPaaSで、ワンクリックデプロイ、自動スケーリング、全ての言語・フレームワーク対応の統合サービス管理を実現します。
Anyscale
Ray上に構築された、AIおよびPythonアプリケーションの構築・スケーリング・デプロイを効率的に行うためのフルマネージド型統合コンピュートプラットフォームです。
Plural.sh
フリート全体の GitOps 自動化、インフラストラクチャ・アズ・コード、セルフサービスプロビジョニングを提供するスケーラブルな Kubernetes 管理プラットフォームです。
ClearML
データ管理からモデルデプロイ・オーケストレーションまで、機械学習ライフサイクル全体を管理するオープンソースの統合AIプラットフォーム。
Qovery
Kubernetes抽象化でクラウドインフラの構築とアプリデプロイを簡素化するDevOps自動化プラットフォーム。