產品概覽
ModelScan 是什麼？
ModelScan是由Protect AI開發的開源安全工具，掃描機器學習模型以偵測不安全程式碼並防止模型序列化攻擊。作為業界首個支援多種格式的ML模型掃描器，它在不執行模型的情況下檢查模型檔案，識別在序列化過程中注入的惡意程式碼。該工具保護使用者免受認證盜取、資料盜取、資料投毒和模型投毒的威脅，適用於來自各種來源的ML模型。ModelScan支援PyTorch、TensorFlow、Keras、sklearn和XGBoost框架，掃描H5、Pickle和SavedModel格式，並無縫整合到ML和CI/CD Pipeline中。
主要功能
多格式支援
掃描包括H5、Pickle和SavedModel在內的多種序列化格式的模型，保護使用PyTorch、TensorFlow、Keras、sklearn和XGBoost的使用者。
靜態分析安全掃描
逐位元組檢查模型檔案而不執行程式碼，安全高效地偵測不安全操作和惡意程式碼簽名。
風險嚴重性分類
將偵測到的漏洞分為四個嚴重級別：CRITICAL、HIGH、MEDIUM和LOW，便於優先修復。
CI/CD Pipeline整合
與CI/CD Pipeline和ML工作流無縫協作，允許在模型部署、重新訓練或評估前進行自動化安全掃描。
開源且免費
作為Apache 2.0開源專案透過pip安裝提供，所有使用者都可免費使用來保護其機器學習工作流。
使用案例
- 部署前安全驗證 : 在部署到端點前掃描所有模型，確保它們在儲存或傳輸過程中未被篡改。
- ML供應鏈保護 : 透過在重新訓練、微調或評估前掃描預訓練模型來偵測供應鏈攻擊，防止環境污染。
- 第三方模型驗證 : 在從網際網路、團隊間共享或從Hugging Face下載的模型載入到生產系統前驗證其安全性。
- 訓練後安全稽核 : 在訓練完成後掃描模型，偵測訓練Pipeline中可能發生的任何惡意程式碼注入。
- 企業ML安全合規 : 將自動化模型掃描整合到企業ML工作流中，以滿足AI/ML軟體部署的安全合規要求。
常見問題
ModelScan 的替代方案
Wasmer
一種快速、安全和通用的 WebAssembly 執行環境，透過輕量級容器使應用程式能夠在任何地方執行——本地、雲端或邊緣。
Anyscale
基於 Ray 打造的全託管統一運算平台，高效支援 AI 與 Python 應用的建置、擴展與部署。
Massed Compute
彈性隨選 GPU、CPU 雲端運算服務，提供企業級 NVIDIA GPU、價格透明與專家支援。
Beam Cloud
雲平台，實現快速部署和擴展無伺服器工作負載和容器，提供無縫的開發者體驗。
Plural.sh
一個可擴展的 Kubernetes 管理平台，提供艦隊級 GitOps 自動化、基礎設施即程式碼和自助服務佈建。
ClearML
開源、統一的AI平台，管理從資料到模型部署與協調的全機器學習生命週期。
Qovery
DevOps 自動化平台，透過 Kubernetes 抽象層，簡化雲端基礎架構佈建與應用程式部署。
Bunnyshell
自動化環境管理和部署工作流程的平台，加速軟體交付的同時降低雲端成本和營運開銷。