ModelScan

ModelScan 是什麼？

ModelScan是由Protect AI開發的開源安全工具，掃描機器學習模型以偵測不安全程式碼並防止模型序列化攻擊。作為業界首個支援多種格式的ML模型掃描器，它在不執行模型的情況下檢查模型檔案，識別在序列化過程中注入的惡意程式碼。該工具保護使用者免受認證盜取、資料盜取、資料投毒和模型投毒的威脅，適用於來自各種來源的ML模型。ModelScan支援PyTorch、TensorFlow、Keras、sklearn和XGBoost框架，掃描H5、Pickle和SavedModel格式，並無縫整合到ML和CI/CD Pipeline中。

主要功能

• 多格式支援

  掃描包括H5、Pickle和SavedModel在內的多種序列化格式的模型，保護使用PyTorch、TensorFlow、Keras、sklearn和XGBoost的使用者。

• 靜態分析安全掃描

  逐位元組檢查模型檔案而不執行程式碼，安全高效地偵測不安全操作和惡意程式碼簽名。

• 風險嚴重性分類

  將偵測到的漏洞分為四個嚴重級別：CRITICAL、HIGH、MEDIUM和LOW，便於優先修復。

• CI/CD Pipeline整合

  與CI/CD Pipeline和ML工作流無縫協作，允許在模型部署、重新訓練或評估前進行自動化安全掃描。

• 開源且免費

  作為Apache 2.0開源專案透過pip安裝提供，所有使用者都可免費使用來保護其機器學習工作流。

使用案例

• 部署前安全驗證 : 在部署到端點前掃描所有模型，確保它們在儲存或傳輸過程中未被篡改。
• ML供應鏈保護 : 透過在重新訓練、微調或評估前掃描預訓練模型來偵測供應鏈攻擊，防止環境污染。
• 第三方模型驗證 : 在從網際網路、團隊間共享或從Hugging Face下載的模型載入到生產系統前驗證其安全性。
• 訓練後安全稽核 : 在訓練完成後掃描模型，偵測訓練Pipeline中可能發生的任何惡意程式碼注入。
• 企業ML安全合規 : 將自動化模型掃描整合到企業ML工作流中，以滿足AI/ML軟體部署的安全合規要求。

常見問題