產品概覽
ModelScan 是什麼？
ModelScan是由Protect AI開發的開源安全工具，掃描機器學習模型以偵測不安全程式碼並防止模型序列化攻擊。作為業界首個支援多種格式的ML模型掃描器，它在不執行模型的情況下檢查模型檔案，識別在序列化過程中注入的惡意程式碼。該工具保護使用者免受認證盜取、資料盜取、資料投毒和模型投毒的威脅，適用於來自各種來源的ML模型。ModelScan支援PyTorch、TensorFlow、Keras、sklearn和XGBoost框架，掃描H5、Pickle和SavedModel格式，並無縫整合到ML和CI/CD Pipeline中。
主要功能
多格式支援
掃描包括H5、Pickle和SavedModel在內的多種序列化格式的模型，保護使用PyTorch、TensorFlow、Keras、sklearn和XGBoost的使用者。
靜態分析安全掃描
逐位元組檢查模型檔案而不執行程式碼，安全高效地偵測不安全操作和惡意程式碼簽名。
風險嚴重性分類
將偵測到的漏洞分為四個嚴重級別：CRITICAL、HIGH、MEDIUM和LOW，便於優先修復。
CI/CD Pipeline整合
與CI/CD Pipeline和ML工作流無縫協作，允許在模型部署、重新訓練或評估前進行自動化安全掃描。
開源且免費
作為Apache 2.0開源專案透過pip安裝提供，所有使用者都可免費使用來保護其機器學習工作流。
使用案例
- 部署前安全驗證 : 在部署到端點前掃描所有模型，確保它們在儲存或傳輸過程中未被篡改。
- ML供應鏈保護 : 透過在重新訓練、微調或評估前掃描預訓練模型來偵測供應鏈攻擊，防止環境污染。
- 第三方模型驗證 : 在從網際網路、團隊間共享或從Hugging Face下載的模型載入到生產系統前驗證其安全性。
- 訓練後安全稽核 : 在訓練完成後掃描模型，偵測訓練Pipeline中可能發生的任何惡意程式碼注入。
- 企業ML安全合規 : 將自動化模型掃描整合到企業ML工作流中，以滿足AI/ML軟體部署的安全合規要求。
常見問題
ModelScan 的替代方案
Penligent
一個自主滲透測試平台，在統一的安全生態系統中結合漏洞偵測、漏洞利用自動化和智慧紅隊功能。
TestSprite
AI 智能代理驅動的自動化測試平台，能以極少人工介入自動化前後端軟體測試。
LambdaTest
雲端持續品質測試平台，支援跨瀏覽器與真實裝置測試，加速開發並提升數位體驗品質。
Testim.io
AI 驅動的自動化測試平台，支援無需程式碼的建立、維護與執行網頁及行動測試，具備自癒能力。
accessiBe
AI自動化網頁無障礙解決方案，協助網站自動符合法規，讓身心障礙者也能無障礙瀏覽。
mabl
AI 驅動、低程式碼的自動化測試平台，提供可擴展、統一的端對端測試，涵蓋 Web、行動、API、無障礙與效能。
Ragas
專為RAG（檢索增強生成）與LLM應用打造的開源評測與測試框架，功能全面。
Confident AI
全方位雲端平台，提供LLM應用評測、基準測試與安全防護，支援自訂指標與協作工作流程。
ModelScan 網站分析
Others: 100%