ModelScan

Qu'est-ce que ModelScan ?

ModelScan est un outil de sécurité open-source développé par Protect AI qui scanne les modèles de machine learning pour détecter les codes non sécurisés et se protéger contre les attaques de sérialisation de modèles. En tant que premier scanner de modèles ML de l'industrie supportant plusieurs formats, il examine les fichiers de modèle sans les exécuter, identifiant les codes malveillants injectés lors du processus de sérialisation. L'outil protège les utilisateurs contre le vol de credentials, le vol de données, l'empoisonnement des données et l'empoisonnement des modèles lors de l'utilisation de modèles ML provenant de diverses sources. ModelScan supporte PyTorch, TensorFlow, Keras, sklearn et XGBoost, scannant les formats H5, Pickle et SavedModel, et s'intègre de manière transparente dans les pipelines ML et CI/CD.

Fonctionnalités clés

• Support multi-formats

  Scanne les modèles dans plusieurs formats de sérialisation, notamment H5, Pickle et SavedModel, protégeant les utilisateurs travaillant avec PyTorch, TensorFlow, Keras, sklearn et XGBoost.

• Analyse statique de sécurité

  Examine les fichiers de modèle octet par octet sans exécuter le code, détectant les opérations non sécurisées et les signatures de code malveillant de manière sûre et efficace.

• Classification de la gravité des risques

  Catégorise les vulnérabilités détectées en quatre niveaux de gravité : CRITICAL, HIGH, MEDIUM et LOW, permettant une correction priorisée.

• Intégration du pipeline CI/CD

  Fonctionne de manière transparente avec les pipelines CI/CD et les workflows ML, permettant un scan de sécurité automatisé avant le déploiement, la réentraînement ou l'évaluation du modèle.

• Open source et gratuit

  Disponible en tant que projet open-source Apache 2.0 via pip install, gratuit pour tous les utilisateurs afin de sécuriser leurs workflows de machine learning.

Cas d'utilisation

• Validation de sécurité avant déploiement : Scannez tous les modèles avant le déploiement sur les endpoints pour vous assurer qu'ils n'ont pas été compromis lors du stockage ou de la transmission.
• Protection de la chaîne d'approvisionnement ML : Détectez les attaques de la chaîne d'approvisionnement en scannant les modèles pré-entraînés avant le réentraînement, le fine-tuning ou l'évaluation pour prévenir la contamination de l'environnement.
• Vérification des modèles tiers : Vérifiez la sécurité des modèles partagés depuis Internet, entre équipes ou téléchargés depuis Hugging Face avant de les charger dans les systèmes de production.
• Audit de sécurité post-entraînement : Scannez les modèles après la fin de l'entraînement pour détecter toute injection de code malveillant qui aurait pu se produire pendant le pipeline d'entraînement.
• Conformité de sécurité ML d'entreprise : Intégrez le scan automatisé des modèles dans les workflows ML d'entreprise pour respecter les exigences de conformité de sécurité pour le déploiement de logiciels AI/ML.

FAQ