ModelScan

Was ist ModelScan?

ModelScan ist ein von Protect AI entwickeltes Open-Source-Sicherheitstool, das Machine-Learning-Modelle scannt, um unsicheren Code zu erkennen und vor Modellserialisierungsangriffen zu schützen. Als der erste ML-Modell-Scanner der Branche, der mehrere Formate unterstützt, untersucht er Modelldateien, ohne sie auszuführen, und identifiziert bösartigen Code, der während des Serialisierungsprozesses eingefügt wurde. Das Tool schützt Benutzer vor Credential-Diebstahl, Datendiebstahl, Datenvergiftung und Modellvergiftung bei der Verwendung von ML-Modellen aus verschiedenen Quellen. ModelScan unterstützt PyTorch, TensorFlow, Keras, sklearn und XGBoost, scannt H5-, Pickle- und SavedModel-Formate und lässt sich nahtlos in ML- und CI/CD-Pipelines integrieren.

Hauptfunktionen

• Multi-Format-Unterstützung

  Scannt Modelle in mehreren Serialisierungsformaten, einschließlich H5, Pickle und SavedModel, und schützt Benutzer, die mit PyTorch, TensorFlow, Keras, sklearn und XGBoost arbeiten.

• Statische Analyse-Sicherheitsprüfung

  Untersucht Modelldateien Byte für Byte, ohne Code auszuführen, und erkennt unsichere Operationen und bösartige Code-Signaturen sicher und effizient.

• Risiko-Schweregrad-Klassifizierung

  Kategorisiert erkannte Schwachstellen in vier Schweregrade: CRITICAL, HIGH, MEDIUM und LOW, um eine priorisierte Behebung zu ermöglichen.

• CI/CD-Pipeline-Integration

  Funktioniert nahtlos mit CI/CD-Pipelines und ML-Workflows und ermöglicht automatisierte Sicherheitsprüfungen vor Modellbereitstellung, Umschulung oder Evaluierung.

• Open Source und kostenlos

  Verfügbar als Apache 2.0 Open-Source-Projekt über pip install, kostenlos für alle Benutzer zur Sicherung ihrer Machine-Learning-Workflows.

Anwendungsfälle

• Sicherheitsvalidierung vor der Bereitstellung : Scannen Sie alle Modelle vor der Bereitstellung auf Endpoints, um sicherzustellen, dass sie während der Speicherung oder Übertragung nicht kompromittiert wurden.
• ML-Lieferkettenschutz : Erkennen Sie Lieferketten-Angriffe durch Scannen vortrainierter Modelle vor Umschulung, Fine-Tuning oder Evaluierung, um Umgebungskontamination zu verhindern.
• Verifizierung von Drittanbieter-Modellen : Überprüfen Sie die Sicherheit von Modellen, die aus dem Internet, zwischen Teams oder von Hugging Face heruntergeladen wurden, bevor Sie sie in Produktionssysteme laden.
• Sicherheitsprüfung nach dem Training : Scannen Sie Modelle nach Abschluss des Trainings, um bösartige Code-Injektionen zu erkennen, die während der Training-Pipeline aufgetreten sein könnten.
• Enterprise-ML-Sicherheitskonformität : Integrieren Sie automatisierte Modellprüfungen in Enterprise-ML-Workflows, um Sicherheitskonformitätsanforderungen für die AI/ML-Softwarebereitstellung zu erfüllen.

Häufig gestellte Fragen