ModelScan
Open-Source-ML-Modell-Sicherheitsscanner, der unsicheren Code in mehreren Modellformaten erkennt, um Serialisierungsangriffe zu verhindern.
Produktübersicht
Was ist ModelScan?
ModelScan ist ein von Protect AI entwickeltes Open-Source-Sicherheitstool, das Machine-Learning-Modelle scannt, um unsicheren Code zu erkennen und vor Modellserialisierungsangriffen zu schützen. Als der erste ML-Modell-Scanner der Branche, der mehrere Formate unterstützt, untersucht er Modelldateien, ohne sie auszuführen, und identifiziert bösartigen Code, der während des Serialisierungsprozesses eingefügt wurde. Das Tool schützt Benutzer vor Credential-Diebstahl, Datendiebstahl, Datenvergiftung und Modellvergiftung bei der Verwendung von ML-Modellen aus verschiedenen Quellen. ModelScan unterstützt PyTorch, TensorFlow, Keras, sklearn und XGBoost, scannt H5-, Pickle- und SavedModel-Formate und lässt sich nahtlos in ML- und CI/CD-Pipelines integrieren.
Hauptfunktionen
Multi-Format-Unterstützung
Scannt Modelle in mehreren Serialisierungsformaten, einschließlich H5, Pickle und SavedModel, und schützt Benutzer, die mit PyTorch, TensorFlow, Keras, sklearn und XGBoost arbeiten.
Statische Analyse-Sicherheitsprüfung
Untersucht Modelldateien Byte für Byte, ohne Code auszuführen, und erkennt unsichere Operationen und bösartige Code-Signaturen sicher und effizient.
Risiko-Schweregrad-Klassifizierung
Kategorisiert erkannte Schwachstellen in vier Schweregrade: CRITICAL, HIGH, MEDIUM und LOW, um eine priorisierte Behebung zu ermöglichen.
CI/CD-Pipeline-Integration
Funktioniert nahtlos mit CI/CD-Pipelines und ML-Workflows und ermöglicht automatisierte Sicherheitsprüfungen vor Modellbereitstellung, Umschulung oder Evaluierung.
Open Source und kostenlos
Verfügbar als Apache 2.0 Open-Source-Projekt über pip install, kostenlos für alle Benutzer zur Sicherung ihrer Machine-Learning-Workflows.
Anwendungsfälle
- Sicherheitsvalidierung vor der Bereitstellung : Scannen Sie alle Modelle vor der Bereitstellung auf Endpoints, um sicherzustellen, dass sie während der Speicherung oder Übertragung nicht kompromittiert wurden.
- ML-Lieferkettenschutz : Erkennen Sie Lieferketten-Angriffe durch Scannen vortrainierter Modelle vor Umschulung, Fine-Tuning oder Evaluierung, um Umgebungskontamination zu verhindern.
- Verifizierung von Drittanbieter-Modellen : Überprüfen Sie die Sicherheit von Modellen, die aus dem Internet, zwischen Teams oder von Hugging Face heruntergeladen wurden, bevor Sie sie in Produktionssysteme laden.
- Sicherheitsprüfung nach dem Training : Scannen Sie Modelle nach Abschluss des Trainings, um bösartige Code-Injektionen zu erkennen, die während der Training-Pipeline aufgetreten sein könnten.
- Enterprise-ML-Sicherheitskonformität : Integrieren Sie automatisierte Modellprüfungen in Enterprise-ML-Workflows, um Sicherheitskonformitätsanforderungen für die AI/ML-Softwarebereitstellung zu erfüllen.
Häufig gestellte Fragen
ModelScan Alternativen
Wasmer
Eine schnelle, sichere und universelle WebAssembly-Laufzeitumgebung, die es leichtgewichtigen Containern ermöglicht, Anwendungen überall auszuführen – lokal, in der Cloud oder am Edge.
Moshi
Mobiles Terminal und Agent-Monitor, der sich per SSH, Mosh und ET mit Remote-Rechnern verbindet, um CLI-Workflows vom Smartphone aus zu verwalten.
Beam Cloud
Cloud-Plattform, die schnelle Bereitstellung und Skalierung von serverlosen Workloads und Containern mit nahtloser Entwicklererfahrung ermöglicht.
Zeabur
Entwicklerzentrierte PaaS mit One-Click-Bereitstellung, automatischem Skalieren und integriertem Service-Management für alle Programmiersprachen und Frameworks.
Anyscale
Eine vollständig verwaltete, einheitliche Compute-Plattform auf Basis von Ray für effizientes Entwickeln, Skalieren und Bereitstellen von KI- und Python-Anwendungen.
Plural.sh
Eine skalierbare Kubernetes-Verwaltungsplattform, die flottenweite GitOps-Automatisierung, Infrastructure-as-Code und Self-Service-Bereitstellung bietet.
ClearML
Open-Source, einheitliche KI-Plattform zur Verwaltung des gesamten Machine-Learning-Lebenszyklus von Datenmanagement bis zur Modellbereitstellung und -orchestrierung.
Qovery
DevOps-Automatisierungsplattform, die die Bereitstellung von Cloud-Infrastruktur und Anwendungen mit Kubernetes-Abstraktion vereinfacht.