ModelScan

¿Qué es ModelScan?

ModelScan es una herramienta de seguridad de código abierto desarrollada por Protect AI que escanea modelos de aprendizaje automático para detectar código inseguro y proteger contra ataques de serialización de modelos. Como el primer escáner de modelos ML de la industria que admite múltiples formatos, examina archivos de modelos sin ejecutarlos, identificando código malicioso inyectado durante el proceso de serialización. La herramienta protege a los usuarios contra robo de credenciales, robo de datos, envenenamiento de datos y envenenamiento de modelos al usar modelos ML de diversas fuentes. ModelScan admite PyTorch, TensorFlow, Keras, sklearn y XGBoost, escanea formatos H5, Pickle y SavedModel, e se integra sin problemas en pipelines ML y CI/CD.

Características Principales

• Soporte multi-formato

  Escanea modelos en múltiples formatos de serialización, incluyendo H5, Pickle y SavedModel, protegiendo a usuarios que trabajan con PyTorch, TensorFlow, Keras, sklearn y XGBoost.

• Escaneo de seguridad de análisis estático

  Examina archivos de modelos byte a byte sin ejecutar código, detectando operaciones inseguras y firmas de código malicioso de manera segura y eficiente.

• Clasificación de severidad de riesgos

  Categoriza las vulnerabilidades detectadas en cuatro niveles de severidad: CRITICAL, HIGH, MEDIUM y LOW, permitiendo remediación priorizada.

• Integración de pipeline CI/CD

  Funciona sin problemas con pipelines CI/CD y flujos de trabajo ML, permitiendo escaneo de seguridad automatizado antes del despliegue, reentrenamiento o evaluación del modelo.

• Código abierto y gratuito

  Disponible como proyecto de código abierto Apache 2.0 mediante pip install, gratuito para todos los usuarios para asegurar sus flujos de trabajo de aprendizaje automático.

Casos de Uso

• Validación de seguridad previa al despliegue : Escanee todos los modelos antes de desplegar en endpoints para asegurar que no hayan sido comprometidos durante el almacenamiento o transmisión.
• Protección de la cadena de suministro ML : Detecte ataques de cadena de suministro escaneando modelos preentrenados antes del reentrenamiento, ajuste fino o evaluación para prevenir contaminación del entorno.
• Verificación de modelos de terceros : Verifique la seguridad de modelos compartidos desde Internet, entre equipos o descargados de Hugging Face antes de cargarlos en sistemas de producción.
• Auditoría de seguridad posterior al entrenamiento : Escanee modelos después de completar el entrenamiento para detectar cualquier inyección de código malicioso que haya ocurrido durante el pipeline de entrenamiento.
• Cumplimiento de seguridad ML empresarial : Integre escaneo automatizado de modelos en flujos de trabajo ML empresariales para cumplir con los requisitos de cumplimiento de seguridad para el despliegue de software AI/ML.

Preguntas Frecuentes