ModelScan

O que é ModelScan?

ModelScan é uma ferramenta de segurança de código aberto desenvolvida pela Protect AI que escaneia modelos de aprendizado de máquina para detectar código inseguro e proteger contra ataques de serialização de modelos. Como o primeiro scanner de modelos ML da indústria que suporta múltiplos formatos, ele examina arquivos de modelo sem executá-los, identificando código malicioso injetado durante o processo de serialização. A ferramenta protege os usuários contra roubo de credenciais, roubo de dados, envenenamento de dados e envenenamento de modelos ao usar modelos ML de várias fontes. ModelScan suporta PyTorch, TensorFlow, Keras, sklearn e XGBoost, escaneia formatos H5, Pickle e SavedModel, e se integra perfeitamente em pipelines ML e CI/CD.

Recursos Principais

• Suporte multi-formato

  Escaneia modelos em múltiplos formatos de serialização, incluindo H5, Pickle e SavedModel, protegendo usuários que trabalham com PyTorch, TensorFlow, Keras, sklearn e XGBoost.

• Escaneamento de segurança com análise estática

  Examina arquivos de modelo byte a byte sem executar código, detectando operações inseguras e assinaturas de código malicioso com segurança e eficiência.

• Classificação de severidade de risco

  Categoriza vulnerabilidades detectadas em quatro níveis de severidade: CRITICAL, HIGH, MEDIUM e LOW, permitindo remediação priorizada.

• Integração de pipeline CI/CD

  Funciona perfeitamente com pipelines CI/CD e fluxos de trabalho ML, permitindo escaneamento de segurança automatizado antes da implantação, retreinamento ou avaliação do modelo.

• Código aberto e gratuito

  Disponível como projeto de código aberto Apache 2.0 via pip install, gratuito para todos os usuários para proteger seus fluxos de trabalho de aprendizado de máquina.

Casos de Uso

• Validação de segurança pré-implantação : Escaneia todos os modelos antes de implantar em endpoints para garantir que não foram comprometidos durante armazenamento ou transmissão.
• Proteção da cadeia de suprimentos ML : Detecta ataques na cadeia de suprimentos escaneando modelos pré-treinados antes de retreinamento, ajuste fino ou avaliação para prevenir contaminação do ambiente.
• Verificação de modelos de terceiros : Verifica a segurança de modelos compartilhados da internet, entre equipes ou baixados do Hugging Face antes de carregá-los em sistemas de produção.
• Auditoria de segurança pós-treinamento : Escaneia modelos após a conclusão do treinamento para detectar qualquer injeção de código malicioso que possa ter ocorrido durante o pipeline de treinamento.
• Conformidade de segurança ML empresarial : Integra escaneamento automatizado de modelos em fluxos de trabalho ML empresariais para atender aos requisitos de conformidade de segurança para implantação de software AI/ML.

Perguntas Frequentes