ModelScan

Что такое ModelScan?

ModelScan — это инструмент безопасности с открытым исходным кодом, разработанный компанией Protect AI, который сканирует модели машинного обучения для обнаружения небезопасного кода и защиты от атак сериализации моделей. Как первый в отрасли сканер моделей ML, поддерживающий несколько форматов, он проверяет файлы моделей без их выполнения, выявляя вредоносный код, внедренный во время процесса сериализации. Инструмент защищает пользователей от кража учетных данных, кража данных, отравления данных и отравления моделей при использовании моделей ML из различных источников. ModelScan поддерживает PyTorch, TensorFlow, Keras, sklearn и XGBoost, сканирует форматы H5, Pickle и SavedModel и беспрепятственно интегрируется в ML и CI/CD Pipeline.

Ключевые функции

• Поддержка нескольких форматов

  Сканирует модели в различных форматах сериализации, включая H5, Pickle и SavedModel, защищая пользователей, работающих с PyTorch, TensorFlow, Keras, sklearn и XGBoost.

• Статический анализ безопасности

  Проверяет файлы моделей побайтово без выполнения кода, безопасно и эффективно обнаруживая небезопасные операции и сигнатуры вредоносного кода.

• Классификация серьезности рисков

  Категоризирует обнаруженные уязвимости на четыре уровня серьезности: CRITICAL, HIGH, MEDIUM и LOW, обеспечивая приоритизированное устранение.

• Интеграция с CI/CD Pipeline

  Беспрепятственно работает с CI/CD Pipeline и ML-рабочими процессами, позволяя автоматизированное сканирование безопасности перед развертыванием, переподготовкой или оценкой модели.

• Открытый исходный код и бесплатно

  Доступен как проект с открытым исходным кодом Apache 2.0 через pip install, бесплатно для всех пользователей для защиты своих рабочих процессов машинного обучения.

Варианты использования

• Проверка безопасности перед развертыванием : Сканируйте все модели перед развертыванием на конечные точки, чтобы убедиться, что они не были скомпрометированы при хранении или передаче.
• Защита цепочки поставок ML : Обнаруживайте атаки на цепочку поставок путем сканирования предварительно обученных моделей перед переподготовкой, тонкой настройкой или оценкой для предотвращения загрязнения окружающей среды.
• Проверка моделей третьих сторон : Проверяйте безопасность моделей, полученных из Интернета, обмениваемых между командами или загруженных с Hugging Face перед загрузкой в производственные системы.
• Аудит безопасности после обучения : Сканируйте модели после завершения обучения, чтобы обнаружить любое внедрение вредоносного кода, которое могло произойти во время Pipeline обучения.
• Соответствие безопасности ML на уровне предприятия : Интегрируйте автоматизированное сканирование моделей в корпоративные ML-рабочие процессы для соответствия требованиям безопасности для развертывания ПО AI/ML.

Часто задаваемые вопросы