ModelScan
Сканер безопасности моделей ML с открытым исходным кодом, обнаруживающий небезопасный код в различных форматах моделей для предотвращения атак сериализации.
Обзор продукта
Что такое ModelScan?
ModelScan — это инструмент безопасности с открытым исходным кодом, разработанный компанией Protect AI, который сканирует модели машинного обучения для обнаружения небезопасного кода и защиты от атак сериализации моделей. Как первый в отрасли сканер моделей ML, поддерживающий несколько форматов, он проверяет файлы моделей без их выполнения, выявляя вредоносный код, внедренный во время процесса сериализации. Инструмент защищает пользователей от кража учетных данных, кража данных, отравления данных и отравления моделей при использовании моделей ML из различных источников. ModelScan поддерживает PyTorch, TensorFlow, Keras, sklearn и XGBoost, сканирует форматы H5, Pickle и SavedModel и беспрепятственно интегрируется в ML и CI/CD Pipeline.
Ключевые функции
Поддержка нескольких форматов
Сканирует модели в различных форматах сериализации, включая H5, Pickle и SavedModel, защищая пользователей, работающих с PyTorch, TensorFlow, Keras, sklearn и XGBoost.
Статический анализ безопасности
Проверяет файлы моделей побайтово без выполнения кода, безопасно и эффективно обнаруживая небезопасные операции и сигнатуры вредоносного кода.
Классификация серьезности рисков
Категоризирует обнаруженные уязвимости на четыре уровня серьезности: CRITICAL, HIGH, MEDIUM и LOW, обеспечивая приоритизированное устранение.
Интеграция с CI/CD Pipeline
Беспрепятственно работает с CI/CD Pipeline и ML-рабочими процессами, позволяя автоматизированное сканирование безопасности перед развертыванием, переподготовкой или оценкой модели.
Открытый исходный код и бесплатно
Доступен как проект с открытым исходным кодом Apache 2.0 через pip install, бесплатно для всех пользователей для защиты своих рабочих процессов машинного обучения.
Варианты использования
- Проверка безопасности перед развертыванием : Сканируйте все модели перед развертыванием на конечные точки, чтобы убедиться, что они не были скомпрометированы при хранении или передаче.
- Защита цепочки поставок ML : Обнаруживайте атаки на цепочку поставок путем сканирования предварительно обученных моделей перед переподготовкой, тонкой настройкой или оценкой для предотвращения загрязнения окружающей среды.
- Проверка моделей третьих сторон : Проверяйте безопасность моделей, полученных из Интернета, обмениваемых между командами или загруженных с Hugging Face перед загрузкой в производственные системы.
- Аудит безопасности после обучения : Сканируйте модели после завершения обучения, чтобы обнаружить любое внедрение вредоносного кода, которое могло произойти во время Pipeline обучения.
- Соответствие безопасности ML на уровне предприятия : Интегрируйте автоматизированное сканирование моделей в корпоративные ML-рабочие процессы для соответствия требованиям безопасности для развертывания ПО AI/ML.
Часто задаваемые вопросы
Альтернативы ModelScan
Wasmer
Быстрая, безопасная и универсальная среда выполнения WebAssembly, позволяющая легким контейнерам запускать приложения где угодно — локально, в облаке или на периферии.
Anyscale
Полностью управляемая, унифицированная вычислительная платформа на базе Ray для эффективной разработки, масштабирования и развертывания AI и Python-приложений.
Massed Compute
Гибкий облачный провайдер GPU и CPU с почасовой оплатой, корпоративными NVIDIA GPU, прозрачным ценообразованием и поддержкой экспертов.
Beam Cloud
Облачная платформа, обеспечивающая быстрое развертывание и масштабирование бессерверных рабочих нагрузок и контейнеров с беспрепятственным опытом разработчика.
Plural.sh
Масштабируемая платформа управления Kubernetes, предлагающая автоматизацию GitOps для всего флота, инфраструктуру как код и самообслуживание при подготовке ресурсов.
ClearML
Открытая, унифицированная AI-платформа для управления всем жизненным циклом машинного обучения: от работы с данными до развертывания и оркестрации моделей.
Qovery
Платформа автоматизации DevOps, упрощающая предоставление облачной инфраструктуры и деплой приложений с абстракцией Kubernetes.
Bunnyshell
Платформа, которая автоматизирует управление средами и рабочие процессы развертывания для ускорения доставки программного обеспечения при одновременном снижении облачных затрат и операционных расходов.