ModelScan
오픈소스 ML 모델 보안 스캔 도구로, 다양한 모델 형식의 안전하지 않은 코드를 감지하여 직렬화 공격을 방지합니다.
제품 개요
ModelScan이란 무엇인가요?
ModelScan은 Protect AI에서 개발한 오픈소스 보안 도구로, 머신러닝 모델을 스캔하여 안전하지 않은 코드를 감지하고 모델 직렬화 공격으로부터 보호합니다. 다양한 형식을 지원하는 업계 최초의 ML 모델 스캔 도구로, 모델을 실행하지 않고 모델 파일을 검사하여 직렬화 과정 중에 주입된 악성 코드를 식별합니다. 이 도구는 다양한 출처의 ML 모델을 사용할 때 자격증 도용, 데이터 도용, 데이터 중독 및 모델 중독으로부터 사용자를 보호합니다. ModelScan은 PyTorch, TensorFlow, Keras, sklearn, XGBoost 프레임워크를 지원하며, H5, Pickle, SavedModel 형식을 스캔하고 ML 및 CI/CD Pipeline에 완벽하게 통합됩니다.
주요 기능
다중 형식 지원
H5, Pickle, SavedModel을 포함한 다양한 직렬화 형식의 모델을 스캔하여 PyTorch, TensorFlow, Keras, sklearn, XGBoost를 사용하는 사용자를 보호합니다.
정적 분석 보안 스캔
코드를 실행하지 않고 모델 파일을 바이트 단위로 검사하여 안전하고 효율적으로 안전하지 않은 작업과 악성 코드 서명을 감지합니다.
위험 심각도 분류
감지된 취약점을 CRITICAL, HIGH, MEDIUM, LOW의 네 가지 심각도 수준으로 분류하여 우선순위에 따른 수정을 가능하게 합니다.
CI/CD Pipeline 통합
CI/CD Pipeline 및 ML 워크플로우와 완벽하게 작동하여 모델 배포, 재교육 또는 평가 전에 자동화된 보안 스캔을 가능하게 합니다.
오픈소스 및 무료
Apache 2.0 오픈소스 프로젝트로 pip install을 통해 제공되며, 모든 사용자가 머신러닝 워크플로우를 보호하기 위해 무료로 사용할 수 있습니다.
사용 사례
- 배포 전 보안 검증 : 배포 전에 모든 모델을 스캔하여 저장 또는 전송 중에 손상되지 않았는지 확인합니다.
- ML 공급망 보호 : 재교육, 미세 조정 또는 평가 전에 사전 학습된 모델을 스캔하여 공급망 공격을 감지하고 환경 오염을 방지합니다.
- 제3자 모델 검증 : 인터넷에서 공유되거나 Hugging Face에서 다운로드한 모델을 프로덕션 시스템에 로드하기 전에 안전성을 검증합니다.
- 교육 후 보안 감사 : 교육 완료 후 모델을 스캔하여 교육 Pipeline 중에 발생할 수 있는 악성 코드 주입을 감지합니다.
- 엔터프라이즈 ML 보안 준수 : 자동화된 모델 스캔을 엔터프라이즈 ML 워크플로우에 통합하여 AI/ML 소프트웨어 배포의 보안 준수 요구사항을 충족합니다.
자주 묻는 질문
ModelScan 대안
Braintrust
대형 언어 모델 애플리케이션의 견고하고 반복적인 구축, 평가, 모니터링을 지원하는 엔드 투 엔드 AI 개발 플랫폼입니다.
Trigger.dev
타임아웃 없이 장시간 신뢰성 있는 백그라운드 작업과 워크플로우를 구축할 수 있는 오픈소스 플랫폼 및 SDK입니다.
Portkey
Portkey는 AI 애플리케이션의 가시성과 제어를 제공하는 AI 제어 패널로, 관측성, 보안, AI 상호작용 관리를 위한 도구를 제공합니다.
Refine
엔터프라이즈급 기능과 헤드리스 아키텍처를 갖춘 CRUD 중심 웹 애플리케이션을 빠르게 개발할 수 있는 React 메타 프레임워크입니다.
Vite+
단일 CLI를 통해 런타임, 패키지 매니저, 전체 프론트엔드 스택을 관리하는 통합 웹 개발 도구체인입니다.
Full Stack Deep Learning
엔드 투 엔드로 딥 러닝 시스템을 구축하고 배포하는 모범 사례를 가르치는 종합적인 교육 플랫폼입니다.
Fastly
콘텐츠 전송, 보안, 실시간 데이터 솔루션을 제공하는 고성능 엣지 클라우드 플랫폼으로, 더 빠르고 안전한 디지털 경험을 지원합니다.
PremAI
생성형 AI 개발 플랫폼으로, 손쉬운 맞춤형 AI 모델 생성, 파인튜닝, 배포를 지원하며 강력한 프라이버시와 로컬 우선 기능을 제공합니다.