ModelScan

오픈소스 ML 모델 보안 스캔 도구로, 다양한 모델 형식의 안전하지 않은 코드를 감지하여 직렬화 공격을 방지합니다.

AI 개발자 도구 AI DevOps 보조

웹사이트 방문

Atoms - AI로 코드 없이 웹사이트·앱 제작

Atoms

Sponsor

코딩 없이 몇 분 만에 아이디어를 검증하고, 웹사이트와 앱을 만들며, 첫 고객을 확보하세요.

개요
대안
분석

Atoms - AI로 코드 없이 웹사이트·앱 제작

제품 개요

ModelScan이란 무엇인가요?

ModelScan은 Protect AI에서 개발한 오픈소스 보안 도구로, 머신러닝 모델을 스캔하여 안전하지 않은 코드를 감지하고 모델 직렬화 공격으로부터 보호합니다. 다양한 형식을 지원하는 업계 최초의 ML 모델 스캔 도구로, 모델을 실행하지 않고 모델 파일을 검사하여 직렬화 과정 중에 주입된 악성 코드를 식별합니다. 이 도구는 다양한 출처의 ML 모델을 사용할 때 자격증 도용, 데이터 도용, 데이터 중독 및 모델 중독으로부터 사용자를 보호합니다. ModelScan은 PyTorch, TensorFlow, Keras, sklearn, XGBoost 프레임워크를 지원하며, H5, Pickle, SavedModel 형식을 스캔하고 ML 및 CI/CD Pipeline에 완벽하게 통합됩니다.

주요 기능

다중 형식 지원
H5, Pickle, SavedModel을 포함한 다양한 직렬화 형식의 모델을 스캔하여 PyTorch, TensorFlow, Keras, sklearn, XGBoost를 사용하는 사용자를 보호합니다.
정적 분석 보안 스캔
코드를 실행하지 않고 모델 파일을 바이트 단위로 검사하여 안전하고 효율적으로 안전하지 않은 작업과 악성 코드 서명을 감지합니다.
위험 심각도 분류
감지된 취약점을 CRITICAL, HIGH, MEDIUM, LOW의 네 가지 심각도 수준으로 분류하여 우선순위에 따른 수정을 가능하게 합니다.
CI/CD Pipeline 통합
CI/CD Pipeline 및 ML 워크플로우와 완벽하게 작동하여 모델 배포, 재교육 또는 평가 전에 자동화된 보안 스캔을 가능하게 합니다.
오픈소스 및 무료
Apache 2.0 오픈소스 프로젝트로 pip install을 통해 제공되며, 모든 사용자가 머신러닝 워크플로우를 보호하기 위해 무료로 사용할 수 있습니다.

사용 사례

배포 전 보안 검증 : 배포 전에 모든 모델을 스캔하여 저장 또는 전송 중에 손상되지 않았는지 확인합니다.
ML 공급망 보호 : 재교육, 미세 조정 또는 평가 전에 사전 학습된 모델을 스캔하여 공급망 공격을 감지하고 환경 오염을 방지합니다.
제3자 모델 검증 : 인터넷에서 공유되거나 Hugging Face에서 다운로드한 모델을 프로덕션 시스템에 로드하기 전에 안전성을 검증합니다.
교육 후 보안 감사 : 교육 완료 후 모델을 스캔하여 교육 Pipeline 중에 발생할 수 있는 악성 코드 주입을 감지합니다.
엔터프라이즈 ML 보안 준수 : 자동화된 모델 스캔을 엔터프라이즈 ML 워크플로우에 통합하여 AI/ML 소프트웨어 배포의 보안 준수 요구사항을 충족합니다.