Modal

Modal이란 무엇인가요?

Modal은 AI, 머신러닝, 데이터 팀을 위해 인프라 관리 없이 컴퓨트 집약적 애플리케이션을 실행할 수 있도록 설계된 클라우드 함수 플랫폼입니다. 빠른 서버리스 Python 코드 실행과 오토스케일링, GPU 지원을 제공하며, 개발자는 추론 엔드포인트, 배치 작업, 예약 작업을 손쉽게 배포할 수 있습니다. Modal은 직관적인 Python 기반 인터페이스로 컨테이너 환경, 하드웨어 요구사항, 영구 스토리지를 정의할 수 있게 하며, 실제 사용한 컴퓨트 시간만 과금합니다. Oracle Cloud Infrastructure와의 통합을 통해 대규모 AI 워크로드에 고성능과 비용 효율성을 보장합니다.

주요 기능

• 서버리스 오토스케일링

  컴퓨트 리소스를 수초 만에 수백 개의 GPU까지 자동으로 확장하거나 0까지 축소하여 효율적인 자원 활용과 비용 절감을 보장합니다.

• 높은 리소스 한도

  컨테이너당 최대 64개 CPU, 336GB RAM, 8개의 Nvidia H100 GPU를 지원하여 고성능 AI 및 ML 워크로드 실행이 가능합니다.

• Python 중심 개발

  개발자는 인프라를 코드로 정의하여 Python 함수를 작성하고 배포할 수 있으며, 수동 설정이나 YAML 구성 없이도 가능합니다.

• 유연한 배포 옵션

  함수는 웹 엔드포인트, 크론 작업 또는 배치 처리 작업으로 제공될 수 있으며, 분산 컴퓨팅 프리미티브도 기본 지원됩니다.

• GPU 가속 AI 워크로드

  AI 모델 추론, 파인튜닝, 배치 작업에 최적화되어 있으며, 빠른 GPU 컨테이너 실행과 강력한 클라우드 GPU 통합을 제공합니다.

• 사용량 기반 요금제

  CPU, GPU, 메모리 사용량을 초 단위로 과금하여 유휴 자원에 대한 비용이 발생하지 않습니다.

사용 사례

• AI 모델 추론 및 파인튜닝 : 설정이 최소화된 상태에서 대규모 모델 추론 또는 파인튜닝을 GPU에서 빠르게 실행할 수 있습니다.
• 데이터 파이프라인 및 배치 처리 : 복잡한 데이터 워크플로, ETL 작업, 배치 연산을 오토스케일링 컴퓨트 리소스로 대규모로 실행할 수 있습니다.
• 실시간 웹 애플리케이션 : AI 기반 웹 엔드포인트 및 API를 저지연, 실시간 웹소켓 지원과 함께 제공합니다.
• 예약 작업 및 자동화 : 인프라 관리 없이 정기 데이터 처리나 모델 재학습을 위한 크론형 예약 작업을 배포할 수 있습니다.
• 머신러닝 연구 및 실험 : 확장 가능한 컴퓨트와 영구 스토리지에 즉시 접근하여 ML 모델을 빠르게 프로토타이핑하고 반복할 수 있습니다.

자주 묻는 질문