Crusoe Cloud

Crusoe Cloud이란 무엇인가요?

Crusoe Cloud는 인공지능 및 머신러닝 워크로드를 위해 특별히 구축된 서비스형 인프라(IaaS) 플랫폼입니다. 이 플랫폼은 유휴 및 재생 에너지원을 차세대 GPU 클러스터와 독특하게 통합하여 기존 공급업체보다 최대 20배 빠른 컴퓨팅 성능을 제공하면서 비용을 최대 81%까지 절감합니다. Crusoe는 석유 및 가스 운영의 폐기물 메탄을 청정 전력으로 재활용하는 혁신적인 Digital Flare Mitigation 기술로 구동되는 수직 통합 데이터 센터를 운영합니다. 이 플랫폼은 두 가지 주요 서비스 계층을 제공합니다: 유연한 가격 옵션(온디맨드, 스팟 및 예약 인스턴스)이 있는 원시 GPU 컴퓨팅과 독점 MemoryAlloy 기술을 통한 획기적인 추론 속도로 간소화된 모델 배포를 위한 Crusoe 관리형 추론입니다.

주요 기능

• 고성능 GPU 컴퓨팅

  GB200 NVL72, H200, H100, MI355X를 포함한 최신 NVIDIA 및 AMD GPU에 대한 액세스와 대규모 모델 훈련 및 추론을 위한 유연한 인스턴스 구성 및 빠른 확장 기능을 제공합니다.

• 관리형 추론 서비스

  MemoryAlloy 기술을 사용하여 최대 9.9배 빠른 첫 번째 토큰 응답 시간과 5배 높은 토큰 처리량을 제공하는 턴키 추론 플랫폼으로, 개발자가 인프라 관리 없이 간단한 API 호출을 통해 모델을 배포할 수 있게 합니다.

• AutoClusters 오케스트레이션

  Kubernetes, Slurm 및 사용자 정의 오케스트레이션 도구를 지원하는 자동화된 내결함성 클러스터 관리로, 지능형 오류 감지, 노드 교체 및 99.98% 가동 시간 안정성을 제공합니다.

• 재생 에너지 기반 인프라

  태양광, 풍력, 수력 발전 및 재활용 천연가스를 포함한 청정 에너지원으로 구동되는 데이터 센터로, 에너지 차익거래를 통해 비용 효율성을 유지하면서 컴퓨팅 탄소 발자국을 줄입니다.

• Intelligence Foundry 개발자 포털

  API 키 생성, 성능 모니터링, 단일 플랫폼 내에서 추론 및 인프라 리소스 간의 원활한 전환을 통한 빠른 모델 실험을 위한 통합 인터페이스입니다.

• 유연한 가격 모델

  온디맨드 시간당 요금, 장기 할인이 있는 예약 인스턴스, 유연한 워크로드를 위한 스팟 가격, 다양한 모델 카탈로그가 있는 사용량 기반 관리형 추론을 포함한 다양한 소비 옵션을 제공합니다.

사용 사례

• 대규모 모델 훈련 : 대형 언어 모델 및 기초 모델을 훈련하는 조직은 안정적인 가동 시간, 엔터프라이즈급 지원 및 예약 용량을 통한 비용 효율성으로 수주간의 훈련 작업을 지원하는 GPU 클러스터를 활용할 수 있습니다.
• 대규모 모델 추론 : 저지연 추론이 필요한 프로덕션 배포는 Crusoe 관리형 추론을 활용하여 획기적인 속도와 동적 확장으로 수천 명의 동시 사용자에게 서비스를 제공하고 용량 병목 현상을 제거할 수 있습니다.
• 실시간 애플리케이션 : AI 에이전트, 챗봇 및 작업 자동화를 포함한 실시간 시스템을 구축하는 개발 팀은 기본 인프라 복잡성을 관리하지 않고도 관리형 엔드포인트를 통해 모델을 빠르게 배포할 수 있습니다.
• 비용 민감한 ML 운영 : 예산을 고려하는 조직은 예약 인스턴스, 스팟 가격 및 에너지 효율적인 인프라를 통해 프리미엄 대안과 성능 동등성을 유지하면서 상당한 비용 절감을 달성할 수 있습니다.
• 스타트업 AI 인프라 : 초기 단계 AI 회사는 최소한의 운영 오버헤드, 24/7 지원 및 비즈니스 성장에 따라 확장되는 유연한 약정 조건으로 프로토타입에서 프로덕션으로 빠르게 확장할 수 있습니다.

자주 묻는 질문