Crusoe Cloud

Crusoe Cloud 是什麼？

Crusoe Cloud是專為人工智慧和機器學習工作負載建構的基礎設施即服務(IaaS)平台。該平台獨特地將閒置和可再生能源與下一代GPU叢集相結合，提供比傳統供應商快達20倍的運算效能，同時降低高達81%的成本。Crusoe營運垂直整合的資料中心，由創新的Digital Flare Mitigation技術驅動，將石油和天然氣營運的廢甲烷轉化為清潔電力。該平台提供兩個主要服務層級：具有彈性定價選項（隨需、競價和預留執行個體）的原始GPU運算，以及透過專有MemoryAlloy技術實現突破性推論速度的Crusoe託管推論，用於簡化模型部署。

主要功能

• 高效能GPU運算

  提供最新的NVIDIA和AMD GPU，包括GB200 NVL72、H200、H100和MI355X，具有靈活的執行個體配置和快速擴展能力，適用於大規模模型訓練和推論。

• 託管推論服務

  一站式推論平台，透過MemoryAlloy技術實現高達9.9倍的首token回應速度提升和5倍的token吞吐量提升，讓開發者透過簡單的API呼叫部署模型，無需管理基礎設施。

• AutoClusters編排

  自動化容錯叢集管理，支援Kubernetes、Slurm和自訂編排工具，具有智慧錯誤偵測、節點替換和99.98%正常運行時間可靠性。

• 可再生能源基礎設施

  資料中心由清潔能源驅動，包括太陽能、風能、水力發電和再利用天然氣，透過能源套利降低運算碳足跡的同時保持成本效率。

• Intelligence Foundry開發者入口

  統一介面用於快速模型實驗，提供API金鑰產生、效能監控，以及在單一平台內推論和基礎設施資源之間的無縫切換。

• 彈性定價模式

  多種消費選項，包括隨需小時費率、長期折扣的預留執行個體、彈性工作負載的競價定價，以及多樣化模型目錄的按使用付費託管推論。

使用案例

• 大規模模型訓練 : 訓練大語言模型和基礎模型的組織可以利用GPU叢集支援數週的訓練作業，具有可靠的正常運行時間、企業級支援和透過預留容量實現的成本效率。
• 大規模模型推論 : 需要低延遲推論的生產部署可以利用Crusoe託管推論為數千名並行使用者提供服務，具有突破性的速度和動態擴展，消除容量瓶頸。
• 即時應用 : 建構即時系統的開發團隊，包括AI Agent、聊天機器人和任務自動化，可以透過託管端點快速部署模型，無需管理底層基礎設施複雜性。
• 成本敏感的ML運營 : 預算意識強的組織可以透過預留執行個體、競價定價和節能基礎設施實現顯著的成本降低，同時保持與高階替代方案的效能對等。
• 新創公司AI基礎設施 : 早期AI公司可以快速從原型擴展到生產，運營開銷最小，提供24/7支援和隨業務成長擴展的彈性承諾條款。

常見問題