无问芯穹

无问芯穹 是什麼？

無問芯穹是中國領先的AI基礎設施公司，營運Infini-AI異構雲平台。該平台專注於透過創新的'MxN'基礎設施範式連接多個AI模型與各種晶片類型，實現大型模型演算法在異構晶片上的高效協同部署。平台提供三項核心服務：AI Studio（平台即服務）用於開發環境和分散式訓練，GenStudio（模型即服務）用於模型推論和微調，以及異構雲管理用於資源編排。平台支援超過20種主流模型和10多種晶片類型，包括AMD、華為昇騰、NVIDIA和中國大陸晶片，為模型開發到部署的整個生命週期提供具有原生工具鏈的高性價比高性能計算資源。

主要功能

• 異構晶片整合

  支援超過10種晶片類型，包括AMD、華為昇騰、NVIDIA和中國大陸晶片，實現跨多樣化硬體架構的統一部署和最佳化。

• 大規模分散式訓練

  全球首個支援單任務千卡異構晶片混合訓練的平台，可擴展至10,000卡，叢集利用率高達97.6%。

• 全方位AI開發套件

  整合開發環境、分散式訓練任務和推論服務，具有預先配置框架和容錯能力。

• 多模態模型服務

  透過GenStudio平台提供各種模型的API存取，包括大型語言模型、文字生成圖像和文字生成影片。

• 企業資源管理

  基於租戶的資源管理，具有專用資源池、彈性擴展以及全面的監控和計費系統。

使用案例

• 大型模型訓練 : 企業可以使用分散式異構計算資源訓練數十億參數的模型，實現一鍵部署和自動故障恢復。
• AI應用開發 : 開發者可以使用預裝GPU和開發工具鏈的容器化Linux實例建構和部署AI應用。
• 模型推論服務 : 組織可以部署可擴展的推論服務，透過多容器負載平衡支援生產級AI應用。
• 多模態內容生成 : 企業可以透過標準化API將文字、圖像和影片生成能力整合到其應用中。
• 研究與實驗 : 學術機構和研究團隊可以靈活分配資源，獲取多樣化的計算資源用於AI研究。

常見問題