无问芯穹

什么是无问芯穹？

无问芯穹是中国领先的AI基础设施公司，运营Infini-AI异构云平台。该平台专注于通过创新的'MxN'基础设施范式连接多个AI模型与各种芯片类型，实现大模型算法在异构芯片上的高效协同部署。平台提供三项核心服务：AI Studio（平台即服务）用于开发环境和分布式训练，GenStudio（模型即服务）用于模型推理和微调，以及异构云管理用于资源编排。平台支持超过20种主流模型和10多种芯片类型，包括AMD、华为昇腾、NVIDIA和国产芯片，为模型开发到部署的整个生命周期提供具有原生工具链的高性价比高性能计算资源。

主要功能

• 异构芯片集成

  支持超过10种芯片类型，包括AMD、华为昇腾、NVIDIA和国产芯片，实现跨多样化硬件架构的统一部署和优化。

• 大规模分布式训练

  全球首个支持单任务千卡异构芯片混合训练的平台，可扩展至10,000卡，集群利用率高达97.6%。

• 全面的AI开发套件

  集成开发环境、分布式训练任务和推理服务，具有预配置框架和容错能力。

• 多模态模型服务

  通过GenStudio平台提供各种模型的API访问，包括大语言模型、文本生成图像和文本生成视频。

• 企业资源管理

  基于租户的资源管理，具有专用资源池、弹性扩展以及全面的监控和计费系统。

使用场景

• 大模型训练 : 企业可以使用分布式异构计算资源训练数十亿参数的模型，实现一键部署和自动故障恢复。
• AI应用开发 : 开发者可以使用预装GPU和开发工具链的容器化Linux实例构建和部署AI应用。
• 模型推理服务 : 组织可以部署可扩展的推理服务，通过多容器负载均衡支持生产级AI应用。
• 多模态内容生成 : 企业可以通过标准化API将文本、图像和视频生成能力集成到其应用中。
• 研究与实验 : 学术机构和研究团队可以灵活分配资源，获取多样化的计算资源用于AI研究。

常见问题