产品概览
什么是dstack？
dstack是Kubernetes和Slurm的简化替代方案，专为简化AI开发、训练和部署的容器编排而设计。它支持包括NVIDIA、AMD、Google TPU、Intel Gaudi和Tenstorrent在内的广泛加速器，并与主要云提供商和本地集群无缝协作。dstack提供统一的接口，用于管理开发环境、调度分布式任务、部署可扩展的模型服务、处理GPU集群队列以及管理持久存储卷。其配置基于YAML，便于版本控制和自动化。通过抽象基础设施复杂性，dstack加速AI工作流程，降低机器学习团队的运营开销。
主要功能
加速器与云服务无关性
支持多种GPU和AI加速器，如NVIDIA、AMD、TPU、Intel Gaudi和Tenstorrent，并与所有主要云服务提供商以及本地服务器集成。
统一AI工作流界面
为开发环境、任务调度、具有自动扩缩的服务部署、资源集群管理和持久化存储卷提供专用配置，覆盖整个AI生命周期。
简化配置和自动化
使用声明式YAML文件定义环境、作业、服务和集群，通过简单的CLI或API应用，自动化完成资源供应、扩展和网络配置。
经济高效的多云和本地管理
实现灵活使用云和本地资源，避免供应商锁定，优化GPU利用率和云成本。
开源且具有可扩展生态系统
100%开源，积极开发，支持与流行的AI框架和工具集成，如PyTorch、HuggingFace和vLLM。
使用场景
- 交互式开发环境 : 快速创建由GPU驱动的远程开发环境，可从桌面IDE访问，用于快速实验和编码。
- 分布式训练和微调 : 在集群或单节点上调度和运行复杂的训练任务，支持DeepSpeed和HuggingFace Accelerate等框架。
- 模型部署和推理 : 部署可扩展、安全且自动扩缩的模型端点，兼容自定义服务框架和OpenAI API。
- 集群和资源队列管理 : 管理跨云和本地的异构GPU集群，实现高效的资源共享和扩展。
- AI工作负载的持久存储 : 使用网络卷在多次运行和环境之间持久化存储数据集、检查点和缓存。
常见问题
dstack的替代方案
Convox
用于部署、扩展和管理云应用程序的统一平台，具有精简的 DevOps 工作流程和强大的安全性。
UbiOps
一个灵活的平台，用于在云端、本地和混合环境中部署、管理和编排AI和ML模型。
Zeet
多云部署平台，简化 Kubernetes 与基础设施管理，内置 CI/CD 与开发者友好工具。
Tensorfuse
无服务器 GPU 运行环境，助力在私有云基础设施上无缝部署、微调及自动扩展 AI 模型。
OpenSauced Pizza
一种命令行工具和GitHub Action，可自动化开源项目的仓库管理和代码所有权洞察。
ModelScan
开源ML模型安全扫描器，检测多种模型格式中的不安全代码，防止序列化攻击。
Codesphere
以开发者为中心的云平台，通过最少的配置实现无缝部署、自动扩展和复杂应用管理。
ClawCloud Run
云原生平台，用于快速应用部署、管理和扩展，集成GitOps工作流程和原生Docker/Kubernetes支持。