无问芯穹

Что такое 无问芯穹?

Infinigence AI - ведущая китайская компания в области инфраструктуры ИИ, которая управляет гетерогенной облачной платформой Infini-AI. Платформа специализируется на соединении нескольких моделей ИИ с различными типами чипов через их инновационную инфраструктурную парадигму 'MxN', обеспечивая эффективное совместное развертывание алгоритмов крупных моделей на гетерогенных чипах. Платформа предоставляет три основных сервиса: AI Studio (Platform as a Service) для сред разработки и распределенного обучения, GenStudio (Model as a Service) для вывода моделей и тонкой настройки, а также управление гетерогенным облаком для оркестрации ресурсов. Поддерживая более 20 основных моделей и более 10 типов чипов, включая AMD, Huawei Ascend, NVIDIA и отечественные китайские чипы, платформа предлагает экономически эффективные высокопроизводительные вычислительные ресурсы с нативными инструментальными цепочками для всего жизненного цикла от разработки модели до развертывания.

Ключевые функции

• Интеграция гетерогенных чипов

  Поддерживает более 10 типов чипов, включая AMD, Huawei Ascend, NVIDIA и отечественные китайские чипы с унифицированным развертыванием и оптимизацией для различных аппаратных архитектур.

• Крупномасштабное распределенное обучение

  Первая в мире платформа, поддерживающая смешанное обучение на гетерогенных чипах с использованием тысячи карт для одной задачи, масштабируемость до 10 000 карт и уровень использования кластера до 97,6%.

• Комплексный набор инструментов для разработки ИИ

  Интегрированные среды разработки, распределенные задачи обучения и сервисы вывода с предварительно настроенными фреймворками и отказоустойчивыми возможностями.

• Мультимодальные модельные сервисы

  Доступ через API к различным моделям, включая крупные языковые модели, преобразование текста в изображение и преобразование текста в видео через платформу GenStudio.

• Управление корпоративными ресурсами

  Управление ресурсами на основе арендаторов с выделенными пулами ресурсов, эластичным масштабированием и комплексными системами мониторинга и биллинга.

Варианты использования

• Обучение крупных моделей : Предприятия могут обучать модели с миллиардами параметров, используя распределенные гетерогенные вычислительные ресурсы с однокликовым развертыванием и автоматическим восстановлением после сбоев.
• Разработка ИИ-приложений : Разработчики могут создавать и развертывать ИИ-приложения, используя контейнеризированные экземпляры Linux с предустановленными GPU и цепочками инструментов разработки.
• Сервисы вывода моделей : Организации могут развертывать масштабируемые сервисы вывода с балансировкой нагрузки между несколькими контейнерами для производственных ИИ-приложений.
• Мультимодальная генерация контента : Бизнес может интегрировать возможности генерации текста, изображений и видео в свои приложения через стандартизированные API.
• Исследования и эксперименты : Академические учреждения и исследовательские команды могут получить доступ к разнообразным вычислительным ресурсам для исследований в области ИИ с гибким распределением ресурсов.

Часто задаваемые вопросы