无问芯穹

¿Qué es 无问芯穹?

Infinigence AI es una empresa líder china en infraestructura de IA que opera la plataforma en la nube heterogénea Infini-AI. La plataforma se especializa en conectar múltiples modelos de IA con varios tipos de chips a través de su innovador paradigma de infraestructura 'MxN', permitiendo un despliegue colaborativo eficiente de algoritmos de modelos grandes en chips heterogéneos. La plataforma proporciona tres servicios principales: AI Studio (Plataforma como Servicio) para entornos de desarrollo y entrenamiento distribuido, GenStudio (Modelo como Servicio) para inferencia de modelos y ajuste fino, y gestión de nube heterogénea para la orquestación de recursos. Con soporte para más de 20 modelos principales y más de 10 tipos de chips, incluyendo AMD, Huawei Ascend, NVIDIA y chips nacionales chinos, la plataforma ofrece recursos informáticos de alto rendimiento rentables con cadenas de herramientas nativas para todo el ciclo de vida, desde el desarrollo del modelo hasta el despliegue.

Características Principales

• Integración de chips heterogéneos

  Compatible con más de 10 tipos de chips, incluyendo AMD, Huawei Ascend, NVIDIA y chips nacionales chinos, con despliegue y optimización unificados en diversas arquitecturas de hardware.

• Entrenamiento distribuido a gran escala

  Primera plataforma mundial que admite entrenamiento mixto de chips heterogéneos con miles de tarjetas para una sola tarea, escalable hasta 10.000 tarjetas y tasas de utilización de clústeres de hasta el 97,6%.

• Suite completa de desarrollo de IA

  Entornos de desarrollo integrados, tareas de entrenamiento distribuido y servicios de inferencia con marcos preconfigurados y capacidades tolerantes a fallos.

• Servicios de modelos multimodales

  Acceso API a varios modelos, incluyendo modelos de lenguaje extensos, generación de texto a imagen y texto a vídeo a través de la plataforma GenStudio.

• Gestión de recursos empresariales

  Gestión de recursos basada en inquilinos con grupos de recursos dedicados, escalado elástico y sistemas completos de monitorización y facturación.

Casos de Uso

• Entrenamiento de modelos grandes : Las empresas pueden entrenar modelos de miles de millones de parámetros utilizando recursos informáticos heterogéneos distribuidos con despliegue en un clic y recuperación automática de fallos.
• Desarrollo de aplicaciones de IA : Los desarrolladores pueden construir y desplegar aplicaciones de IA utilizando instancias Linux containerizadas con GPUs preinstaladas y cadenas de herramientas de desarrollo.
• Servicios de inferencia de modelos : Las organizaciones pueden desplegar servicios de inferencia escalables con equilibrio de carga entre múltiples contenedores para aplicaciones de IA en producción.
• Generación de contenido multimodal : Las empresas pueden integrar capacidades de generación de texto, imagen y vídeo en sus aplicaciones a través de APIs estandarizadas.
• Investigación y experimentación : Las instituciones académicas y los equipos de investigación pueden acceder a diversos recursos informáticos para la investigación en IA con asignación flexible de recursos.

Preguntas Frecuentes