无问芯穹

Qu'est-ce que 无问芯穹 ?

Infinigence AI est une entreprise chinoise leader dans l'infrastructure IA qui exploite la plateforme cloud hétérogène Infini-AI. La plateforme se spécialise dans la connexion de multiples modèles IA avec divers types de puces grâce à leur paradigme d'infrastructure innovant 'MxN', permettant un déploiement collaboratif efficace d'algorithmes de grands modèles sur des puces hétérogènes. La plateforme fournit trois services principaux : AI Studio (Platform as a Service) pour les environnements de développement et l'entraînement distribué, GenStudio (Model as a Service) pour l'inférence et le fine-tuning des modèles, et la gestion de cloud hétérogène pour l'orchestration des ressources. Supportant plus de 20 modèles grand public et plus de 10 types de puces, notamment AMD, Huawei Ascend, NVIDIA et des puces chinoises nationales, la plateforme offre des ressources de calcul haute performance rentables avec des chaînes d'outils natives pour l'ensemble du cycle de vie, du développement au déploiement des modèles.

Fonctionnalités clés

• Intégration de puces hétérogènes

  Prend en charge plus de 10 types de puces, notamment AMD, Huawei Ascend, NVIDIA et des puces chinoises nationales, avec un déploiement et une optimisation unifiés sur diverses architectures matérielles.

• Formation distribuée à grande échelle

  Première plateforme mondiale supportant l'entraînement mixte sur puces hétérogènes avec des milliers de cartes pour une seule tâche, évolutive jusqu'à 10 000 cartes et des taux d'utilisation de cluster atteignant 97,6 %.

• Suite complète de développement IA

  Environnements de développement intégrés, tâches d'entraînement distribuées et services d'inférence avec des frameworks préconfigurés et des capacités de tolérance aux pannes.

• Services de modèles multimodaux

  Accès API à divers modèles, notamment les grands modèles de langage, la génération de texte en image et de texte en vidéo via la plateforme GenStudio.

• Gestion des ressources d'entreprise

  Gestion des ressources basée sur les locataires avec des pools de ressources dédiés, une mise à l'échelle élastique et des systèmes complets de surveillance et de facturation.

Cas d'utilisation

• Entraînement de grands modèles : Les entreprises peuvent entraîner des modèles à plusieurs milliards de paramètres en utilisant des ressources de calcul hétérogènes distribuées avec un déploiement en un clic et une récupération automatique en cas de défaillance.
• Développement d'applications IA : Les développeurs peuvent construire et déployer des applications IA en utilisant des instances Linux conteneurisées avec des GPU préinstallés et des chaînes d'outils de développement.
• Services d'inférence de modèles : Les organisations peuvent déployer des services d'inférence évolutifs avec équilibrage de charge sur plusieurs conteneurs pour les applications IA en production.
• Génération de contenu multimodal : Les entreprises peuvent intégrer des capacités de génération de texte, d'images et de vidéos dans leurs applications via des API standardisées.
• Recherche et expérimentation : Les institutions académiques et les équipes de recherche peuvent accéder à diverses ressources informatiques pour la recherche en IA avec une allocation flexible des ressources.

FAQ