无问芯穹

Was ist 无问芯穹?

Infinigence AI ist ein führendes chinesisches KI-Infrastrukturunternehmen, das die heterogene Cloud-Plattform Infini-AI betreibt. Die Plattform spezialisiert sich auf die Verbindung mehrerer KI-Modelle mit verschiedenen Chip-Typen durch ihr innovatives 'MxN'-Infrastrukturparadigma, das eine effiziente kollaborative Bereitstellung von Algorithmen für große Modelle auf heterogenen Chips ermöglicht. Die Plattform bietet drei Kerndienste: AI Studio (Platform as a Service) für Entwicklungsumgebungen und verteiltes Training, GenStudio (Model as a Service) für Modellinferenz und Feinabstimmung sowie heterogenes Cloud-Management für die Ressourcenorchestrierung. Mit Unterstützung für über 20 Mainstream-Modelle und mehr als 10 Chip-Typen, darunter AMD, Huawei Ascend, NVIDIA und chinesische Inlandschips, bietet die Plattform kosteneffiziente Hochleistungsrechenressourcen mit nativen Toolchains für den gesamten Lebenszyklus von der Modellentwicklung bis zur Bereitstellung.

Hauptfunktionen

• Integration heterogener Chips

  Unterstützt über 10 Chip-Typen, darunter AMD, Huawei Ascend, NVIDIA und chinesische Inlandschips mit einheitlicher Bereitstellung und Optimierung über verschiedene Hardware-Architekturen hinweg.

• Großskaliges verteiltes Training

  Weltweit erste Plattform, die gemischtes Training mit heterogenen Chips auf tausend Karten für eine einzelne Aufgabe unterstützt, skalierbar bis zu 10.000 Karten und Cluster-Auslastungsraten von bis zu 97,6%.

• Umfassende KI-Entwicklungssuite

  Integrierte Entwicklungsumgebungen, verteilte Trainingsaufgaben und Inferenzdienste mit vorkonfigurierten Frameworks und fehlertoleranten Funktionen.

• Multimodale Modelldienste

  API-Zugriff auf verschiedene Modelle, darunter große Sprachmodelle, Text-zu-Bild und Text-zu-Video-Generierung über die GenStudio-Plattform.

• Unternehmensressourcenverwaltung

  Mandantenbasierte Ressourcenverwaltung mit dedizierten Ressourcenpools, elastischer Skalierung und umfassenden Überwachungs- und Abrechnungssystemen.

Anwendungsfälle

• Training großer Modelle : Unternehmen können Modelle mit Milliarden von Parametern mithilfe verteilter heterogener Rechenressourcen mit Ein-Klick-Bereitstellung und automatischer Fehlerbehebung trainieren.
• KI-Anwendungsentwicklung : Entwickler können KI-Anwendungen mit containerisierten Linux-Instanzen mit vorinstallierten GPUs und Entwicklungs-Toolchains erstellen und bereitstellen.
• Modellinferenzdienste : Organisationen können skalierbare Inferenzdienste mit Lastausgleich über mehrere Container für KI-Anwendungen im Produktionseinsatz bereitstellen.
• Multimodale Inhaltsgenerierung : Unternehmen können Text-, Bild- und Videogenerierungsfunktionen über standardisierte APIs in ihre Anwendungen integrieren.
• Forschung und Experimente : Akademische Einrichtungen und Forschungsteams können mit flexibler Ressourcenzuweisung auf vielfältige Rechenressourcen für KI-Forschung zugreifen.

Häufig gestellte Fragen