KAYTUS veröffentlicht MotusAI, eine KI-Entwicklungsplattform für hocheffizientes GPU Ressourcen Scheduling und Aufgabenverwaltung

Durch die Implementierung eines effizienten und einheitlichen GPU Schedulings erreicht MotusAI eine durchschnittliche Auslastungsrate der Cluster-Rechenleistung von über 70 %.

Singapur und Hamburg, Deutschland – 14. Mai 2024 – KAYTUS, ein führender Anbieter von IT-Infrastrukturen, hat MotusAI vorgestellt, eine KI-Entwicklungsplattform, die jetzt weltweit für Testzwecke verfügbar ist. MotusAI ist auf Deep Learning und KI-Entwicklung zugeschnitten und integriert GPU- und Datenressourcen sowie KI-Entwicklungsumgebungen, um die Zuweisung von Rechenressourcen, die Aufgabenverwaltung und die zentrale Verwaltung zu optimieren. Die Plattform beschleunigt die Verarbeitung von Trainingsdaten und verwaltet die Workflows für die Entwicklung von KI-Modellen nahtlos. Sie reduziert die Investitionen in Ressourcen drastisch, steigert die Entwicklungseffizienz, erhöht die Auslastung der Cluster-Rechenleistung auf über 70 % und verbessert die Leistung bei der Planung von umfangreichen Trainingsaufgaben erheblich.

Rationalisierung der KI-Entwicklung für Kosteneffektivität und Effizienz

Die rasante Expansion des KI-Geschäfts und der KI-Modellentwicklung in Unternehmen bringt Herausforderungen mit sich, darunter eine geringe Rechenleistung, die Komplexität der Modellentwicklung, unterschiedliche Anforderungen an die Aufgabenkoordination in verschiedenen Szenarien und instabile Rechenressourcen. Ein effizienter, flexibler und stabiler Betrieb des KI-Geschäfts ist für Unternehmen von entscheidender Bedeutung, um kontinuierlich Geschäftseinblicke zu gewinnen, Einnahmen zu generieren und wettbewerbsfähig zu bleiben.

Optimieren Sie das Ressourcenmanagement für maximale Rechenleistung

MotusAI sorgt durch die Implementierung einer intelligenten und flexiblen GPU-Planung für eine effiziente Zuweisung von Ressourcen und Arbeitslasten. Es erfüllt die unterschiedlichen Anforderungen an die Rechenleistung für KI-Workloads, indem es GPU-Ressourcen dynamisch nach Bedarf zuweist. Mit der mehrdimensionalen und dynamischen GPU-Ressourcenzuweisung, einschließlich der detaillierten GPU-Planung und der Unterstützung für Multi-Instance GPU (MIG), erfüllt MotusAI die Anforderungen an die Rechenleistung in verschiedenen Szenarien wie Modellentwicklung, Fehlerbehebung und Training.

Optimierte Aufgabenverwaltung für vielseitige Unterstützung verschiedener Szenarien

MotusAI hat Cloud-native Planungssysteme revolutioniert. Der Scheduler übertrifft die Community-Version, indem er die Planungsleistung von POD-Aufgaben in großem Maßstab erheblich verbessert. MotusAI ermöglicht eine schnelle Inbetriebnahme und Einsatzbereitschaft für Hunderte von PODs und bietet im Vergleich zum Community Scheduler eine fünffache Steigerung des Durchsatzes und eine fünffache Reduzierung der Latenzzeit. Dies gewährleistet eine effiziente Planung und Nutzung von Rechenressourcen für groß angelegte Trainings. Darüber hinaus ermöglicht MotusAI die dynamische Skalierung von KI-Arbeitslasten für Trainings- und Inferenzdienste, unterstützt Burst-Aufgaben und erfüllt unterschiedliche Planungsanforderungen in verschiedenen Szenarien.

MotusAI ermöglicht es Benutzern, die Rechenressourcen zu maximieren, von der granularen Aufteilung einzelner Karten mit mehreren Instanzen bis hin zur groß angelegten parallelen Verarbeitung auf mehreren Maschinen und Karten. Durch die Integration von Funktionen, wie dem Pooling von Rechenleistung, der dynamischen Skalierung und der Wiederverwendung von Grafikprozessoren auf einer einzigen Karte, verbessert MotusAI die Nutzung der Rechenleistung erheblich und erreicht eine durchschnittliche Auslastung von über 70 %. Darüber hinaus wird die Effizienz der Datenverarbeitung durch die Nutzung der Cluster-Topologie und die Optimierung der Netzwerkkommunikation verbessert.

Beschleunigte Datenübertragung für dreimal effizientere Leistung

MotusAI zeichnet sich durch innovative Funktionen zur Beschleunigung der Datenübertragung aus, wie z. B. die Unterstützung des lokalen Ladens und Verarbeitens von Remote-Daten, wodurch Verzögerungen durch Netzwerk-E/A während des Rechenvorgangs vermieden werden. Durch die Nutzung von Strategien wie „Zero-Copy”-Datenübertragung, Multi-Thread-Abruf, inkrementelle Datenaktualisierungen und Affinitätsplanung reduziert MotusAI die Daten-Caching-Zyklen erheblich. Diese Verbesserungen steigern die KI-Entwicklung und die Trainingseffizienz erheblich und führen zu einer 2- bis 3-fachen Steigerung der Modelleffizienz während des Datentrainings.

Zuverlässige und automatisch ausfallsichere Plattform

MotusAI unterstützt die Leistungsüberwachung und Warnmeldungen für Computing-Ressourcen und liefert Echtzeit-Status-Updates für zentrale Plattformdienste. Für Daten mit höheren Sicherheitsstufen werden Sandbox-Isolationsmechanismen eingesetzt. Bei Ressourcenausfällen oder -anomalien leitet MotusAI automatisch Fehlertoleranzprozesse ein, um eine schnellstmögliche Wiederherstellung bei unterbrochenen Trainingsaufgaben zu gewährleisten. Durch diesen Ansatz wird die Fehlerbehebungszeit im Durchschnitt um über 90 % reduziert.

Umfassende Verwaltung der Entwicklung von KI-Modellen in einer integrierten Lösung

MotusAI beschleunigt die KI-Entwicklung und unterstützt alle Phasen der Entwicklung großer Modelle. Von der Verwaltung von Datenproben und Softwarestacks bis hin zum Entwurf von Modellarchitekturen, dem Debugging von Code, dem Training von Modellen, der Feinabstimmung von Parametern und der Durchführung von Evaluierungstests bietet MotusAI eine vollständige Plattform. Sie integriert beliebte Entwicklungs-Frameworks wie PyTorch und TensorFlow sowie verteilte Trainings-Frameworks wie Megatron und DeepSpeed.

Darüber hinaus ermöglicht MotusAI ein umfassendes Lifecycle-Management von KI-Inferenzdiensten, einschließlich Offline- und Online-Tests, A/B-Tests, Rolling Release, Service-Orchestrierung und Service-Stilllegung. Diese Funktionen verbessern den geschäftlichen Nutzen der KI-Technologie und fördern das kontinuierliche Unternehmenswachstum.

Darüber hinaus bietet MotusAI eine integrierte visuelle Verwaltungs- und Betriebsoberfläche, die Rechen-, Netzwerk-, Speicher- und Anwendungsressourcen abdeckt. Das Betriebspersonal kann den Gesamtstatus der Plattform über eine einzige Schnittstelle umfassend verwalten, überwachen und auswerten.

Kostenlose Testversion verfügbar

MotusAI ist jetzt weltweit für einen Testzeitraum verfügbar und bietet einen Monat lang kostenlosen Fernzugriff sowie Test-, Trainings- und Support-Möglichkeiten. Benutzer können sich auch für eine lokale Bereitstellung mit ihren eigenen Geräten und in ihrer eigenen Umgebung entscheiden, wobei KAYTUS eine Unterstützung bei der Testdurchführung für die lokale Bereitstellung bietet. Weitere Informationen1 und die Möglichkeit zur Registrierung2 finden Sie unter Link1，Link2.

Über KAYTUS

KAYTUS ist ein führender Anbieter von IT-Infrastrukturprodukten und -lösungen und bietet eine Reihe innovativer, offener und umweltfreundlicher Infrastrukturlösungen für Cloud, KI, Edge Computing und andere neu entstehende Technologien. Mit einem kundenorientierten Ansatz passt sich KAYTUS durch sein agiles Geschäftsmodell flexibel an die Bedürfnisse der Nutzer an. Erfahren Sie mehr unter KAYTUS.com

Medienkontakte

media@kaytus.com