MotusAI

GPU 共有スケジューリング戦略では、GPU リソースの単一デバイス共有を提供し、GPU 当たり最大 64 のタスクの共有を支援します。粒度に関係なく割り当てと分離をサポートします。ユーザーは GPU メモリーに基づき GPU リソースを動的にリクエストできます。

トレーニングデータにおける「ゼロコピー」伝送、マルチスレッドフェッチ、増分データ更新、親和性のあるスケジューリングの戦略により、データキャッシュサイクルを大幅に短縮し、モデルの開発・トレーニング効率を改善します。

TensorFlow、PyTorch、その他の主流フレームワークでの MPI によって分散型トレーニングの拡張をサポートし、標準的な UI 操作を提供するため、ユーザーは単純な GPU リソースとトレーニングのスクリプト設定で分散型トレーニングを送信できるようになります。

トレーニングタスクのための耐障害性を提供することで、プラットフォームはタスクの継続的なトレーニングを効果的に保証し、サーバークラッシュや GPU 障害が発生した場合の回復時間を短縮することができます。