HuaweiとDeepseekの発売CloudMatrix 384 Supernode:AIコンピューティングパワーの新しいベンチマーク
最近、HuaweiとDeepseekは共同で主要な製品をリリースしましたCloudMatrix 384スーパーノード、AIコンピューティングパワーインフラストラクチャのエントリを新しい時代にマークします。この画期的なテクノロジーは、Huaweiのハードウェアの利点とDeepSeekのアルゴリズムイノベーション機能を統合し、大規模なAIトレーニングのスーパーコンピューティングパワーサポートを提供します。
1。コアパフォーマンスパラメーター
索引 | パラメーター |
---|---|
コンピューティングユニット | 384 ASCEND 910Bプロセッサ |
コンピューティングパワースケール | 147.5 PFLOPS(FP16) |
インターネット帯域幅 | Huaweiの自己開発のエッジ相互接続アーキテクチャ、帯域幅は最大768GB/s |
エネルギー効率比 | 1.2tflops/w |
モデルサイズをサポートします | 1兆ドルのパラメータービッグモデルトレーニングを超えています |
2。技術的なブレークスルーのハイライト
1。不均一なコンピューティングアーキテクチャ:Huawei Atlas 900 PodとDeepseek分散トレーニングフレームワークの深い統合により、コンピューティングリソースの利用率は40%増加します。
2。動的弾性スケジューリング:リアルタイムの拡張とトレーニングタスクの削減をサポートし、障害回復時間を秒に短縮する
3。緑の省エネのデザイン:1.08という低いPUE値で、液冷熱散逸技術を使用します
3。業界のアプリケーションの見通し
アプリケーション領域 | 典型的なケース |
---|---|
自律運転 | 1,000万キロメートルでのシミュレーショントレーニングデータの並列処理をサポートします |
医薬品開発 | 分子動力学シミュレーション効率は300倍です |
金融技術 | ミリ秒レベルでの高周波取引戦略の反復を実現できます |
AIGC | 500億パラメーターマルチモーダル大規模モデルの毎週のトレーニングをサポート |
4。市場製品の比較
製品 | コンピューティングパワー(PFLOPS) | エネルギー効率比 | ノードスケール |
---|---|---|---|
CloudMatrix 384 | 147.5 | 1.2tflops/w | 384ノード |
Nvidia DGX H100 | 132 | 0.9tflops/w | ノード256 |
Google TPU V4 | 120 | 1.1tflops/w | 2048チップ |
5。生態学的構造の進歩
現在、20を超える大手企業がCloudMatrixエコシステム計画に参加しています。
- 学術機関:中国科学アカデミー、インテリジェント産業研究所、ティンシュア大学
- クラウドサービスプロバイダー:Alibaba Cloud、Tencent Cloud、Volcano Engine
- 業界ユーザー:Xiaopeng Motors、Wuxi Apptec、ping an
6。専門家の意見
中国人工知能産業開発アライアンスの事務局長は次のように述べています。「CloudMatrix 384の立ち上げは、超大規模なスケールクラスターの分野における国内のAIコンピューティングパワーインフラストラクチャの分野のギャップを埋め、その革新的な異質な共同アーキテクチャは、業界に新しい段階的な段階を提供します。」
公式報告によると、スーパーノードの最初のバッチは、2024年第2四半期の上海リンガンコンピューティングパワーハブとGui'an Huaweiクラウドデータセンターに展開され、年間生産能力は50のスーパーノードクラスターに到達すると予想されます。
詳細を確認してください
詳細を確認してください