華為云計算 云知識 AI容器具備哪些優(yōu)勢?
AI容器具備哪些優(yōu)勢?

AI容器用Serverless的方式提供算力,極大方便算法科學家進行訓練和推理。

AI容器原生支持TF,Caffe,MXNET,pytorh,mindspore等主流的訓練框架。

AI容器通過拓撲親和性調度,調度任務時將GPU間網絡和存儲狀態(tài)也考慮在內,保證GPU間高速通信,從而提升線性加速比,目前32卡GPU線性加速比為0.97+,比友商提升50%。

AI容器支持多種算力,包括昇騰算力,相比傳統(tǒng)GPU算力提升30%。

通過使用AI容器,華為云在DAWN Bench性能評比中奪得雙料冠軍,128卡GPU線性加速比達到0.8。