導語：華為全聯(lián)接 2020期間，華為云AI首席科學家田奇介紹了華為云長期扎根AI基礎技術的研究成果，發(fā)布一站式AI開發(fā)平臺ModelArts3.0，助力行業(yè)AI落地。
在多項業(yè)界公開競賽和測評中，華為云EI的持續(xù)創(chuàng)新研究均取得了不錯的成果，這離不開華為云EI在人工智能領域的長期投入。
華為云長期扎根AI的基礎研究，覆蓋計算機視覺、語音語義和決策優(yōu)化三大領域，聚焦于模型高效、數(shù)據(jù)高效、算力高效及知識高效四大方向，華為提出了六大基礎研究計劃：面向大模型的模型摸高計劃、面向小模型的模型瘦身計劃、面向多模態(tài)學習的數(shù)據(jù)魔方計劃、面向小樣本學習的數(shù)據(jù)冰山計劃、面向通用知識抽取的萬物預視計劃及面向新學習范式的虛實合一計劃。
同時，華為云的諸多研究成果，包括自動機器學習、小樣本學習、聯(lián)邦學習、預訓練模型等，能夠即插即用地部署于ModelArts使能平臺，助力AI賦能千行百業(yè)。
聚焦AI三大基礎研究領域
感知方面，華為云在ImageNet大規(guī)模圖像分類、WebVision大規(guī)模網絡圖像分類、MS-COCO二維物體檢測、nuScenes三維物體檢測、視覺預訓練模型的下游分類/檢測/分割等驗證中，均保持業(yè)界領先。目前，由ModelArts驅動的感知模型已經在醫(yī)療影像分析、油氣勘探及工業(yè)故障檢測等領域獲得了廣泛應用。
認知方面，依托語音語義和知識圖譜方向的積累，華為云整合行業(yè)數(shù)據(jù)，通過對多樣、復雜、孤島化的數(shù)據(jù)進行治理，實現(xiàn)了感知智能到認知智能的飛躍。目前，由ModelArts驅動的認知模型已在藥物靶點預測、金融詐騙分析、智能售后客服等多項任務中得到應用。
決策方面，依托運籌優(yōu)化、強化學習、智能控制等算法，華為已經構建起完整的決策底座，使得AI能夠真正實現(xiàn)感知-認知-決策的智能閉環(huán)。目前，由ModelArts驅動的決策引擎已經應用于機位分配、工業(yè)制造、智能交通、游戲娛樂等多個領域。
華為云發(fā)布的ModelArts3.0，是面向AI行業(yè)落地提供的一站式AI開發(fā)平臺。華為云一直在探索，如何通過AI技術高效地解決行業(yè)的挑戰(zhàn)，比如，如何用極少數(shù)據(jù)訓練出高精度模型？如何降低企業(yè)應用AI的門檻？如何解決企業(yè)對數(shù)據(jù)安全使用的顧慮等？最終，華為云將骨干模型、聯(lián)邦學習、智能診斷評估優(yōu)化和高效算力，很好地融入了ModelArts3.0。
ModelArts3.0四大新特性
華為云骨干工具鏈EI-Backbone，集模型高效、數(shù)據(jù)高效、算力高效及知識高效為一體，可全面提升行業(yè)AI的落地能力。EI-Backbone的能力，已經在10余個行業(yè)獲得成功驗證，斬獲10余個業(yè)界挑戰(zhàn)賽冠軍，發(fā)表相關頂級論文100余篇。
EI-Backbone提供了AI開發(fā)的新范式，以肺部醫(yī)療影像分割為例：
過去需要成百上千例標注數(shù)據(jù)才能進行的訓練，如果采用EI-Backbone，只需幾十例甚至十幾例標注數(shù)據(jù)即可完成，節(jié)省標注成本90%以上；
過去需要大量專家經驗和試錯成本的模型選擇和超參調節(jié)，通過EI-Backbone提供的全空間網絡架構搜索和自動超參優(yōu)化技術，可在無需人工干預的情況下快速完成，且精度大幅提升；
過去需要幾周甚至更長時間從頭開始的模型訓練、測試、驗收和部署流程，在加載EI-Backbone集成的預訓練模型后，可以縮短到幾小時甚至幾分鐘內完成，訓練成本降低90%以上。
ModelArts 3.0下一個特性——聯(lián)邦學習
眾所周知，數(shù)據(jù)是AI應用的基礎，只有基于多樣化的數(shù)據(jù)，才能實現(xiàn)AI智能感知。然而，當AI在行業(yè)實際落地時，由于數(shù)據(jù)分散在不同的數(shù)據(jù)控制者之間，導致的行業(yè)應用數(shù)據(jù)孤島問題，使得AI算法的訓練效果受到限制。
針對這個問題，華為云Modelarts提供了聯(lián)邦學習特性，可實現(xiàn)數(shù)據(jù)不出戶的聯(lián)合建模。即用戶各自利用本地數(shù)據(jù)訓練，不交換數(shù)據(jù)本身，只用加密方式交換更新的模型參數(shù)，就可實現(xiàn)協(xié)同訓練。
華為云EI在與中國科學院上海藥物所蔣華良院士的合作過程中，將華為自研的FedAMP算法及AutoGenome算法應用到藥物研發(fā)的AI任務中，精準預測了藥物水溶解性、心臟毒性和激酶活性，其準確度遠超傳統(tǒng)的聯(lián)邦學習和深度學習算法。
此外，華為云提供的云邊協(xié)同服務，可支持不同地點、不同客戶的數(shù)據(jù)進行聯(lián)邦訓練，通過加密方式上傳服務端，對全局模型進行更新，再將其下發(fā)至邊緣設備，就可便捷支持同業(yè)態(tài)的橫向聯(lián)邦及跨業(yè)態(tài)的縱向聯(lián)邦學習。
聯(lián)邦訓練參與者可以通過云端，也可以通過華為云邊緣設備（如智能小站）的計算能力參與聯(lián)邦訓練，實現(xiàn)行業(yè)內的聯(lián)合建模。
模型在部署上線前，需要進行充分評估，結果優(yōu)秀的模型直接投入生產環(huán)境，差強人意的則需要進一步優(yōu)化迭代。ModelArts提供了全面的可視化評估、智能化診斷功能，使得開發(fā)者可以直觀地了解模型的各方面性能，進而針對性地進行調優(yōu)或部署生產。
以上皮病變細胞分類模型的評估為例：
在精度方面，華為云ModelArts不僅提供了包含準確率、精確率、召回率、F1值、混淆矩陣、ROC曲線等常規(guī)指標，還提供了數(shù)據(jù)敏感度分析模塊，以評估模型在不同數(shù)據(jù)特征子區(qū)間上的表現(xiàn)；
在性能方面，ModelArts提供了算子級別的時間、空間消耗統(tǒng)計分析及多種整體的性能指標，并且可針對模型的表現(xiàn)給出相應建議，如模型量化、蒸餾等；
在可解釋性方面，ModelArts提供了熱力圖，用以展示模型做出推理判斷所依據(jù)的區(qū)域；
在可信方面，ModelArts內置了多種模型可信相關評測方法，提供了多角度模型安全能力評估指標，并能依據(jù)當前模型表現(xiàn)給出相應的防御建議。
隨著深度學習分布式訓練的不斷發(fā)展,各類模型的訓練對于計算設備的需求越來越大。但由于各種原因,訓練作業(yè)的資源還沒有被充分利用。造成資源浪費的因素主要包括以下幾點:
訓練算法的代碼本身質量不高，資源利用率低；
模型大小及超參數(shù)的設置也會顯著地改變計算資源的利用率；
資源池整體利用率存在波動峰谷。類似于“峰谷電”,訓練作業(yè)的提交也有高峰期和低谷期，造成很大的資源浪費。
彈性訓練是ModelArts的核心能力之一，其可以根據(jù)模型訓練速度的需求自適應，以實現(xiàn)資源的最佳分配。
ModelArts提供兩種模式，一是Turbo模式，可以充分利用空閑資源加速已有訓練作業(yè)，訓練速度可提升10倍以上，并且不影響模型的收斂精度；二是經濟模式，可以通過最大化資源利用率給開發(fā)者提供極致的性價比，在大多數(shù)典型場景下可以提升性價比30%以上。
為了更好地支持超大算力需求的AI研發(fā)，華為ModelArts平臺對集群規(guī)模、任務數(shù)量以及分布式訓練都進行了針對性的優(yōu)化。
目前，ModelArts研發(fā)平臺能夠管理上萬節(jié)點，可更好地支持大型訓練任務的需求。通過優(yōu)化服務框架，ModelArts平臺在支持10萬級別作業(yè)的同時，還可運行大規(guī)模分布式任務。
優(yōu)秀的分布式加速比是大規(guī)模集群分布式訓練的關鍵能力，也是促使用戶選擇使用大規(guī)模集群來加速AI業(yè)務的關鍵因素。
華為云ModelArts具有領先的分布式加速比能力，在骨干模型、聯(lián)邦學習、模型診斷優(yōu)化、高效算力的加持下，華為云ModelArts將加速AI在行業(yè)落地。
未來，華為云將持續(xù)聚焦于模型高效、數(shù)據(jù)高效、算力高效和知識高效4個重點方向，扎根于AI基礎研究。在計算機視覺、語音語義、決策優(yōu)化3大AI領域進行基礎研究計劃投入，華為云將持續(xù)努力，提供強大的AI技術，以支持每一位開發(fā)者發(fā)揮所長、創(chuàng)造獨特價值，持續(xù)踐行普惠AI，與全球開發(fā)者共成長的理念！
