邊緣云創(chuàng)新Lab在國際開源頂會Open Source Summit Japan分享邊云協(xié)同AI應用成果
2022年12月5日, 邊緣云創(chuàng)新Lab在國際開源頂會Open Source Summit (OSS) Japan分享邊云協(xié)同AI應用成果，演講題目為From Groud to Space: Cloud-Native Edge Machine-Learning Case Studies with Kubeedge-Sedna，主要講解KubeEdge-Sedna邊云協(xié)同終身學習和邊云協(xié)同推理的創(chuàng)新應用。
智能機器人感知
四足機器人被越來越多地用于現(xiàn)代生活，尤其在巡檢、遞送場景中發(fā)揮重要作用，幫助充分減少人工投入。眾所周知，機器人的室外任務依賴Simultaneous localization and mapping(SLAM)技術實現(xiàn)導航和定位，其中激光SLAM最為廣泛應用。但激光SLAM技術的缺點是無法探測低矮障礙物，比如馬路牙子和斜坡等，導致機器人容易被低矮障礙物絆倒，甚至導致任務中斷。因此視覺SLAM，尤其AI視覺SLAM能夠增強機器人對環(huán)境的感知能力，識別出低矮障礙，使機器人做出正確的避讓決策。
但在實際的遞送實踐中，四足機器人AI視覺感知遭遇以下挑戰(zhàn)：
?機器人本體資源不足。比如無法部署GPU，導致推理速度慢，機器人來不及做避讓決策；
?數(shù)據(jù)異構問題導致AI模型失效。比如，當機器人進入新環(huán)境，推理圖片和訓練圖片存在較大程度異構，AI模型無法很好地識別到前方低矮障礙；
?邊側數(shù)據(jù)不足，無法訓練一個高精度AI模型。比如，機器狗從新環(huán)境收集了一些新樣本，由于自身存儲資源限制導致新樣本數(shù)目較少，樣本質量差，無法支撐新環(huán)境AI模型的訓練。
為了解決以上挑戰(zhàn)，我們在演講中分享了基于Kubeedge-Sedna的邊云協(xié)同終身學習系統(tǒng)，創(chuàng)新性地實現(xiàn)未知任務識別和處理。解決思路如下：
?邊側（四足機器人）
未知任務識別：識別出未知任務樣本（異構數(shù)據(jù)），通知機器人暫停（避免摔倒），同時將未知任務樣本上云；
未知任務在線處理：實時處理未知任務樣本，而不是讓機器人原地等待新模型訓練完畢再往前走?？刹扇〉奶幚矸椒ㄓ校和ㄖ斯そ槿搿⑦b操作等。
?云側
未知任務訓練：將上云的未知任務樣本打標并訓練。采用多任務學習和遷移學習方法，以少樣本實現(xiàn)高精度模型，減少人工打標工作量，使未知樣本變成已知樣本。
Demo表明，對比不配置未知任務識別和未知任務處理的方案，Kubeedge-Sedna的邊云協(xié)同終身學習系統(tǒng)顯著提升了機器人的任務質量，減少機器人摔倒。
基于Sedna的邊云協(xié)同終身學習系統(tǒng)架構
云原生衛(wèi)星農(nóng)田檢測
遙感衛(wèi)星執(zhí)行農(nóng)田資產(chǎn)盤點任務時，需基于觀測的圖像，估算農(nóng)田作物在全國的實際種植面積。但實際部署遇到以下挑戰(zhàn)
? 帶寬利用率低：由于誤碼存在需3倍數(shù)據(jù)的冗余傳輸。衛(wèi)星下行帶寬有限，邊側部署能支持更多應用；
? 能量利用率低：數(shù)據(jù)傳輸是衛(wèi)星上最耗電的部分，邊側部署有助于降低數(shù)據(jù)傳輸并節(jié)約能量；
? 檢測精度低：衛(wèi)星上受限于空間、能耗等因素，無法部署GPU卡（或者會對衛(wèi)星的體積和能耗提出更高要求）。當前計算性能較弱、推理時間慢，針對衛(wèi)星的高清圖片無法很好的進行識別。
為了解決遙感衛(wèi)星執(zhí)行AI推理任務的以上挑戰(zhàn)，我們在演講中分享了基于Sedna的邊云協(xié)同推理系統(tǒng)。解決思路如下：
? 部署邊云協(xié)同AI模型。邊側（遙感衛(wèi)星）部署小模型，云側（地面GPU服務器）部署大模型；
? 難例上云。邊側小模型推理置信度不滿足要求，則將樣本送到云上大模型推理。
基于Sedna的邊云協(xié)同云原生衛(wèi)星推理架構
測試結果表明，模型精準率和召回率高達99%，實現(xiàn)以下業(yè)務收益：提升面積統(tǒng)計率、降低衛(wèi)星能耗、降低星地傳輸通信量、降低傳輸成本等。
Open Source Summit Japan 介紹
Open Source Summit（前身為LinuxCon）是Linux基金會自2009年以來每年組織的一系列年度大會，峰會舉辦地主要在北美、歐洲和日本。越來越多的開源專家、技術專家和信息技術領域的開發(fā)人員在該峰會討論對技術領域的計劃，并宣布重大新聞，使得該峰會在技術領域擁有強大號召力和影響力。據(jù)統(tǒng)計，每年OSS proposal錄用率約為30%。
OSS演講視頻：https://www.youtube.com/watch?v=bIaeWGelsJE
Sedna項目地址：https://github.com/kubeedge/sedna