華為云計算 云知識 一文讀懂華為云IoT數(shù)據(jù)分析服務
一文讀懂華為云IoT數(shù)據(jù)分析服務

華為云針對物聯(lián)網(wǎng)領域業(yè)務提供了一系列專業(yè)的云服務,如設備接入、IoT數(shù)據(jù)分析服務等;其中IoT數(shù)據(jù)分析服務是專為IoT數(shù)據(jù)分析業(yè)務場景特征做了深度優(yōu)化的云服務,基于物聯(lián)網(wǎng)資產模型、整合物聯(lián)網(wǎng) 數(shù)據(jù)集 成、清洗、存儲、分析、可視化等能力,為開發(fā)者提供一站式的IoT數(shù)據(jù)分析能力,降低開發(fā)門檻,縮短開發(fā)周期,快速實現(xiàn)物聯(lián)網(wǎng)數(shù)據(jù)價值變現(xiàn)。那么為什么要進行數(shù)據(jù)分析如下圖所示。

大量的數(shù)據(jù)需要數(shù)據(jù)分析

物聯(lián)網(wǎng)數(shù)據(jù)的特點

如何做好IoT數(shù)據(jù)分析

資產模型

資產模型是IoT數(shù)據(jù)分析服務充分理解物聯(lián)網(wǎng)數(shù)據(jù)的基礎。構建資產模型,就是構建物與物,物與空間,物與人等復雜關系,將物聯(lián)網(wǎng)數(shù)據(jù)置于模型的上下文中去理解。資產模型就是物理世界的資產在數(shù)字世界中的映射,兩邊的數(shù)據(jù)準實時同步,實現(xiàn)數(shù)字孿生。IoT數(shù)據(jù)分析服務基于資產模型抽象,將不同的設備上報數(shù)據(jù)統(tǒng)一為業(yè)務可理解的數(shù)據(jù)格式。如下圖所示。

物聯(lián)網(wǎng)數(shù)據(jù)處理的關鍵是對時序數(shù)據(jù)的處理寫入功能:怎樣滿足海量設備高并發(fā),實時寫入的要求?

壓縮比例:某些物聯(lián)網(wǎng)設備可能產生巨量數(shù)據(jù),最大限度的壓縮是減少成本的直接手段。

查詢效率:面對長時間積累的物聯(lián)網(wǎng)數(shù)據(jù),如何滿足高性能查詢,特別是經(jīng)常做時間維度的聚合查詢。

 

按數(shù)據(jù)時效性分層處理,獲得綜合處理效率最大化

高效的數(shù)據(jù)清洗,為數(shù)據(jù)分析輸入高質量的數(shù)據(jù)

相比將設備數(shù)據(jù)轉發(fā)至通用數(shù)據(jù)分析服務進行分析的方案,IoT數(shù)據(jù)分析服務是專為物聯(lián)網(wǎng)場景設計的。

IoT數(shù)據(jù)分析服務支持設備接入管理服務和多種第三方服務作為數(shù)據(jù)源,將數(shù)據(jù)集成、歸檔、存儲后進行分析,分析引擎基于資產模型理解數(shù)據(jù),支持實時分析、時序分析和離線分析。此外,針對行業(yè)用戶,IoT數(shù)據(jù)分析后還提供了行業(yè)分析套件,包括智慧物流行業(yè)、新能源車分析行業(yè)等。分析后的數(shù)據(jù),可以協(xié)同 AI平臺 利用,也可以開發(fā)給第三方應用或華為云其他服務。數(shù)據(jù)分析的架構如下圖所示。

離線分析

幫助物聯(lián)網(wǎng)數(shù)據(jù)開發(fā)者快速構建物聯(lián)網(wǎng) 數(shù)據(jù)湖 ,開發(fā)者可通過標準SQL開發(fā)IoT數(shù)據(jù)分析任務,并輕松處理TB-EB級別物聯(lián)網(wǎng) 大數(shù)據(jù)

數(shù)據(jù)湖:提供成本低廉的海量數(shù)據(jù)存儲能力,與物聯(lián)網(wǎng) 設備接入服務 無縫對接,快速接入物聯(lián)網(wǎng)數(shù)據(jù)源,并基于物聯(lián)網(wǎng)資產模型,對物聯(lián)網(wǎng)數(shù)據(jù)進行預處理,為數(shù)據(jù)分析做好準備

大數(shù)據(jù)分析:使用大數(shù)據(jù)高可用,可水平擴展框架,基于內存計算模型,DAG調度框架、高效的優(yōu)化器,綜合性能是傳統(tǒng)MapReduce模型的百倍以上,幫助開發(fā)者輕松完成物聯(lián)網(wǎng)數(shù)據(jù)批分析

標準SQL作業(yè):提供標準的SQL接口,物聯(lián)網(wǎng)數(shù)據(jù)開發(fā)者無需關心SQL處理引擎的部署和運維,只需聚焦物聯(lián)網(wǎng)業(yè)務,開發(fā)分析作業(yè),并支持豐富的作業(yè)調度策略配置。如下圖所示。

實時分析

基于物聯(lián)網(wǎng)大數(shù)據(jù)流計算引擎,提供物聯(lián)網(wǎng)實時分析能力。為了降低開發(fā)者開發(fā)物聯(lián)網(wǎng)流分析作業(yè)門檻,IoT數(shù)據(jù)分析服務提供圖形化流編排能力,開發(fā)者可以通過拖拽方式快速開發(fā)上線。

圖形化流編排能力:可視化流編排IDE,無需寫SQL,通過簡單拖拽完成物聯(lián)網(wǎng)流分析作業(yè)定義

物聯(lián)網(wǎng)流編排算子:基于典型物聯(lián)網(wǎng)應用場景,封裝常用算子,比如數(shù)據(jù)接入,數(shù)據(jù)過濾,數(shù)據(jù)轉換等等。如下圖所示。

時序分析

物聯(lián)網(wǎng)的數(shù)據(jù)具備時間序列特性,如下圖所示。

專為物聯(lián)網(wǎng)時序數(shù)據(jù)處理優(yōu)化的服務,包括高壓縮比的時序數(shù)據(jù)存儲,高效的時序查詢效率,海量時間線能力;

海量接入:海量時間線能力,最大可達億級。

時序存儲:列式存儲及專用壓縮算法,高壓縮率。

高效查詢:基于時間多維度聚合,近實時分析查詢。

數(shù)據(jù)可視化 :提供時序洞察工具,方便物聯(lián)網(wǎng)數(shù)據(jù)分析師進行時序數(shù)據(jù)探索。