檢測到您已登錄華為云國際站賬號,為了您更好的體驗,建議您訪問國際站服務網(wǎng)站 http://m.cqfng.cn/intl/zh-cn
不再顯示此消息
遷移方案 圖1 遷移方案 H公司的車聯(lián)網(wǎng)大數(shù)據(jù)業(yè)務平臺當前CDH(Cloudera Hadoop) HBase集群中共有854張表約400TB,備HBase集群中共有149張表,約10TB數(shù)據(jù)。最近一個月新增的數(shù)據(jù)量是60TB。
Hive常用配置參數(shù) Hive是建立在Hadoop上的數(shù)據(jù)倉庫框架,提供大數(shù)據(jù)平臺批處理計算能力,能夠?qū)Y(jié)構(gòu)化/半結(jié)構(gòu)化數(shù)據(jù)進行批量分析匯總完成數(shù)據(jù)計算。 本章節(jié)主要介紹Hive常用參數(shù)。
步驟六:創(chuàng)建大數(shù)據(jù)遷移任務 完成步驟一到步驟五的操作,并了解大數(shù)據(jù)校驗任務的使用須知后。按照以下步驟創(chuàng)建大數(shù)據(jù)數(shù)據(jù)遷移任務。 創(chuàng)建源端MaxCompute連接。 創(chuàng)建目的端DLI連接。 創(chuàng)建元數(shù)據(jù)遷移任務或數(shù)據(jù)遷移任務并執(zhí)行。
對于關(guān)鍵類應用或性能要求較高的業(yè)務(如大數(shù)據(jù)集群、企業(yè)中間件系統(tǒng)),并且要求安全可靠的運行環(huán)境,使用裸金屬服務器更合適。 當使用BMS類型的規(guī)格時,不支持升級Master節(jié)點規(guī)格。 僅當集群的“計費模式”為“包年/包月”時,MRS支持使用BMS類型的規(guī)格。
大數(shù)據(jù)上云與實施服務 產(chǎn)品介紹 常見問題 計費說明 父主題: 上云與實施
查看MRS集群靜態(tài)資源 大數(shù)據(jù)管理平臺支持通過靜態(tài)服務資源池對沒有運行在Yarn上的服務資源進行管理和隔離。系統(tǒng)支持基于時間的靜態(tài)服務資源池自動調(diào)整策略,使集群在不同的時間段自動調(diào)整參數(shù)值,從而更有效地利用資源。
Flink起源于一個名為Stratosphere的研究項目,目的是建立下一代大數(shù)據(jù)分析平臺,于2014年4月16日成為Apache孵化器項目。
父主題: 大數(shù)據(jù)數(shù)據(jù)遷移
恢復Kafka元數(shù)據(jù) 操作場景 在用戶意外修改、刪除或需要找回數(shù)據(jù)時,系統(tǒng)管理員對ZooKeeper進行重大操作(如升級、重大數(shù)據(jù)調(diào)整等)后,系統(tǒng)數(shù)據(jù)出現(xiàn)異?;蛭催_到預期結(jié)果,導致Kafka組件全部故障無法使用,或者遷移數(shù)據(jù)到新集群的場景中,需要對Kafka元數(shù)據(jù)進行恢復數(shù)據(jù)操作。
源庫最大數(shù)據(jù)庫序號是否小于目標庫最大數(shù)據(jù)庫序號 Redis遷移場景 表1 源庫最大數(shù)據(jù)庫序號是否小于目標庫最大數(shù)據(jù)庫序號 預檢查項 源庫最大數(shù)據(jù)庫序號是否小于目標庫最大數(shù)據(jù)庫序號。 描述 源庫最大數(shù)據(jù)庫序號是否小于目標庫最大數(shù)據(jù)庫序號。
刪除大數(shù)據(jù)資產(chǎn) 功能介紹 刪除指定的大數(shù)據(jù)資產(chǎn)。 調(diào)用方法 請參見如何調(diào)用API。
在本次會議上,華為云大數(shù)據(jù)云服務首席架構(gòu)師分享了主題為“華為云大數(shù)據(jù)醫(yī)療服務方案分享”的精彩演講,宏觀地向參會者講解大數(shù)據(jù)如何全面服務于醫(yī)療行業(yè),并闡述敏捷、智慧、可信的華為云大數(shù)據(jù)醫(yī)療解決方案,以及華為云大數(shù)據(jù)服務的優(yōu)勢與價值。
恢復Doris業(yè)務數(shù)據(jù) 操作場景 在用戶意外修改、刪除或需要找回數(shù)據(jù)時,系統(tǒng)管理員對Doris進行重大操作(如升級、重大數(shù)據(jù)調(diào)整等)后,系統(tǒng)數(shù)據(jù)出現(xiàn)異?;蛭催_到預期結(jié)果,模塊全部故障無法使用,或者遷移數(shù)據(jù)到新集群的場景中,需要對Doris進行恢復數(shù)據(jù)操作。
在左側(cè)導航欄的項目下拉列表中選擇創(chuàng)建的大數(shù)據(jù)遷移項目。 在左側(cè)導航欄選擇“實施 > 大數(shù)據(jù)校驗”,進入大數(shù)據(jù)校驗頁面。 在功能入口區(qū)域,單擊“大數(shù)據(jù)遷移準備”,進入大數(shù)據(jù)遷移準備頁面。 選擇“連接管理”,單擊“創(chuàng)建連接”,右側(cè)彈出新增連接窗口。
廣義上來說,Hadoop大數(shù)據(jù)平臺也可以看做是新一代的數(shù)據(jù)倉庫系統(tǒng), 它也具有很多現(xiàn)代數(shù)據(jù)倉庫的特征,也被企業(yè)所廣泛使用。因為MPP架構(gòu)的可擴展性,基于MPP的數(shù)據(jù)倉庫系統(tǒng)有時候也被劃分到大數(shù)據(jù)平臺類產(chǎn)品。但是數(shù)據(jù)倉庫和Hadoop平臺還是有很多顯著的不同。
重啟相關(guān)組件 補丁安裝完成后,需要手動重啟相關(guān)大數(shù)據(jù)組件服務,使補丁生效。 提供兩種重啟方式,請根據(jù)業(yè)務自行選擇重啟方式: 滾動重啟:影響小,耗時長。 離線重啟:會斷服,耗時短。 登錄MRS管理控制臺或FusionInsight Manager界面。 重啟相關(guān)組件。
恢復CDL業(yè)務數(shù)據(jù) 操作場景 在用戶意外修改、刪除或需要找回數(shù)據(jù)時,系統(tǒng)管理員對CDL進行重大操作(如升級、重大數(shù)據(jù)調(diào)整等)后,系統(tǒng)數(shù)據(jù)出現(xiàn)異?;蛭催_到預期結(jié)果,模塊全部故障無法使用,或者遷移數(shù)據(jù)到新集群的場景中,需要對CDL進行恢復數(shù)據(jù)操作。
默認情況下,大數(shù)據(jù)集群內(nèi)組件間的通信是不加密的,為防止數(shù)據(jù)在公網(wǎng)或非可信網(wǎng)絡中被截獲,集群管理員可以調(diào)整Hadoop組件相關(guān)配置,使用加密協(xié)議對數(shù)據(jù)傳輸通道加密。 在HDFS組件的配置界面中設置相關(guān)參數(shù)的值,設置后全局生效,即Hadoop中各模塊的RPC通道是否加密全部生效。
共享交換平臺的部署 將前端上傳至服務器/usr/local/web下前端包 包名為:yunpi-web 將前端包上傳至服務器/usr/local/web下 修改/yunpi-web/config文件夾下的config.js Vim config.js 修改網(wǎng)關(guān)地址 圖1 上傳 后臺服務的啟動與配置
更新云服務器元數(shù)據(jù) 功能介紹 更新云服務器元數(shù)據(jù)。 如果元數(shù)據(jù)中沒有待更新字段,則自動添加該字段。 如果元數(shù)據(jù)中已存在待更新字段,則直接更新字段值。