檢測到您已登錄華為云國際站賬號,為了您更好的體驗,建議您訪問國際站服務網(wǎng)站 http://m.cqfng.cn/intl/zh-cn
不再顯示此消息
數(shù)據(jù)集成概述 DataArts Studio數(shù)據(jù)集成是一種高效、易用的數(shù)據(jù)集成服務,圍繞大數(shù)據(jù)遷移上云和智能數(shù)據(jù)湖解決方案,提供了簡單易用的遷移能力和多種數(shù)據(jù)源到數(shù)據(jù)湖的集成能力,降低了客戶數(shù)據(jù)源遷移和集成的復雜性,有效地提高您數(shù)據(jù)遷移和集成的效率。 數(shù)據(jù)集成即云數(shù)據(jù)遷移(Cloud
應用與數(shù)據(jù)集成平臺 ROMA Connect 應用與數(shù)據(jù)集成平臺 ROMA Connect 新一代組裝式融合集成平臺iPaaS,提供一體化的集成解決方案,無縫連接應用、消息、事件、數(shù)據(jù)、API、設備,驅動數(shù)字化轉型 新一代組裝式融合集成平臺iPaaS 重磅發(fā)布MCP一站式集成,賦能AI應用高效落地
最新動態(tài)(html) 本文介紹了Huawei Cloud EulerOS產品新特性和對應的文檔動態(tài),新特性將在各個區(qū)域(Region)陸續(xù)發(fā)布,歡迎體驗。
數(shù)據(jù)集成指導 業(yè)務使用介紹 接入數(shù)據(jù)源 創(chuàng)建數(shù)據(jù)集成任務(普通任務) 創(chuàng)建數(shù)據(jù)集成任務(組合任務) 創(chuàng)建數(shù)據(jù)集成任務(編排任務) 啟停數(shù)據(jù)集成任務 數(shù)據(jù)集成任務管理 連接器
的情況下,同步任務將執(zhí)行對源端數(shù)據(jù)向目標端數(shù)據(jù)的全量同步。在組件上可以看到同步的數(shù)據(jù)量及運行時長等信息。 圖5 全量同步 數(shù)據(jù)補錄 當發(fā)生源端歷史數(shù)據(jù)變更等情況時,通過在讀取組件自定義 SQL,可以添加針對日期字段進行過濾的 WHERE 條件,可以實現(xiàn)針對特定時間段的數(shù)據(jù)補錄需要。 圖6 數(shù)據(jù)補錄 增量同步
數(shù)據(jù)集成 數(shù)據(jù)集成主要包含三塊:離線集成,實時集成,集成任務。 圖1 數(shù)據(jù)集成 離線集成 主要為結構化集成和非結構化集成兩種,結構化集成主要是離線集成部署方式,非結構化集成為API部署方式。 結構化集成 圖2 結構化集成 集成作業(yè) 圖3 集成作業(yè) 任務名稱:自定義數(shù)據(jù) 需求類型:目前只支持新增
數(shù)據(jù)集成 數(shù)據(jù)集成普通任務 數(shù)據(jù)集成組合任務
表1 FDI功能 功能 簡介 數(shù)據(jù)集成任務的生命周期管理 FDI支持修改數(shù)據(jù)集成任務的信息、查看數(shù)據(jù)集成任務的運行報告、查看數(shù)據(jù)集成任務的運行日志、查看數(shù)據(jù)集成任務狀態(tài),完成數(shù)據(jù)集成任務的生命周期管理功能。
數(shù)據(jù)集成平臺操作手冊 平臺界面 數(shù)據(jù)集成 數(shù)據(jù)調度 功能列表 父主題: 實施步驟
集成方案設計 整體設計流程: 如上圖,數(shù)據(jù)查詢具體方案如下: 在集成工作臺創(chuàng)建sap(B1)連接器,連接器通過函數(shù)調用獲取token接口進行自定義認證; 在sap(B1)連接器中創(chuàng)建執(zhí)行動作,包含不同訂單的查詢,保存,更新等接口;
項目ID。 源端數(shù)據(jù)源ID 源端數(shù)據(jù)源ID。 目標端數(shù)據(jù)源ID 目標端數(shù)據(jù)源ID。 源端數(shù)據(jù)源的名稱 源端數(shù)據(jù)源的名稱。 目標端數(shù)據(jù)源的名稱 目標端數(shù)據(jù)源的名稱。 源端數(shù)據(jù)源所屬集成應用ID 源端數(shù)據(jù)源所屬集成應用ID。 目標端數(shù)據(jù)源所屬集成應用ID 目標端數(shù)據(jù)源所屬集成應用ID。 源端數(shù)據(jù)源所屬集成應用名稱
圖解應用與數(shù)據(jù)集成平臺
應用與數(shù)據(jù)集成平臺 ROMAConnect—資源與學習 應用與數(shù)據(jù)集成平臺 ROMAConnect—資源與學習 源自華為10年+數(shù)字化轉型實踐,新一代云原生低代碼iPaaS。
工作內容包括數(shù)據(jù)應用集成實施和數(shù)據(jù)應用內容開發(fā),將多個數(shù)據(jù)應用進行打通組合,或針對特定業(yè)務場景進行報表設計與開發(fā)。這部分工作偏向于IT側和業(yè)務應用側,不屬于數(shù)據(jù)平臺上線的必要條件。
消費偏移設置 選擇集成最早獲取的消息數(shù)據(jù)還是最新獲取的消息數(shù)據(jù)。 元數(shù)據(jù) 指從源端獲取到的JSON或XML格式數(shù)據(jù)中,要集成到目標端的每一個底層key-value型數(shù)據(jù)元素。 別名:對元數(shù)據(jù)的自定義名稱。 類型:元數(shù)據(jù)的數(shù)據(jù)類型,需要與源端數(shù)據(jù)中對應字段的數(shù)據(jù)類型一致。 解析路徑:由于數(shù)
個業(yè)務系統(tǒng)的某些數(shù)據(jù)時,就會出現(xiàn)獲取的數(shù)據(jù)內容不符合要求,無法直接與自己數(shù)據(jù)結合使用等問題,不同業(yè)務系統(tǒng)間的數(shù)據(jù)共用難度大,效率低,影響業(yè)務發(fā)展。 解決方案 數(shù)據(jù)集成FDI是ROMA Connect的數(shù)據(jù)集成組件,支持多種數(shù)據(jù)類型之間靈活、快速、無侵入式的數(shù)據(jù)集成和轉換,為業(yè)務系統(tǒng)之間建立有效的數(shù)據(jù)連接。
了解在財政行業(yè)解決方案中,如何通過ROMA Connect銜接內外部和行業(yè)生態(tài)數(shù)據(jù),打通各省、市、縣等數(shù)百個財政區(qū)數(shù)據(jù)?查看詳情。(點擊瀏覽、下載高清圖片)
數(shù)據(jù)集成平臺應用部署 將部署文件上傳到服務器/usr/local/下,解壓target4.0.tar tar -zxvf target4.0.tar 說明:需要java環(huán)境 檢查環(huán)境:java -vrsion 圖1 解壓 進入/usr/local/target4.0/bin下啟動服務;啟動命令:
數(shù)據(jù)集成權限 表1 數(shù)據(jù)集成權限 權限 對應API接口 授權項(Action) 依賴的授權項 IAM項目 (Project) 企業(yè)項目 (Enterprise Project) 創(chuàng)建任務 POST /v2/{project_id}/fdi/instances/{instance_id}/tasks
查看數(shù)據(jù)集成任務 概述 數(shù)據(jù)集成任務創(chuàng)建后,您可以查看任務的相關信息,包括任務的配置信息、運行日志、操作日志和調度日志等。 您也可以修改任務的配置,修改任務的操作跟創(chuàng)建任務類似,具體配置說明可參見創(chuàng)建數(shù)據(jù)集成任務。 請謹慎修改您的任務配置信息,避免目標端出現(xiàn)臟數(shù)據(jù)或者數(shù)據(jù)集成不完
字段注釋、數(shù)據(jù)類型、數(shù)據(jù)長度、數(shù)據(jù)量、數(shù)據(jù)主鍵、時間戳字段以及數(shù)據(jù)空值及分布情況等內容。在獲取數(shù)據(jù)接入授權與數(shù)據(jù)源端連接信息后,確定數(shù)據(jù)探查方法并實施探查,參照數(shù)據(jù)標準與數(shù)據(jù)集成需求對探查結果進行分析,最終輸出數(shù)據(jù)探查分析結果,形成問題清單,指導數(shù)據(jù)集成方案設計。 數(shù)據(jù)探查實施
在智慧水務項目中,華為云ROMA Connect提供的數(shù)據(jù)集成、秒級API流控等能力,幫助客戶提升開發(fā)、集成、上線效率,加速業(yè)務創(chuàng)新等。
近年來,各政務系統(tǒng)為貫徹落實國家大數(shù)據(jù)戰(zhàn)略,推進數(shù)據(jù)資源開放共享,助力城市經(jīng)濟從高速增長轉向高質量發(fā)展,建設市級政務大數(shù)據(jù)平臺,整合城市全時空、全方位、全要素的數(shù)據(jù)資源,打通數(shù)據(jù)壁壘、促進數(shù)據(jù)流通、加快數(shù)據(jù)開放、創(chuàng)新數(shù)據(jù)應用、提升數(shù)據(jù)價值,開始與各各數(shù)據(jù)服務平臺合力搭建政務大數(shù)據(jù)平臺,全面推動智慧城
在當今社會,大數(shù)據(jù)已經(jīng)由過去的概念階段過渡到現(xiàn)在的應用階段,那么各種大數(shù)據(jù)應用與服務也越來越多,而所有的這些大數(shù)據(jù)。所應用服務都離不開大數(shù)據(jù)的分析平臺。 華為的大數(shù)據(jù)平臺叫Fusionlnsight,就是一個集大數(shù)據(jù)存儲、處理與分析于一體的企業(yè)級統(tǒng)一化平臺。Fusionln
取各種數(shù)據(jù)庫的數(shù)據(jù)。 ROMA Connect的服務集成直接讀取數(shù)據(jù)庫中的數(shù)據(jù),把讀取到的數(shù)據(jù)封裝為一個RESTful API,并開放給企業(yè)內或企業(yè)外的其他業(yè)務系統(tǒng)。其他業(yè)務系統(tǒng)通過調用該API,即可獲取該業(yè)務系統(tǒng)數(shù)據(jù)庫中的數(shù)據(jù)。 ROMA Connect的服務集成把數(shù)據(jù)庫數(shù)據(jù)封裝為RESTful
歸檔數(shù)據(jù)遷移方案 本節(jié)介紹各云服務商存在歸檔數(shù)據(jù)時,如何解凍并遷移到華為云OBS。