檢測(cè)到您已登錄華為云國際站賬號(hào),為了您更好的體驗(yàn),建議您訪問國際站服務(wù)網(wǎng)站 http://m.cqfng.cn/intl/zh-cn
不再顯示此消息
type'='xx'); Hive/Presto等引擎可以直接修改表屬性,但是這種修改會(huì)導(dǎo)致整個(gè)Hudi表出現(xiàn)數(shù)據(jù)重復(fù),甚至數(shù)據(jù)損壞;因此禁止修改上述屬性。 父主題: Spark on Hudi開發(fā)規(guī)范
Studio數(shù)據(jù)治理全鏈路包含數(shù)據(jù)集成、數(shù)據(jù)管理(架構(gòu)設(shè)計(jì)、指標(biāo)設(shè)計(jì)、數(shù)據(jù)質(zhì)量管理)、數(shù)據(jù)開發(fā)、數(shù)據(jù)資產(chǎn)管理和數(shù)據(jù)服務(wù)等不同階段。在數(shù)據(jù)動(dòng)態(tài)流動(dòng)場(chǎng)景下,可通過數(shù)據(jù)訪問控制、數(shù)據(jù)脫敏等安全防護(hù)措施保障數(shù)據(jù)全鏈路、全生命周期安全能力。例如:數(shù)據(jù)入湖階段,支持對(duì)敏感字段進(jìn)行脫敏設(shè)置,支持對(duì)數(shù)據(jù)源連接進(jìn)行管控,控制對(duì)
文章目錄 設(shè)計(jì)規(guī)范邏輯架構(gòu)技術(shù)架構(gòu)分層設(shè)計(jì)主題劃分分級(jí)管理 命名規(guī)范層級(jí)任務(wù)表字段 模型規(guī)范建模方法建模工具血緣關(guān)系維度退化元數(shù)據(jù)管理 開發(fā)規(guī)范腳本注釋字段別名腳本格式流程規(guī)范 設(shè)計(jì)規(guī)范 邏輯架構(gòu) 數(shù)據(jù)采集 數(shù)據(jù)采集層:數(shù)據(jù)采集層的任務(wù)就是
最近看機(jī)房驗(yàn)收標(biāo)準(zhǔn),里面提到了代碼的命名規(guī)范,順便再學(xué)習(xí)一遍。
Hudi數(shù)據(jù)表管理操作規(guī)范 Hudi數(shù)據(jù)表Compaction規(guī)范 Hudi數(shù)據(jù)表Clean規(guī)范 Hudi數(shù)據(jù)表Archive規(guī)范 父主題: Hudi應(yīng)用開發(fā)規(guī)范
具體的棄用情況。 服務(wù)端統(tǒng)計(jì)棄用API相關(guān)數(shù)據(jù) API提供者必須對(duì)棄用API進(jìn)行詳細(xì)的數(shù)據(jù)統(tǒng)計(jì),直到API可以被停止服務(wù)。服務(wù)端應(yīng)該盡量避免因?yàn)闂売卯a(chǎn)生不可控的影響。 API 提供者可以根據(jù) 棄用 API 統(tǒng)計(jì)數(shù)據(jù),推動(dòng)使用廢棄 API 的客戶端加快升級(jí)流程。
GET操作GET操作用于獲取資源的場(chǎng)景,GET操作成功返回狀態(tài)碼200,GET操作必須具備安全性和冪等性。安全性指經(jīng)過操作后不改變服務(wù)器狀態(tài)。冪等性指不允許對(duì)資源狀態(tài)做相對(duì)的改動(dòng)。 查詢請(qǐng)求盡量使用GET接口,POST能不用就不用。
、彈性伸縮等運(yùn)維能力。 服務(wù)編排:可指定服務(wù)之間的拓?fù)湟蕾囮P(guān)系。 兼容社區(qū)規(guī)范:全面兼容Helm和Operator Framework服務(wù)管理規(guī)范。 包含服務(wù) 服務(wù)元數(shù)據(jù)Metadata:聲明服務(wù)的核心數(shù)據(jù),包括服務(wù)類型、支持架構(gòu)、服務(wù)分類、使用場(chǎng)景等必要信息。 資源集合Mani
Hudi數(shù)據(jù)表Archive規(guī)范 Archive(歸檔)是為了減輕Hudi讀寫元數(shù)據(jù)的壓力,所有的元數(shù)據(jù)都存放在這個(gè)路徑:Hudi表根目錄/.hoodie目錄,如果.hoodie目錄下的文件數(shù)量超過10000就會(huì)發(fā)現(xiàn)Hudi表有非常明顯的讀寫時(shí)延。 規(guī)則 Hudi表必須執(zhí)行Archive。
Doris數(shù)據(jù)查詢規(guī)范 該章節(jié)主要介紹Doris數(shù)據(jù)查詢時(shí)需遵循的規(guī)則和建議。 Doris數(shù)據(jù)查詢規(guī)則 在數(shù)據(jù)查詢業(yè)務(wù)代碼中建議查詢失敗時(shí)進(jìn)行重試,再次下發(fā)查詢。 in中常量枚舉值超過1000后,必須修改為子查詢。 禁止使用REST API(Statement Execution
敏感數(shù)據(jù)展示:基于DSC的三層數(shù)據(jù)識(shí)別引擎、預(yù)置合規(guī)規(guī)則、自然語義識(shí)別技術(shù)、文件相似度檢測(cè)技術(shù),對(duì)數(shù)據(jù)資產(chǎn)進(jìn)行分類分級(jí)。 數(shù)據(jù)出口分析:基于資產(chǎn)地圖構(gòu)建統(tǒng)一的數(shù)據(jù)出口和出口風(fēng)險(xiǎn)視圖,幫助用戶識(shí)別云上云下數(shù)據(jù)可能的出口,以及這些出口存在的潛在安全風(fēng)險(xiǎn),方便用戶采取相應(yīng)的數(shù)據(jù)安全防護(hù)措施。 圖2 數(shù)據(jù)出口分析
本視頻為您介紹VPC安全組和安全組規(guī)則,包括安全組的作用、安全組規(guī)則的組成、默認(rèn)安全組的說明以及流量匹配安全組規(guī)則的順序等信息。 安全組規(guī)則 安全組中包括入方向規(guī)則和出方向規(guī)則,用來控制安全組內(nèi)實(shí)例的入方向和出方向的網(wǎng)絡(luò)流量。 入方向規(guī)則:控制外部請(qǐng)求訪問安全組內(nèi)的實(shí)例,即流量流入實(shí)例。
華為數(shù)據(jù)治理實(shí)踐 華為數(shù)據(jù)治理的規(guī)范流程建設(shè),完成了從數(shù)據(jù)產(chǎn)生、數(shù)據(jù)整合、數(shù)據(jù)分析與數(shù)據(jù)消費(fèi)全價(jià)值流的規(guī)則制定。華為數(shù)據(jù)治理組織實(shí)踐,建立實(shí)體化的數(shù)據(jù)管理組織,向公司數(shù)據(jù)管理部匯報(bào),同時(shí)組建了跨領(lǐng)域數(shù)據(jù)聯(lián)合作戰(zhàn)團(tuán)隊(duì)。華為已建立統(tǒng)一的數(shù)據(jù)分類管理框架,指導(dǎo)各領(lǐng)域進(jìn)行分類管理。華為信
DCS數(shù)據(jù)安全 安全性是華為云與您的共同責(zé)任。華為云負(fù)責(zé)云服務(wù)自身的安全,提供安全的云;作為租戶,您需要合理使用云服務(wù)提供的安全能力,對(duì)數(shù)據(jù)進(jìn)行保護(hù),安全地使用云。詳情請(qǐng)參見責(zé)任共擔(dān)。 本文提供了使用DCS過程中的安全最佳實(shí)踐,旨在為提高整體安全能力提供可操作的規(guī)范性指導(dǎo)。根據(jù)該
part過多,merge壓力變大,甚至出現(xiàn)異常影響數(shù)據(jù)插入; 數(shù)據(jù)的一致性問題:數(shù)據(jù)先在分布式表寫入節(jié)點(diǎn)的主機(jī)落盤,然后數(shù)據(jù)被異步地發(fā)送到本地表所在主機(jī)進(jìn)行存儲(chǔ),中間沒有一致性的校驗(yàn),如果分布式表寫入數(shù)據(jù)的主機(jī)出現(xiàn)異常,會(huì)存在數(shù)據(jù)丟失風(fēng)險(xiǎn); 對(duì)于數(shù)據(jù)寫分布式表和數(shù)據(jù)寫本地表相比,分布式表數(shù)據(jù)寫入性能也會(huì)變慢,單
Doris數(shù)據(jù)導(dǎo)入規(guī)范 該章節(jié)主要介紹Doris數(shù)據(jù)導(dǎo)入規(guī)范。 數(shù)據(jù)導(dǎo)入 【建議】在Flink實(shí)時(shí)寫入數(shù)據(jù)到Doris的場(chǎng)景下,CheckPoint設(shè)置的時(shí)間需要考慮每批次數(shù)據(jù)量,如果每批次數(shù)據(jù)太小會(huì)造成大量小文件,推薦值為60s。 【建議】建議低頻攢批導(dǎo)入數(shù)據(jù),平均單表導(dǎo)入批次
Doris數(shù)據(jù)變更規(guī)范 該章節(jié)主要介紹Doris數(shù)據(jù)變更時(shí)需遵循的規(guī)范和建議。 數(shù)據(jù)變更類 【強(qiáng)制】應(yīng)用程序不可以直接使用delete或者update語句變更數(shù)據(jù),可以使用CDC的upsert方式來實(shí)現(xiàn)。 低頻操作上使用,比如Update幾分鐘更新一次。 如果使用Delete一定帶上分區(qū)條件。
目錄 一、為什么要進(jìn)行規(guī)范設(shè)計(jì)? 二、設(shè)計(jì)規(guī)范 - 指標(biāo) 三、命名規(guī)范 - 表命名 3.1 常規(guī)表 3.2 中間表 3.3 臨時(shí)表 3.4 維度表 四、開發(fā)規(guī)范 五、流程規(guī)范 一、為什么要進(jìn)行規(guī)范設(shè)計(jì)? 無規(guī)矩、不方圓。規(guī)范設(shè)計(jì)是在具體開發(fā)工作之前制定的
Hudi數(shù)據(jù)表管理操作規(guī)范 Hudi數(shù)據(jù)表Compaction規(guī)范 Hudi數(shù)據(jù)表Clean規(guī)范 Hudi數(shù)據(jù)表Archive規(guī)范 父主題: DLI Hudi開發(fā)規(guī)范
數(shù)據(jù)庫對(duì)象使用規(guī)范 命名規(guī)范 規(guī)則1:命名不能和數(shù)據(jù)庫的關(guān)鍵字重復(fù)。 規(guī)則2:對(duì)于對(duì)象名稱(包括庫名、表名、字段名、索引名等)必須使用小寫字母, 并采用下劃線分隔。 規(guī)則3:對(duì)于對(duì)象名稱(包括庫名、表名、字段名、索引名等)長度需要有所限制,所有的對(duì)象名稱長度不得超過30個(gè)字符。