了解華為云最新動(dòng)態(tài)
7月22日,華為云Stack在中國(guó)信息通信研究院組織的《面向行業(yè)的大模型云服務(wù)運(yùn)維能力成熟度》評(píng)估中,首批通過(guò)大模型混合云部署形式最高等級(jí)Lv5引領(lǐng)級(jí)的檢驗(yàn),華為混合云副總裁、SRE部部長(zhǎng)李金鋒出席授牌儀式。
圖1:華為云Stack獲得最高等級(jí)Lv5引領(lǐng)級(jí)檢驗(yàn)證書(shū)
為了進(jìn)一步推進(jìn)大模型在行業(yè)側(cè)的落地應(yīng)用,引領(lǐng)行業(yè)智能化升級(jí),中國(guó)信息通信研究院聯(lián)合多家單位基于AI行業(yè)云相關(guān)標(biāo)準(zhǔn)與評(píng)估實(shí)踐,結(jié)合行業(yè)場(chǎng)景下大模型運(yùn)維需求,共同編制《面向行業(yè)的大模型云服務(wù)運(yùn)維能力成熟度》標(biāo)準(zhǔn)。該標(biāo)準(zhǔn)旨在規(guī)范智算基礎(chǔ)設(shè)施、大模型、智能應(yīng)用運(yùn)維團(tuán)隊(duì)的服務(wù)范圍及能力,推進(jìn)大模型等AI需求基于云計(jì)算實(shí)現(xiàn)場(chǎng)景應(yīng)用。在第十二屆可信云大會(huì)上,中國(guó)信息通信研究院聯(lián)合多家編制單位正式發(fā)布該標(biāo)準(zhǔn)。
該標(biāo)準(zhǔn)從頂層設(shè)計(jì)、行業(yè)運(yùn)維實(shí)踐、應(yīng)用運(yùn)維管理、模型運(yùn)維管理、算力運(yùn)維管理、模型運(yùn)維平臺(tái)、模型運(yùn)維體系、模型故障管理、模型運(yùn)維安全九個(gè)方面對(duì)待評(píng)估項(xiàng)目進(jìn)行檢驗(yàn),評(píng)估結(jié)果分為探索級(jí)、實(shí)踐級(jí)、優(yōu)秀級(jí)、卓越級(jí)、引領(lǐng)級(jí)五個(gè)等級(jí)。
圖2:《面向行業(yè)的大模型云服務(wù)運(yùn)維能力成熟度》標(biāo)準(zhǔn)能力框圖
作為首批通過(guò)評(píng)估并取得最高級(jí)的解決方案,華為云Stack大模型混合云構(gòu)筑三橫四縱的運(yùn)維能力,幫助政企客戶(hù)建立更全面、智能、靈活的運(yùn)維體系,加速智能化轉(zhuǎn)型。
首先,圍繞基礎(chǔ)設(shè)施、大模型及AI應(yīng)用三個(gè)層級(jí)的運(yùn)維對(duì)象,實(shí)現(xiàn)大模型全棧端到端運(yùn)維服務(wù)和管理。
其次,構(gòu)建四大運(yùn)維架構(gòu),提供全場(chǎng)景,全流程運(yùn)維服務(wù)。
·模型運(yùn)維體系:在用云、管云階段提供咨詢(xún)頂設(shè)和運(yùn)維體系規(guī)劃能力,支撐企業(yè)戰(zhàn)略、組織、流程、平臺(tái)層面的高階規(guī)劃設(shè)計(jì)。
·模型運(yùn)維平臺(tái):提供智算運(yùn)維門(mén)戶(hù),算力全鏈路可觀測(cè),AI資源能夠?qū)崿F(xiàn)精細(xì)化運(yùn)營(yíng)管理,讓模型運(yùn)行情況可觀測(cè),可管理。
·模型故障管理:提供AI訓(xùn)推作業(yè)、算力資源池、服務(wù)器、網(wǎng)絡(luò)設(shè)備故障診斷、日志分析、性能優(yōu)化等運(yùn)維管理能力,保障大模型運(yùn)維SLA達(dá)成。
·模型運(yùn)維安全:提供模型運(yùn)行環(huán)境安全、語(yǔ)料數(shù)據(jù)安全、訓(xùn)推業(yè)務(wù)安全以及安全合規(guī)運(yùn)營(yíng)等運(yùn)維安全能力,保障大模型業(yè)務(wù)運(yùn)行安全、穩(wěn)定、合規(guī)。
面向大型政企行業(yè)客戶(hù)不同業(yè)務(wù)訴求,華為云Stack大模型混合云圍繞AI大模型運(yùn)維形成場(chǎng)景化解決方案,沉淀最佳實(shí)踐,提供可復(fù)制、可驗(yàn)證、可快速落地的咨詢(xún)規(guī)劃、故障恢復(fù)及安全合規(guī)等運(yùn)維運(yùn)營(yíng)支持服務(wù),助力客戶(hù)智能化業(yè)務(wù)轉(zhuǎn)型成功。
依托ICT領(lǐng)域數(shù)十年沉淀的運(yùn)維服務(wù)體系和行業(yè)運(yùn)維經(jīng)驗(yàn),華為云Stack SRE團(tuán)隊(duì)通過(guò)構(gòu)建現(xiàn)代化運(yùn)維流程、智能化運(yùn)維平臺(tái)、數(shù)字化運(yùn)維資產(chǎn),使能客戶(hù)用好云、管好云,保障云平臺(tái)穩(wěn)定運(yùn)行,助力客戶(hù)業(yè)務(wù)成功。在大模型混合云運(yùn)維方面,團(tuán)隊(duì)圍繞“保障平臺(tái)行穩(wěn)致遠(yuǎn),讓AI和數(shù)據(jù)持續(xù)釋放價(jià)值”為客戶(hù)提供全流程運(yùn)維保障服務(wù),實(shí)現(xiàn)業(yè)務(wù)價(jià)值。
目前,華為云Stack大模型混合云運(yùn)維服務(wù)已經(jīng)支持了包括政務(wù)、金融、能源、電力等數(shù)十個(gè)不同行業(yè)落地大模型應(yīng)用的先行先試,助力客戶(hù)引領(lǐng)驅(qū)動(dòng)行業(yè)智能化的創(chuàng)新發(fā)展。
在本次可信云大會(huì)上,華為云“ModelArts”“盤(pán)古大模型”“大模型混合云專(zhuān)業(yè)技術(shù)服務(wù)”入選《大模型工程化交付服務(wù)商能力圖譜》。湘潭鋼鐵基于華為云Stack打造的 “湘潭鋼鐵廢鋼定級(jí)”入選《大模型全棧工程化交付技術(shù)服務(wù)案例集報(bào)告》。
圖3:華為云Stack大模型混合云產(chǎn)品能力和專(zhuān)業(yè)技術(shù)服務(wù)以及客戶(hù)項(xiàng)目交付案例分別入選能力圖譜和案例集報(bào)告