華為云計(jì)算 云知識(shí) 華為云全域Serverless技術(shù)創(chuàng)新:全球首創(chuàng)通用Serverless平臺(tái)被ACM SIGCOMM錄用
華為云全域Serverless技術(shù)創(chuàng)新:全球首創(chuàng)通用Serverless平臺(tái)被ACM SIGCOMM錄用
摘要:華為云全域Serverless化背后的“基石”——元戎,中稿全球頂尖學(xué)術(shù)會(huì)議ACM SIGCOMM 2024。

該會(huì)議在計(jì)算機(jī)科學(xué)領(lǐng)域享有崇高聲望,2024年共接收投稿366篇,其中62篇被錄用,錄用率僅為16.9%。論文《YuanRong: A Production General-purpose Serverless System for Distributed Applications in the Cloud》揭示了華為自主創(chuàng)新的業(yè)界首個(gè)通用Serverless平臺(tái),提供通用函數(shù)編程模型,高可擴(kuò)縮、高性能和高效對(duì)接后端服務(wù)的運(yùn)行框架,助力華為云構(gòu)建全域Serverless云服務(wù)。

從專用走向通用

當(dāng)前,業(yè)界現(xiàn)有的Serverless產(chǎn)品主要限于事件驅(qū)動(dòng)型應(yīng)用,然而對(duì)于有狀態(tài)微服務(wù)、 大數(shù)據(jù) 、HPC、AIGC等復(fù)雜應(yīng)用,仍然面臨如下四大核心技術(shù)挑戰(zhàn):

函數(shù)間無法高效協(xié)同

函數(shù)間無法直接尋址,需繞走網(wǎng)關(guān),導(dǎo)致互調(diào)性能差。函數(shù)間不支持共享內(nèi)存,無法高效協(xié)同,難以滿足微服務(wù)、HPC等場景對(duì)低時(shí)延的訴求。

不確定的冷啟動(dòng)時(shí)延

冷啟動(dòng)是Serverless性能優(yōu)化難題之一,尤其在微服務(wù)、AIGC等場景,容器啟動(dòng)時(shí)加載大 鏡像 (GB級(jí))的開銷大,加之復(fù)雜的應(yīng)用初始化過程,整個(gè)冷啟動(dòng)耗時(shí)分鐘級(jí),無法按需彈性。

狀態(tài)外置影響性能

應(yīng)用程序的狀態(tài)必須外置到如OBS等遠(yuǎn)端存儲(chǔ),延遲可達(dá)數(shù)百毫秒,同時(shí)遠(yuǎn)端存儲(chǔ)的帶寬有限導(dǎo)致吞吐量低,難以滿足大數(shù)據(jù)等場景多任務(wù)之間高效數(shù)據(jù)流轉(zhuǎn)的訴求。

用戶函數(shù)和后端服務(wù)間交互復(fù)雜

后端服務(wù)通常是有狀態(tài)的,并為每個(gè)客戶端維護(hù)經(jīng)過身份驗(yàn)證的活動(dòng)連接,例如JDBC連接,但這些連接狀態(tài)很難在協(xié)作的函數(shù)實(shí)例之間共享。此外,多個(gè)函數(shù)的并發(fā)操作也會(huì)導(dǎo)致分布式事務(wù)的問題。

元戎首創(chuàng)通用平臺(tái)

論文介紹了元戎通用Serverless平臺(tái)的一系列關(guān)鍵創(chuàng)新。

其中,針對(duì)挑戰(zhàn)1和2,元戎構(gòu)建了可擴(kuò)展的函數(shù)系統(tǒng),實(shí)現(xiàn)大規(guī)模函數(shù)調(diào)度、亞毫秒函數(shù)互調(diào)以及函數(shù)極速冷啟動(dòng)等關(guān)鍵技術(shù),支持大規(guī)模多形態(tài)應(yīng)用的統(tǒng)一管理和高效運(yùn)行;
針對(duì)挑戰(zhàn)3,元戎內(nèi)置了多語義數(shù)據(jù)系統(tǒng),實(shí)現(xiàn)分布式共享內(nèi)存對(duì)象以及流數(shù)據(jù)對(duì)象,提供分布式共享內(nèi)存池,支持多語義數(shù)據(jù)的高效流轉(zhuǎn);
針對(duì)挑戰(zhàn)4,元戎構(gòu)建了可移植的Bridge系統(tǒng),提供事件和后端服務(wù)的標(biāo)準(zhǔn)抽象接口,解耦架構(gòu),同時(shí)支持連接復(fù)用和共享事務(wù)等功能。
元戎進(jìn)一步抽象了面向 云原生 編程的通用Serverless運(yùn)行時(shí)接口,并實(shí)現(xiàn)了主流語言的Runtime。通過這些Runtime,元戎為開發(fā)者提供特定領(lǐng)域的簡易編程模式,支持Web服務(wù)、大數(shù)據(jù)、AI訓(xùn)練/推理、HPC等全域Serverless應(yīng)用。
近年來,華為云持續(xù)構(gòu)筑全域Serverless云服務(wù),推出了一系列競爭力領(lǐng)先的Serverless產(chǎn)品,包括華為云 函數(shù)工作流 FunctionGraph、Serverless容器引擎CCE Autopilot、Serverless應(yīng)用托管CAE、云 數(shù)據(jù)倉庫 DWS、事件網(wǎng)格EventGrid等,高效支撐Serverless全面商業(yè)化。
面向生成式AI浪潮,元戎通用Serverless將持續(xù)聚焦技術(shù)創(chuàng)新,突破大模型推理服務(wù)實(shí)例快速彈性、分布式KV Cache池化管理、多模型混部高效協(xié)同調(diào)度、超大規(guī)模分布式訓(xùn)練高可用性等關(guān)鍵技術(shù),構(gòu)筑大模型推理和訓(xùn)練的高性能、低成本、高可用性關(guān)鍵競爭力。
通過這些創(chuàng)新,元戎將助力華為云打造極低成本、極致性能和極優(yōu)體驗(yàn)的Serverless AI解決方案,實(shí)現(xiàn)全域Serverless化的競爭力領(lǐng)先,幫助千行萬業(yè)的百萬開發(fā)者縮短交付周期,提升上云效率,搶占市場先機(jī)。
華為云Serverless 應(yīng)用中心:http://m.cqfng.cn/product/functiongraph/applications.html