該解決方案有何用途?
基于華為昇騰算力,提供行業(yè)大模型從開發(fā)到部署的全流程AI解決方案,助力企業(yè)智能化升級(jí)
方案架構(gòu)
天寬昇騰云行業(yè)大模型適配服務(wù)解決方案實(shí)踐
版本:1.0????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????
上次更新日期:2024年11月
來(lái)源:由華為云構(gòu)建
架構(gòu)描述:
方案通過(guò)華為云提供的一站式AI開發(fā)平臺(tái)ModelArts,對(duì)象存儲(chǔ)服務(wù) OBS等服務(wù),為客戶提供從模型設(shè)計(jì)、訓(xùn)練到部署的一站式服務(wù),助力企業(yè)快速落地AI應(yīng)用
架構(gòu)描述:
方案通過(guò)華為云提供的一站式AI開發(fā)平臺(tái)ModelArts,對(duì)象存儲(chǔ)服務(wù) OBS等服務(wù),為客戶提供從模型設(shè)計(jì)、訓(xùn)練到部署的一站式服務(wù),助力企業(yè)快速落地AI應(yīng)用
-
AI開發(fā)平臺(tái)ModelArts:提供海量數(shù)據(jù)預(yù)處理及半自動(dòng)化標(biāo)注、大規(guī)模分布式訓(xùn)練、自動(dòng)化模型生成及端-邊-云模型按需部署能力,幫助用戶快速創(chuàng)建和部署模型,管理全周期AI工作流
-
對(duì)象存儲(chǔ)服務(wù) OBS:存儲(chǔ)數(shù)據(jù)和模型,實(shí)現(xiàn)安全、高可靠和低成本的存儲(chǔ)需求
-
云容器引擎 CCE:ModelArts使用云容器引擎部署模型為在線服務(wù),支持服務(wù)的高并發(fā)和彈性伸縮需求
-
容器鏡像服務(wù) SWR:使用ModelArts不支持的AI框架構(gòu)建模型時(shí),可通過(guò)構(gòu)建的自定義鏡像導(dǎo)入ModelArts進(jìn)行訓(xùn)練或推理
-
云監(jiān)控服務(wù) CES:使用云監(jiān)控服務(wù)監(jiān)控在線服務(wù)和對(duì)應(yīng)模型負(fù)載,執(zhí)行自動(dòng)實(shí)時(shí)監(jiān)控、告警和通知操作
-
云審計(jì)服務(wù) CTS:使用云審計(jì)服務(wù)記錄ModelArts相關(guān)的操作事件,便于日后的查詢、審計(jì)和回溯