檢測(cè)到您已登錄華為云國(guó)際站賬號(hào)，為了您更好的體驗(yàn)，建議您訪(fǎng)問(wèn)國(guó)際站服務(wù)網(wǎng)站 http://m.cqfng.cn/intl/zh-cn
不再顯示此消息
中國(guó)站
中國(guó)站
International
Europe
檢測(cè)到您已登錄華為云國(guó)際站賬號(hào)，為了您更好的體驗(yàn)，建議您訪(fǎng)問(wèn)國(guó)際站服務(wù)網(wǎng)站 http://m.cqfng.cn/intl/zh-cn
不再顯示此消息
Integer 訓(xùn)練作業(yè)的引擎類(lèi)型。 engine_name String 訓(xùn)練作業(yè)的引擎名稱(chēng)。 engine_id Long 訓(xùn)練作業(yè)的引擎ID。 engine_version String 訓(xùn)練作業(yè)使用的引擎版本。 train_url String 訓(xùn)練作業(yè)的輸出文件OBS路
Standard支持的AI框架 ModelArts Standard的開(kāi)發(fā)環(huán)境Notebook、訓(xùn)練作業(yè)、模型推理（即模型管理和部署上線(xiàn)）支持的AI框架及其版本，請(qǐng)參見(jiàn)如下描述。 統(tǒng)一鏡像列表 ModelArts提供了ARM+Ascend規(guī)格的統(tǒng)一鏡像，包括MindSpore、P
訓(xùn)練任務(wù) 執(zhí)行訓(xùn)練任務(wù)（推薦） 執(zhí)行訓(xùn)練任務(wù)（歷史版本） 父主題： 主流開(kāi)源大模型基于Lite Cluster適配MindSpeed-LLM PyTorch NPU訓(xùn)練指導(dǎo)（6.5.901）
訓(xùn)練服務(wù)配置說(shuō)明 參數(shù)配置說(shuō)明 tokenizer文件修改 訓(xùn)練數(shù)據(jù)說(shuō)明 VeRL數(shù)據(jù)處理樣例腳本 父主題： 主流開(kāi)源大模型基于ModelArts Lite Server適配AscendFactory PyTorch NPU訓(xùn)練指導(dǎo)（New）
什么是AI平臺(tái)咨詢(xún)與規(guī)劃服務(wù)？ 華為云面向各行業(yè)AI應(yīng)用的開(kāi)發(fā)與研究，提供ModelArts平臺(tái)支持類(lèi)服務(wù)，針對(duì)客戶(hù)不同階段的需求，提供包括本地調(diào)用、模型優(yōu)化、云上開(kāi)發(fā)、模型遷移等支持服務(wù)。同時(shí)，能夠幫助企業(yè)快速集成ModelArts平臺(tái)能力到業(yè)務(wù)應(yīng)用，能夠針對(duì)客戶(hù)的業(yè)務(wù)場(chǎng)景為企業(yè)提供場(chǎng)景化建模咨詢(xún)服務(wù)。
業(yè)的華為方技術(shù)支持下載獲取。 AscendCloud-LLM代碼包關(guān)鍵訓(xùn)練文件介紹如下： |——AscendCloud-LLM |──llm_train # 模型訓(xùn)練代碼包 |──AscendFactory |──examples/
業(yè)的華為方技術(shù)支持下載獲取。 AscendCloud-LLM代碼包關(guān)鍵訓(xùn)練文件介紹如下： |——AscendCloud-LLM |──llm_train # 模型訓(xùn)練代碼包 |──AscendFactory |──examples/
name}為pod信息中的NAME，例如vcjob-main-0。 kubectl logs -f ${pod_name} 訓(xùn)練過(guò)程中，訓(xùn)練日志會(huì)在最后的Rank節(jié)點(diǎn)打印。 圖1 打印訓(xùn)練日志 查看性能 訓(xùn)練性能主要通過(guò)訓(xùn)練日志中的2個(gè)指標(biāo)查看，吞吐量和loss收斂情況。 吞吐量（tokens/s/p）：global
Turbo中的數(shù)據(jù)執(zhí)行編輯操作。 訓(xùn)練 預(yù)訓(xùn)練/微調(diào) 介紹如何進(jìn)行預(yù)訓(xùn)練，包括訓(xùn)練數(shù)據(jù)處理、超參配置、創(chuàng)建訓(xùn)練任務(wù)及性能查看。 父主題： 主流開(kāi)源大模型基于Standard+OBS+SFS適配MindSpeed-LLM PyTorch NPU訓(xùn)練指導(dǎo)（6.5.901）
--model_name <model_name>：訓(xùn)練模型名 --run_type <run_type>：訓(xùn)練類(lèi)型：【full 、 lora】 --output_dir <output_dir>: 模型訓(xùn)練完成輸出權(quán)重地址，與訓(xùn)練output_dir配置內(nèi)容一致。 --model_name_or_path
* Janus 下載模型權(quán)重，該模型要下載兩個(gè)權(quán)重，為Janus-Pro-1B，Janus-Pro-7B。權(quán)重下載地址： Janus-Pro-1B：https://huggingface.co/deepseek-ai/Janus-Pro-1B/tree/main Janus-Pr
solve/master/aishell1_test.csv sed -i '1d' aishell1_test.csv sed -i 's/,/ /g' aishell1_test.csv cat aishell1_test.csv | awk -F "/" '{print $5}'
在ModelArts上如何創(chuàng)建引用第三方依賴(lài)包的訓(xùn)練作業(yè)？ ModelArts支持訓(xùn)練模型過(guò)程中安裝第三方依賴(lài)包。在訓(xùn)練代碼目錄下放置“pip-requirements.txt”文件后，在訓(xùn)練啟動(dòng)文件被執(zhí)行前系統(tǒng)會(huì)執(zhí)行如下命令，以安裝用戶(hù)指定的Python Packages。 pip
方案架構(gòu)圖 本架構(gòu)描述了部署開(kāi)源三方大模型訓(xùn)練的整體方案： 架構(gòu)整體主要針對(duì)Lite Server場(chǎng)景下使用開(kāi)源三方大模型給出建議方案，重點(diǎn)關(guān)注模型如何訓(xùn)練以及調(diào)優(yōu)、運(yùn)維等方面。 訓(xùn)練使用Lite Server + SFS Turbo作為基礎(chǔ)設(shè)施進(jìn)行模型部署，申請(qǐng)Lite server資源建議綁定EIP方便公網(wǎng)訪(fǎng)問(wèn)。
vd_eval.sh中的參數(shù) 模型存放的地方，如果根據(jù)第2步的方式保存的模型，設(shè)置如下： CKPT="llama-vid/llama-vid-7b-full-224-video-fps-1" 調(diào)用openai的key，評(píng)估精度時(shí)需要調(diào)用openai，需要填寫(xiě)正確的key，這個(gè)可能
保存模型時(shí)出現(xiàn)Unable to connect to endpoint錯(cuò)誤 問(wèn)題現(xiàn)象 訓(xùn)練作業(yè)保存模型時(shí)日志報(bào)錯(cuò)，具體信息如下： InternalError (see above for traceback): Unable to connect to endpoint 原因分析
準(zhǔn)備代碼 準(zhǔn)備鏡像環(huán)境 DockerFile構(gòu)建鏡像（可選） 準(zhǔn)備數(shù)據(jù)（可選） 父主題： 主流開(kāi)源大模型基于Lite Server適配LlamaFactory PyTorch NPU訓(xùn)練指導(dǎo)（6.5.901）
--local-dir <模型下載路徑> 如果要下載指定版本的模型文件，則命令如下： huggingface-cli download --resume-download Qwen/Qwen-VL-Chat --revision <模型版本> --local-dir <模型下載路徑> 方法三：使用專(zhuān)用多線(xiàn)程下載器
準(zhǔn)備鏡像 鏡像方案說(shuō)明 ECS獲取基礎(chǔ)鏡像 ECS中構(gòu)建新鏡像 ECS中上傳新鏡像 父主題： 準(zhǔn)備工作
Session初始化，與使用SDK調(diào)測(cè)單機(jī)訓(xùn)練作業(yè)中的1相同。 準(zhǔn)備訓(xùn)練數(shù)據(jù)，與使用SDK調(diào)測(cè)單機(jī)訓(xùn)練作業(yè)中的2相同，唯一的不同在于obs_path參數(shù)是必選的。 準(zhǔn)備訓(xùn)練腳本。 from modelarts.train_params import TrainingFiles code_dir
