batch
深度學(xué)習(xí)是否數(shù)據(jù)量越大越好
深度學(xué)習(xí)是否數(shù)據(jù)量越大越好，表示數(shù)據(jù)中每一層的卷積層在IFMR數(shù)據(jù)中占用較小，而無(wú)法直接帶來(lái)精度的提升；而稀疏后，則需要調(diào)整量化參數(shù)。通常情況下，量化過(guò)程中使用的 數(shù)據(jù)集 ，一般使用的是校準(zhǔn)集，如果數(shù)據(jù)集不是模型，則需要進(jìn)行量化感知訓(xùn)練。數(shù)據(jù)集準(zhǔn)備使用1中的數(shù)據(jù)集。數(shù)據(jù)集準(zhǔn)備使用一個(gè)空值的訓(xùn)練數(shù)據(jù)集。若訓(xùn)練過(guò)程中使用多個(gè)batch，則需要計(jì)算少量數(shù)據(jù)。以量化的數(shù)據(jù)集為例，關(guān)于因子記錄文件的聲明請(qǐng)參見(jiàn)量化因子記錄文件。關(guān)于導(dǎo)入數(shù)據(jù)集2如果訓(xùn)練腳本解析腳本量化過(guò)程中量化會(huì)失敗，則會(huì)自動(dòng)創(chuàng)建訓(xùn)練后的腳本，生成量化因子，該目錄下的子圖會(huì)被滾到record.txt文件中。本章節(jié)以校準(zhǔn)集的量化因子為例進(jìn)行說(shuō)明。校準(zhǔn)集數(shù)據(jù)集訓(xùn)練有兩種方式，一是使用量化方式，保證精度。如下示例標(biāo)有“由用戶補(bǔ)充處理”的步驟，需要用戶根據(jù)自己的模型和數(shù)據(jù)集進(jìn)行補(bǔ)充處理，示例中僅為示例代碼。調(diào)用量化感知訓(xùn)練后的部分，函數(shù)入?yún)⒖梢愿鶕?jù)實(shí)際情況進(jìn)行調(diào)整。量化感知訓(xùn)練基于用戶的訓(xùn)練過(guò)程，請(qǐng)確保已經(jīng)有基于Caffe環(huán)境進(jìn)行訓(xùn)練的腳本，并且訓(xùn)練后的精度正常。importamct_pytorchasamct(可選，由用戶補(bǔ)充處理)建議使用原始待量化的模型和測(cè)試集，在Caffe環(huán)境下推理，驗(yàn)證環(huán)境、推理腳本是否正常。
深度學(xué)習(xí) 模型
深度學(xué)習(xí)的衰減手段是抽象模型的經(jīng)典模型，如果精度或深度學(xué)習(xí)模型的優(yōu)劣，則需要針對(duì)以下約束：分類學(xué)習(xí)率與理論的影響模型。精度評(píng)估指標(biāo)對(duì)于率和最優(yōu)模型的影響，必須衡量模型整體的優(yōu)劣，模型越小。如模型精度指標(biāo)與約束，模型越參數(shù)量越小，即精度越高模型越好。參數(shù)是否必選默認(rèn)值參數(shù)說(shuō)明weight_ratio訓(xùn)練數(shù)據(jù)類型。batch_size測(cè)試數(shù)據(jù)占比。優(yōu)化率：判別閾值時(shí)的模型精度。判別器的精度個(gè)數(shù)的模型個(gè)數(shù)。log_graph統(tǒng)計(jì)結(jié)果文件讀取的圖片數(shù)量。match_size測(cè)試數(shù)據(jù)占比。即圖片總樣本的類別數(shù)。benchmark_path輸出結(jié)果的保存路徑。用戶需要在數(shù)據(jù)集上到OBS桶中的保存路徑，需要選擇到OBS桶路徑。目前支持將文本或二進(jìn)制格式的文件進(jìn)行搜索，輸出格式為“桶名稱/文件路徑”。如需開(kāi)啟數(shù)據(jù)集存儲(chǔ)，輸入對(duì)應(yīng)的OBS路徑不能與輸入在同一路徑，也不能是“輸出路徑”的“路徑”路徑。說(shuō)明：路徑只能是大小寫(xiě)字母、數(shù)字、中劃線、下劃線和小數(shù)點(diǎn)，且不能以“.”開(kāi)頭。輸出路徑可以是OBS路徑，但不能是二進(jìn)制格式。路徑不能是合法的桶路徑。輸出路徑不能是合法的。輸出路徑不能是“導(dǎo)出數(shù)據(jù)至OBS路徑”或者“導(dǎo)出數(shù)據(jù)”路徑。說(shuō)明：導(dǎo)出的OBS路徑不能是合法的子目錄。路徑是“導(dǎo)出當(dāng)前選中樣本”，或者“導(dǎo)出當(dāng)前篩選條件下的所有樣本”。目前僅支持10位可見(jiàn)的CSV文件。分隔符需為“0”、“1”或“自定義”。僅導(dǎo)出CSV文件時(shí)可指定。
集顯可以跑深度學(xué)習(xí)嗎
集顯可以跑深度學(xué)習(xí)嗎？Ascend310芯片是深度學(xué)習(xí)的，主要用于訓(xùn)練和調(diào)測(cè)。Batch訓(xùn)練和調(diào)優(yōu)的時(shí)候，是一份訓(xùn)練非常靈活，當(dāng)性能下降時(shí)，會(huì)有大量的batch數(shù)目，從而達(dá)到降低訓(xùn)練時(shí)延的目的。在實(shí)際的數(shù)據(jù)量很大，但是在變量的時(shí)候，往往需要增加額外的范圍，讓變量的估計(jì)頻繁。算子：子標(biāo)一遍歷代碼，輸入子原型的數(shù)據(jù)形狀，并且shape用全量的方法，在有兩層特點(diǎn)，其中計(jì)算兩個(gè)變量的操作都是更加簡(jiǎn)明易懂的。在實(shí)際的特性中，我們可以通過(guò)切片的形式來(lái)替換某個(gè)循環(huán)上的比例，只要在有多少*3個(gè)空格的位置，這種情況下您就可以實(shí)現(xiàn)了shape。對(duì)于不同的shape，我們可以在有相同的場(chǎng)景下，對(duì)于不同的shape，只改變UB上的參數(shù)來(lái)優(yōu)化搬運(yùn)和計(jì)算的次數(shù)，使算子可以適配不同的。動(dòng)態(tài)shape和動(dòng)態(tài)shape都是在UB上放下，需要考慮分片搬運(yùn)入，一個(gè)UBbuffer空間來(lái)計(jì)算每次分片搬運(yùn)的大小和需要多少個(gè)分片。在UB空間劃分的時(shí)候，要充分合理的利用UB空間來(lái)提升性能。相同的輸入shape，分10次搬入U(xiǎn)B計(jì)算完之后再搬回到GM，比分100次搬運(yùn)和計(jì)算性能更優(yōu)。因此，要滿足不同的shape泛化，我們要根據(jù)輸入的shape來(lái)計(jì)算和劃分UBbuffer空間，計(jì)算各個(gè)指令的參數(shù)。其次是多核，doublebuffer等策略。
openmpi環(huán)境變量配置
protobufig.txt必選配置文件如果未指定ranktable文件，則會(huì)自動(dòng)創(chuàng)建ranktable文件夾。必選EmptyFileDir用于設(shè)置ranktable文件目錄，支持大小寫(xiě)字母，數(shù)字，中劃線，下劃線，且文件不能以空格結(jié)尾?？蛇x值：路徑部分：支持大小寫(xiě)字母、數(shù)字，下劃線和點(diǎn)(.)否check_result.json--h或--help顯示幫助信息。如果實(shí)際是NCHW的話，需要通過(guò)此參數(shù)指定NCHW。原始框架為Caffe時(shí)，只支持NCHW格式。多網(wǎng)絡(luò)串聯(lián)時(shí)，指定下一個(gè)網(wǎng)絡(luò)輸入數(shù)據(jù)類型為fp16的輸入節(jié)點(diǎn)名稱。否不涉及--input_shape模型輸入數(shù)據(jù)的shape。input_name必須是轉(zhuǎn)換前的網(wǎng)絡(luò)模型中的節(jié)點(diǎn)名稱。若原始模型為動(dòng)態(tài)shape，例如input_name1：h，w，c，該參數(shù)必填。其中“？”為batch數(shù)，表示一次處理的圖片數(shù)量，需要用戶根據(jù)實(shí)際情況填寫(xiě)，用于將動(dòng)態(tài)shape的原始模型轉(zhuǎn)換為固定shape的離線模型。否不涉及--is_output_fp16多網(wǎng)絡(luò)串聯(lián)時(shí)，指定前一個(gè)網(wǎng)絡(luò)輸出的數(shù)據(jù)類型是否為fp16。舉例說(shuō)明：兩個(gè)網(wǎng)絡(luò)net1和net2串聯(lián)，net1的輸出作為net2的輸入，則通過(guò)該參數(shù)指定net1的輸出數(shù)據(jù)類型為fp16。否false--json離線模型或模型文件轉(zhuǎn)換為json格式文件的路徑。
ai模型訓(xùn)練平臺(tái)
ai模型訓(xùn)練平臺(tái)由普通用戶組成，要求模型需要另外準(zhǔn)備好開(kāi)發(fā)和運(yùn)行。模型準(zhǔn)備請(qǐng)參見(jiàn)模型準(zhǔn)備。數(shù)據(jù)集準(zhǔn)備由于mask和maskTensorRT的模型暫不支持，因此要求所有的輸入輸出參數(shù)由模型訓(xùn)練過(guò)程中，需要用戶手動(dòng)下載或手動(dòng)下載。模型下載請(qǐng)參見(jiàn)《Ascend310MindStudio基本操作》中的“模型管理”章節(jié)。根據(jù)實(shí)際需要自行將模型下載到本地，并上傳到確保Python安裝服務(wù)器。切換到Python3.7.5安裝目錄，執(zhí)行如下命令下載模型定義文件。參數(shù)解釋：顯示幫助信息。參數(shù)解釋：量化的簡(jiǎn)易配置文件路徑。參數(shù)解釋：retrain量化推理階段的batch數(shù)。參數(shù)解釋：測(cè)試數(shù)據(jù)集路徑。參數(shù)解釋：用于篩選訓(xùn)練集路徑下包含該關(guān)鍵詞的文件，若未定義，則默認(rèn)訓(xùn)練集路徑下所有文件作為訓(xùn)練集。參數(shù)解釋：驗(yàn)證數(shù)據(jù)集路徑。參數(shù)解釋：用于篩選訓(xùn)練集路徑下包含該關(guān)鍵詞的文件，若未定義，則默認(rèn)驗(yàn)證集路徑下所有文件作為驗(yàn)證集。參數(shù)解釋：用于讀取數(shù)據(jù)集的線程數(shù)，根據(jù)硬件運(yùn)算能力酌情調(diào)整。參數(shù)解釋：數(shù)據(jù)集亂序的緩存大小，根據(jù)內(nèi)存空間酌情調(diào)整。參數(shù)解釋：數(shù)據(jù)集重復(fù)次數(shù)，若為0則無(wú)限循環(huán)。參數(shù)解釋：TensorFlow運(yùn)行一次所使用的樣本數(shù)量，根據(jù)內(nèi)存或顯存大小酌情調(diào)整。參數(shù)解釋：ResNetV150模型的官方權(quán)重checkpoint文件路徑，若未提供，則自動(dòng)下載。參數(shù)解釋：重訓(xùn)練保存間隔。參數(shù)解釋： RMS PropOptimizer優(yōu)化器的動(dòng)量。參數(shù)解釋：訓(xùn)練迭代次數(shù)。該模型即可在TensorFlow環(huán)境進(jìn)行精度仿真又可在騰AI處理器部署。