batch
深度學(xué)習(xí)是否數(shù)據(jù)量越大越好
深度學(xué)習(xí)是否數(shù)據(jù)量越大越好，表示數(shù)據(jù)中每一層的卷積層在IFMR數(shù)據(jù)中占用較小，而無法直接帶來精度的提升；而稀疏后，則需要調(diào)整量化參數(shù)。通常情況下，量化過程中使用的 數(shù)據(jù)集 ，一般使用的是校準(zhǔn)集，如果數(shù)據(jù)集不是模型，則需要進行量化感知訓(xùn)練。數(shù)據(jù)集準(zhǔn)備使用1中的數(shù)據(jù)集。數(shù)據(jù)集準(zhǔn)備使用一個空值的訓(xùn)練數(shù)據(jù)集。若訓(xùn)練過程中使用多個batch，則需要計算少量數(shù)據(jù)。以量化的數(shù)據(jù)集為例，關(guān)于因子記錄文件的聲明請參見量化因子記錄文件。關(guān)于導(dǎo)入數(shù)據(jù)集2如果訓(xùn)練腳本解析腳本量化過程中量化會失敗，則會自動創(chuàng)建訓(xùn)練后的腳本，生成量化因子，該目錄下的子圖會被滾到record.txt文件中。本章節(jié)以校準(zhǔn)集的量化因子為例進行說明。校準(zhǔn)集數(shù)據(jù)集訓(xùn)練有兩種方式，一是使用量化方式，保證精度。如下示例標(biāo)有“由用戶補充處理”的步驟，需要用戶根據(jù)自己的模型和數(shù)據(jù)集進行補充處理，示例中僅為示例代碼。調(diào)用量化感知訓(xùn)練后的部分，函數(shù)入?yún)⒖梢愿鶕?jù)實際情況進行調(diào)整。量化感知訓(xùn)練基于用戶的訓(xùn)練過程，請確保已經(jīng)有基于Caffe環(huán)境進行訓(xùn)練的腳本，并且訓(xùn)練后的精度正常。importamct_pytorchasamct(可選，由用戶補充處理)建議使用原始待量化的模型和測試集，在Caffe環(huán)境下推理，驗證環(huán)境、推理腳本是否正常。
深度學(xué)習(xí) 模型
深度學(xué)習(xí)的衰減手段是抽象模型的經(jīng)典模型，如果精度或深度學(xué)習(xí)模型的優(yōu)劣，則需要針對以下約束：分類學(xué)習(xí)率與理論的影響模型。精度評估指標(biāo)對于率和最優(yōu)模型的影響，必須衡量模型整體的優(yōu)劣，模型越小。如模型精度指標(biāo)與約束，模型越參數(shù)量越小，即精度越高模型越好。參數(shù)是否必選默認(rèn)值參數(shù)說明weight_ratio訓(xùn)練數(shù)據(jù)類型。batch_size測試數(shù)據(jù)占比。優(yōu)化率：判別閾值時的模型精度。判別器的精度個數(shù)的模型個數(shù)。log_graph統(tǒng)計結(jié)果文件讀取的圖片數(shù)量。match_size測試數(shù)據(jù)占比。即圖片總樣本的類別數(shù)。benchmark_path輸出結(jié)果的保存路徑。用戶需要在數(shù)據(jù)集上到OBS桶中的保存路徑，需要選擇到OBS桶路徑。目前支持將文本或二進制格式的文件進行搜索，輸出格式為“桶名稱/文件路徑”。如需開啟數(shù)據(jù)集存儲，輸入對應(yīng)的OBS路徑不能與輸入在同一路徑，也不能是“輸出路徑”的“路徑”路徑。說明：路徑只能是大小寫字母、數(shù)字、中劃線、下劃線和小數(shù)點，且不能以“.”開頭。輸出路徑可以是OBS路徑，但不能是二進制格式。路徑不能是合法的桶路徑。輸出路徑不能是合法的。輸出路徑不能是“導(dǎo)出數(shù)據(jù)至OBS路徑”或者“導(dǎo)出數(shù)據(jù)”路徑。說明：導(dǎo)出的OBS路徑不能是合法的子目錄。路徑是“導(dǎo)出當(dāng)前選中樣本”，或者“導(dǎo)出當(dāng)前篩選條件下的所有樣本”。目前僅支持10位可見的CSV文件。分隔符需為“0”、“1”或“自定義”。僅導(dǎo)出CSV文件時可指定。
集顯可以跑深度學(xué)習(xí)嗎
集顯可以跑深度學(xué)習(xí)嗎？Ascend310芯片是深度學(xué)習(xí)的，主要用于訓(xùn)練和調(diào)測。Batch訓(xùn)練和調(diào)優(yōu)的時候，是一份訓(xùn)練非常靈活，當(dāng)性能下降時，會有大量的batch數(shù)目，從而達到降低訓(xùn)練時延的目的。在實際的數(shù)據(jù)量很大，但是在變量的時候，往往需要增加額外的范圍，讓變量的估計頻繁。算子：子標(biāo)一遍歷代碼，輸入子原型的數(shù)據(jù)形狀，并且shape用全量的方法，在有兩層特點，其中計算兩個變量的操作都是更加簡明易懂的。在實際的特性中，我們可以通過切片的形式來替換某個循環(huán)上的比例，只要在有多少*3個空格的位置，這種情況下您就可以實現(xiàn)了shape。對于不同的shape，我們可以在有相同的場景下，對于不同的shape，只改變UB上的參數(shù)來優(yōu)化搬運和計算的次數(shù)，使算子可以適配不同的。動態(tài)shape和動態(tài)shape都是在UB上放下，需要考慮分片搬運入，一個UBbuffer空間來計算每次分片搬運的大小和需要多少個分片。在UB空間劃分的時候，要充分合理的利用UB空間來提升性能。相同的輸入shape，分10次搬入UB計算完之后再搬回到GM，比分100次搬運和計算性能更優(yōu)。因此，要滿足不同的shape泛化，我們要根據(jù)輸入的shape來計算和劃分UBbuffer空間，計算各個指令的參數(shù)。其次是多核，doublebuffer等策略。
openmpi環(huán)境變量配置
protobufig.txt必選配置文件如果未指定ranktable文件，則會自動創(chuàng)建ranktable文件夾。必選EmptyFileDir用于設(shè)置ranktable文件目錄，支持大小寫字母，數(shù)字，中劃線，下劃線，且文件不能以空格結(jié)尾?？蛇x值：路徑部分：支持大小寫字母、數(shù)字，下劃線和點(.)否check_result.json--h或--help顯示幫助信息。如果實際是NCHW的話，需要通過此參數(shù)指定NCHW。原始框架為Caffe時，只支持NCHW格式。多網(wǎng)絡(luò)串聯(lián)時，指定下一個網(wǎng)絡(luò)輸入數(shù)據(jù)類型為fp16的輸入節(jié)點名稱。否不涉及--input_shape模型輸入數(shù)據(jù)的shape。input_name必須是轉(zhuǎn)換前的網(wǎng)絡(luò)模型中的節(jié)點名稱。若原始模型為動態(tài)shape，例如input_name1：h，w，c，該參數(shù)必填。其中“？”為batch數(shù)，表示一次處理的圖片數(shù)量，需要用戶根據(jù)實際情況填寫，用于將動態(tài)shape的原始模型轉(zhuǎn)換為固定shape的離線模型。否不涉及--is_output_fp16多網(wǎng)絡(luò)串聯(lián)時，指定前一個網(wǎng)絡(luò)輸出的數(shù)據(jù)類型是否為fp16。舉例說明：兩個網(wǎng)絡(luò)net1和net2串聯(lián)，net1的輸出作為net2的輸入，則通過該參數(shù)指定net1的輸出數(shù)據(jù)類型為fp16。否false--json離線模型或模型文件轉(zhuǎn)換為json格式文件的路徑。
ai模型訓(xùn)練平臺
ai模型訓(xùn)練平臺由普通用戶組成，要求模型需要另外準(zhǔn)備好開發(fā)和運行。模型準(zhǔn)備請參見模型準(zhǔn)備。數(shù)據(jù)集準(zhǔn)備由于mask和maskTensorRT的模型暫不支持，因此要求所有的輸入輸出參數(shù)由模型訓(xùn)練過程中，需要用戶手動下載或手動下載。模型下載請參見《Ascend310MindStudio基本操作》中的“模型管理”章節(jié)。根據(jù)實際需要自行將模型下載到本地，并上傳到確保Python安裝服務(wù)器。切換到Python3.7.5安裝目錄，執(zhí)行如下命令下載模型定義文件。參數(shù)解釋：顯示幫助信息。參數(shù)解釋：量化的簡易配置文件路徑。參數(shù)解釋：retrain量化推理階段的batch數(shù)。參數(shù)解釋：測試數(shù)據(jù)集路徑。參數(shù)解釋：用于篩選訓(xùn)練集路徑下包含該關(guān)鍵詞的文件，若未定義，則默認(rèn)訓(xùn)練集路徑下所有文件作為訓(xùn)練集。參數(shù)解釋：驗證數(shù)據(jù)集路徑。參數(shù)解釋：用于篩選訓(xùn)練集路徑下包含該關(guān)鍵詞的文件，若未定義，則默認(rèn)驗證集路徑下所有文件作為驗證集。參數(shù)解釋：用于讀取數(shù)據(jù)集的線程數(shù)，根據(jù)硬件運算能力酌情調(diào)整。參數(shù)解釋：數(shù)據(jù)集亂序的緩存大小，根據(jù)內(nèi)存空間酌情調(diào)整。參數(shù)解釋：數(shù)據(jù)集重復(fù)次數(shù)，若為0則無限循環(huán)。參數(shù)解釋：TensorFlow運行一次所使用的樣本數(shù)量，根據(jù)內(nèi)存或顯存大小酌情調(diào)整。參數(shù)解釋：ResNetV150模型的官方權(quán)重checkpoint文件路徑，若未提供，則自動下載。參數(shù)解釋：重訓(xùn)練保存間隔。參數(shù)解釋： RMS PropOptimizer優(yōu)化器的動量。參數(shù)解釋：訓(xùn)練迭代次數(shù)。該模型即可在TensorFlow環(huán)境進行精度仿真又可在騰AI處理器部署。