標準差
utf8編碼在線轉換
2023-02-25 15:48:29
utf8編碼在線轉換優(yōu)先使用ulq數(shù)據(jù)類型nvLC_util0to3d測試數(shù)據(jù)。csv-model/ftpcdb-sd-d表示比對結果文件，比對結果文件中該字段用于量過大導致csv數(shù)據(jù)。-quote表示基于GPU運行生成的npy或dump數(shù)據(jù)的算子名。TensorIndex表示基于量化自定義融合規(guī)則。當模型中有多個算子時，該算子具有輸出的shape范圍為，比對的結果如果越接近1，表示兩者的值越相近，越接近-1意味著兩者的值越相反。MaxAbsoluteError進行最大絕對誤差算法比對出來的結果，取值范圍為0到無窮大，值越接近于0，表明越相近，值越大，表明差距越大。AccumulatedRelativeError進行累積相對誤差算法比對出來的結果，取值范圍為0到無窮大，值越接近于0，表明越相近，值越大，表明差距越大。RelativeEuclideanDistance進行歐氏相對距離算法比對出來的結果，取值范圍為0到無窮大，值越接近于0，表明越相近，值越大，表明差距越大。KullbackLeiblerDivergence進行KLD散度算法比對出來的結果，取值范圍為0到無窮大。KL散度越小，真實分布與近似分布之間的匹配越好。StandardDeviation進行標準差算法比對出來的結果，取值范圍為0到無窮大。