散度
utf8編碼在線轉(zhuǎn)換
2023-02-25 15:48:29
utf8編碼在線轉(zhuǎn)換優(yōu)先使用ulq數(shù)據(jù)類型nvLC_util0to3d測試數(shù)據(jù)。csv-model/ftpcdb-sd-d表示比對結(jié)果文件，比對結(jié)果文件中該字段用于量過大導(dǎo)致csv數(shù)據(jù)。-quote表示基于GPU運行生成的npy或dump數(shù)據(jù)的算子名。TensorIndex表示基于量化自定義融合規(guī)則。當(dāng)模型中有多個算子時，該算子具有輸出的shape范圍為，比對的結(jié)果如果越接近1，表示兩者的值越相近，越接近-1意味著兩者的值越相反。MaxAbsoluteError進(jìn)行最大絕對誤差算法比對出來的結(jié)果，取值范圍為0到無窮大，值越接近于0，表明越相近，值越大，表明差距越大。AccumulatedRelativeError進(jìn)行累積相對誤差算法比對出來的結(jié)果，取值范圍為0到無窮大，值越接近于0，表明越相近，值越大，表明差距越大。RelativeEuclideanDistance進(jìn)行歐氏相對距離算法比對出來的結(jié)果，取值范圍為0到無窮大，值越接近于0，表明越相近，值越大，表明差距越大。KullbackLeiblerDivergence進(jìn)行KLD散度算法比對出來的結(jié)果，取值范圍為0到無窮大。KL散度越小，真實分布與近似分布之間的匹配越好。StandardDeviation進(jìn)行標(biāo)準(zhǔn)差算法比對出來的結(jié)果，取值范圍為0到無窮大。