華為云計(jì)算 云知識(shí) TBE基本概念之張量
TBE基本概念之張量

TBE(Tensor Boost Engine)提供了昇騰AI處理器自定義算子開(kāi)發(fā)能力,通過(guò)TBE提供的API和自定義算子編程開(kāi)發(fā)界面可以完成相應(yīng)神經(jīng)網(wǎng)絡(luò)算子的開(kāi)發(fā)。

張量(Tensor)是TBE算子中的數(shù)據(jù),包括輸入數(shù)據(jù)與輸出數(shù)據(jù),TensorDesc(Tensor描述符)是對(duì)輸入數(shù)據(jù)與輸出數(shù)據(jù)的描述,TensorDesc數(shù)據(jù)結(jié)構(gòu)包含如下屬性:

  1. 名稱(name):用于對(duì)Tensor進(jìn)行索引,不同Tensor的name需要保持唯一。
  2. 形狀(shape):Tensor的形狀,比如(10,)或者(1024,1024)或者(2,3,4)等;

默認(rèn)值為無(wú);形式為(i1, i2,…in),其中i1,i2,in為正整數(shù)。

  1. 數(shù)據(jù)類型(dtype)

功能描述:指定Tensor對(duì)象的數(shù)據(jù)類型。

默認(rèn)值:無(wú)

取值范圍:float16, float32, int8, int16, int32, uint8, uint16, bool。

不同計(jì)算操作支持的數(shù)據(jù)類型不同

  1. 數(shù)據(jù)排布格式(format):多個(gè)維度的排布順序。