工業(yè)視覺的優(yōu)勢
傳統(tǒng)的工業(yè)制造主要采用人工肉眼檢測產(chǎn)品的缺陷,不僅使得檢測產(chǎn)品速度慢、效率低下,而且在檢測過程中容易出錯,導(dǎo)致誤檢、漏檢等問題。基于機器視覺的質(zhì)檢方案,通過云端建模分析與邊緣實時決策的結(jié)合,實現(xiàn)自動視覺檢測,提升產(chǎn)品質(zhì)量。
離線模型推理流程介紹
離線模型加載完成后,就可以實現(xiàn)模型的推理功能。在離線模型的生成和加載過程中,都沒有使用具體的待處理數(shù)據(jù),僅僅是通過軟件棧對模型中算子和計算流程實現(xiàn)了一種構(gòu)造、編排、優(yōu)化、封裝以及硬件適配操作。而在具體的推理執(zhí)行過程中,才會讀入具體的輸入數(shù)據(jù)來驅(qū)動完成執(zhí)行并輸出結(jié)果。
框架管理器離線模型加載介紹
框架管理器中離線模型生成器完成離線模型生成后,由離線模型執(zhí)行器將模型加載到運行管理器中,與昇騰AI處理器進行融合后,才可以進行推理計算,這個過程中離線模型執(zhí)行器發(fā)揮了主要的模型執(zhí)行作用.
框架管理器離線模型生成介紹
離線模型生成:以卷積神經(jīng)網(wǎng)絡(luò)為例,在深度學(xué)習(xí)框架下構(gòu)造好相應(yīng)的網(wǎng)絡(luò)模型,并且訓(xùn)練好原始數(shù)據(jù),再通過離線模型生成器進行算子調(diào)度優(yōu)化、權(quán)重數(shù)據(jù)重排和壓縮、內(nèi)存優(yōu)化等,最終生成調(diào)優(yōu)好的離線模型。離線模型生成器主要用來生成可以高效執(zhí)行在昇騰AI處理器上的離線模型。
華為云智慧氣象助力氣象行業(yè)智慧化升級轉(zhuǎn)型
12級臺風(fēng)海高斯登陸珠海,從臺風(fēng)海高斯的形成檢測到臺風(fēng)軌跡推算,再到范圍內(nèi)的信息預(yù)報包括收到的防御提醒短信,基本可以相對最大化的降低災(zāi)害影響。隨著科技與技術(shù)的不斷進步,人類科技對自然災(zāi)害的檢測也是越來越準(zhǔn)確,并逐步提升了災(zāi)害的提前預(yù)警時間。那么這些能力的提升,科技在其中扮演這怎么樣的能力呢?
昇騰AI軟件棧框架管理器功能框架介紹
框架管理器協(xié)同TBE為神經(jīng)網(wǎng)絡(luò)生成可執(zhí)行的離線模型。在神經(jīng)網(wǎng)絡(luò)執(zhí)行之前,框架管理器與昇騰AI處理器緊密結(jié)合生成硬件匹配的高性能離線模型,并拉通了流程編排器和運行管理器使得離線模型和昇騰AI處理器進行深度融合。
任務(wù)調(diào)度器調(diào)度流程介紹
在神經(jīng)網(wǎng)絡(luò)的離線模型執(zhí)行過程中,任務(wù)調(diào)度器接收來自離線模型執(zhí)行器的具體執(zhí)行任務(wù),這些任務(wù)之間存在依賴關(guān)系,需要先解除依賴關(guān)系,再進行任務(wù)調(diào)度等步驟,最后根據(jù)具體的任務(wù)類型分發(fā)給AI Core或AI CPU,完成具體硬件的計算或執(zhí)行。
昇騰AI軟件棧任務(wù)調(diào)度器功能介紹
任務(wù)調(diào)度器與運行管理器工程組成軟硬件之間的大壩系統(tǒng)。在執(zhí)行時,任務(wù)調(diào)度器對硬件進行任務(wù)的驅(qū)動,為昇騰AI處理器提供具體的目標(biāo)任務(wù),與運行管理器一起完成任務(wù)調(diào)度流程,并將輸出數(shù)據(jù)回送給運行管理器,充當(dāng)了一個任務(wù)輸送分發(fā)和數(shù)據(jù)回傳的通道。
昇騰AI軟件棧運行管理器介紹
運行管理器是神經(jīng)網(wǎng)絡(luò)軟件任務(wù)流向系統(tǒng)硬件資源的大壩系統(tǒng)閘門,專門為神經(jīng)網(wǎng)絡(luò)的任務(wù)分配提供了資源管理通道。昇騰AI處理器通過運行管理器為應(yīng)用程序提供了存儲(Memory)管理、設(shè)備(Device)管理、執(zhí)行流(Stream)管理、事件(Event)管理、核函數(shù)(Kernel)執(zhí)行等功能。
張量加速引擎(TBE)的三種應(yīng)用場景
張量加速引擎TBE在提供算子開發(fā)能力的同時也提供了標(biāo)準(zhǔn)算子調(diào)用以及算子融合優(yōu)化的能力,使得昇騰AI處理器在實際的神經(jīng)網(wǎng)絡(luò)應(yīng)用中,可以滿足功能多樣化的需求,構(gòu)建網(wǎng)絡(luò)的方法也會更加方便靈活,融合優(yōu)化能力也會更好的提高運行性能。
張量加速引擎是什么?
神經(jīng)網(wǎng)絡(luò)構(gòu)造中,算子組成了不同應(yīng)用功能的網(wǎng)絡(luò)結(jié)構(gòu)。而張量加速引擎(Tensor Boost Engine)作為算子的兵工廠,為基于昇騰AI處理器運行的神經(jīng)網(wǎng)絡(luò)提供算子開發(fā)能力,用TBE語言編寫的TBE算子來構(gòu)建各種神經(jīng)網(wǎng)絡(luò)模型
數(shù)字視覺預(yù)處理機制介紹
當(dāng)輸入數(shù)據(jù)進入數(shù)據(jù)引擎時,引擎一旦檢查發(fā)現(xiàn)數(shù)據(jù)格式不滿足后續(xù)AI Core的處理需求,則可開啟數(shù)字視覺預(yù)處理模塊進行數(shù)據(jù)預(yù)處理。整個預(yù)處理過程中,Matrix完成不同模塊的功能調(diào)用。DVPP作為定制化的數(shù)據(jù)補給模塊,采用了異構(gòu)或?qū)S玫奶幚矸绞絹韺D像數(shù)據(jù)進行快速變換,為AI Core提供了充足的數(shù)據(jù)源,從而滿足了神經(jīng)網(wǎng)絡(luò)計算中 大數(shù)據(jù) 量、大帶寬的需求。
數(shù)字視覺預(yù)處理6個模塊功能及架構(gòu)介紹
昇騰AI軟件棧數(shù)字視覺預(yù)處理對外提供6個模塊,分別為視頻解碼(VDEC)模塊、視頻編碼(VENC)模塊、JPEG解碼(JPEGD)模塊、JPEG編碼(JPEGE)模塊、PNG解碼(PNGD)模塊和視覺預(yù)處理(VPC)模塊。
昇騰AI軟件棧流程編排器(Matrix)功能介紹
昇騰AI處理器對網(wǎng)絡(luò)執(zhí)行層次進行劃分,將特定功能的執(zhí)行操作看做基本執(zhí)行單位——計算引擎(Engine)。每個計算引擎在流程編排過程中對數(shù)據(jù)完成基本操作功能,如對圖片進行分類處理、輸入圖片預(yù)處理及輸出圖片數(shù)據(jù)的標(biāo)識等。計算引擎由開發(fā)者進行自定義來完成所需要的具體功能。
昇騰AI軟件棧邏輯架及功能介紹
昇騰AI軟件??梢苑譃樯窠?jīng)網(wǎng)絡(luò)相關(guān)軟件模塊、工具鏈以及其它軟件模塊。昇騰AI軟件棧提供了計算資源、性能調(diào)優(yōu)的運行框架以及功能多樣的配套工具,是一套完整的解決方案,可以使昇騰AI處理器發(fā)揮出極佳的性能。
- 1
- ...
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
- 45
- 46
- 47
- 48
- 49
- 50
- 51
- 52
- 53
- 54
- 55
- 56
- 57
- 58
- 59
- 60
- 61
- 62
- 63
- 64
- 65
- 66
- 67
- 68
- 69
- 70
- 71
- 72
- 73
- 74
- 75
- 76
- 77
- 78
- 79
- 80
- 81
- 82
- 83
- 84
- 85
- 86
- 87
- 88
- 89
- 90
- 91
- 92
- 93
- 94
- 95
- 96
- 97
- 98
- 99
- 100
- 101
- 102
- 103
- 104
- 105
- 106
- 107
- 108
- 109
- 110
- 111
- 112
- 113
- 114
- 115
- 116
- 117
- 118
- 119
- 120
- 121
- 122
- 123
- 124
- 125
- 126
- 127
- 128
- 129
- 130
- 131
- 132
- 133
- 134
- 135
- 136
- 137
- 138
- 139
- 140
- 141
- 142
- 143
- 144
- 145
- 146
- 147
- 148
- 149
- 150
- 151
- 152
- 153
- 154
- 155
- 156
- 157
- 158
- 159
- 160
- 161
- 162
- 163
- 164
- 165
- 166
- 167
- 168
- 169
- 170
- 171
- 172
- 173
- 174
- 175
- 176
- 177
- 178
- 179
- 180
- 181
- 182
- 183
- 184
- 185
- 186
- 187
- 188
- 189
- 190
- 191
- 192
- 193
- 194
- 195
- 196
- 197
- 198
- 199
- 200
- 201
- 202
- 203
- 204
- 205
- 206
- 207
- 208
- 209
- 210
- 211
- 212
- 213
- 214
- 215
- 216
- 217
- 218
- 219
- 220
- 221
- 222
- 223
- 224
- 225
- 226
- 227
- 228
- 229
- 230
- 231
- 232
- 233
- 234
- 235
- 236
- 237
- 238
- 239
- 240
- 241
- 242
- 243
- 244
- 245
- 246
- 247
- 248
- 249
- 250
- 251
- 252
- 253
- 254
- 255
- 256
- 257
- 258
- 259
- 260
- 261
- 262
- 263
- 264
- 265
- 266
- 267
- 268
- 269
- 270
- 271
- 272
- 273
- 274
- 275
- 276
- 277
- 278
- 279
- 280
- 281
- 282
- 283
- 284
- 285
- 286
- 287
- 288
- 289
- 290
- 291
- 292
- 293
- 294
- 295
- 296
- 297
- 298
- 299
- 300
- 301
- 302
- 303
- 304
- 305
- 306
- 307
- 308
- 309
- 310
- 311
- 312
- 313
- 314
- 315
- 316
- 317
- 318
- 319
- 320
- 321
- 322
- 323
- 324
- 325
- 326
- 327
- 328
- 329
- 330
- 331
- 332
- 333
- 334
- 335
- 336
- 337
- 338
- 339
- 340
- 341
- 342
- 343
- 344
- 345
- 346
- 347
- 348
- 349
- 350
- 351
- 352
- 353
- 354
- 355
- 356
- 357
- 358
- 359
- 360
- 361
- 362
- 363
- 364
- 365
- 366
- 367
- 368
- 369
- 370
- 371
- 372
- 373
- 374
- 375
- 376
- 377
- 378
- 379
- 380
- 381
- 382
- 383
- 384
- 385
- 386
- 387
- 388
- 389
- 390
- 391
- 392
- 393
- 394
- 395
- 396
- 397
- 398
- 399
- 400
- 401
- 402
- 403
- 404
- 405
- 406
- 407
- 408
- 409
- 410
- 411
- 412
- 413
- 414
- 415
- 416
- 417
- 418
- 419
- 420
- 421
- 422
- 423
- 424
- 425
- 426
- 427
- 428
- 429
- 430
- 431
- 432
- 433
- 434
- 435
- 436
- 437
- 438
- 439
- 440
- 441
- 442
- 443
- 444
- 445
- 446
- 447
- 448
- 449
- 450
- 451
- 452
- 453
- 454
- 455
- 456
- 457
- 458
- 459
- 460
- 461
- 462
- 463
- 464
- 465
- 466
- 467
- 468
- 469
- 470
- 471
- 472
- 473
- 474
- 475
- 476
- 477
- ...
- 478
- 479
- 480
- 481
- 482
- 483
- 484
- 485
- 486
- 487
- 488
- 489
- 490
- 491
- 492
- 493
- 494
- 495
- 496
- 497
- 498
- 499
- 500
- 501
- 502
- 503
- 503