聚焦大模型推理加速技術(shù)，華為云AI系統(tǒng)創(chuàng)新Lab發(fā)布一個關(guān)于高效解碼的難題
聚焦大模型推理加速技術(shù)，華為云AI系統(tǒng)創(chuàng)新Lab發(fā)布一個關(guān)于高效解碼的難題
活動規(guī)則
活動對象：華為云電銷客戶及渠道伙伴客戶可參與消費滿送活動，其他客戶參與前請咨詢客戶經(jīng)理
活動時間： 2020年8月12日-2020年9月11日
活動期間，華為云用戶通過活動頁面購買云服務(wù)，或使用上云禮包優(yōu)惠券在華為云官網(wǎng)新購云服務(wù)，累計新購實付付費金額達到一定額度，可兌換相應(yīng)的實物禮品?；顒觾?yōu)惠券可在本活動頁面中“上云禮包”等方式獲取，在華為云官網(wǎng)直接購買（未使用年中云鉅惠活動優(yōu)惠券）或參與其他活動的訂單付費金額不計入統(tǒng)計范圍內(nèi)；
活動對象：華為云電銷客戶及渠道伙伴客戶可參與消費滿送活動，其他客戶參與前請咨詢客戶經(jīng)理
華為云AI系統(tǒng)創(chuàng)新Lab通過黃大年茶思屋發(fā)布一個關(guān)于大模型推理高效解碼領(lǐng)域的難題--《無需侵入式改動與小模型輔助的LLM長文本生成高效解碼技術(shù)》，核心訴求為：提出更高效的解碼方法，在不需要改變模型結(jié)構(gòu)、小模型額外輔助、額外訓(xùn)練的情況下，支持大batch推理。
具體難題信息可通過如下鏈接查看，歡迎各位高校老師揭榜！
https://www.chaspark.com/#/questions/1092125776076414976?sub=1092132907617951744