聚焦大模型推理加速技術(shù)，華為云AI系統(tǒng)創(chuàng)新Lab發(fā)布一個(gè)關(guān)于高效解碼的難題
聚焦大模型推理加速技術(shù)，華為云AI系統(tǒng)創(chuàng)新Lab發(fā)布一個(gè)關(guān)于高效解碼的難題
活動(dòng)對象：華為云電銷客戶及渠道伙伴客戶可參與消費(fèi)滿送活動(dòng)，其他客戶參與前請咨詢客戶經(jīng)理
活動(dòng)時(shí)間： 2020年8月12日-2020年9月11日
活動(dòng)期間，華為云用戶通過活動(dòng)頁面購買云服務(wù)，或使用上云禮包優(yōu)惠券在華為云官網(wǎng)新購云服務(wù)，累計(jì)新購實(shí)付付費(fèi)金額達(dá)到一定額度，可兌換相應(yīng)的實(shí)物禮品。活動(dòng)優(yōu)惠券可在本活動(dòng)頁面中“上云禮包”等方式獲取，在華為云官網(wǎng)直接購買（未使用年中云鉅惠活動(dòng)優(yōu)惠券）或參與其他活動(dòng)的訂單付費(fèi)金額不計(jì)入統(tǒng)計(jì)范圍內(nèi)；
活動(dòng)對象：華為云電銷客戶及渠道伙伴客戶可參與消費(fèi)滿送活動(dòng)，其他客戶參與前請咨詢客戶經(jīng)理
華為云AI系統(tǒng)創(chuàng)新Lab通過黃大年茶思屋發(fā)布一個(gè)關(guān)于大模型推理高效解碼領(lǐng)域的難題--《無需侵入式改動(dòng)與小模型輔助的LLM長文本生成高效解碼技術(shù)》，核心訴求為：提出更高效的解碼方法，在不需要改變模型結(jié)構(gòu)、小模型額外輔助、額外訓(xùn)練的情況下，支持大batch推理。
具體難題信息可通過如下鏈接查看，歡迎各位高校老師揭榜！
https://www.chaspark.com/#/questions/1092125776076414976?sub=1092132907617951744