清華新聞網(wǎng)7月14日電 7月7日，清華大學(xué)國(guó)強(qiáng)教授、智能產(chǎn)業(yè)研究院（AIR）首席研究員劉云新教授與微軟亞洲研究院學(xué)者合作完成的論文“nn-Meter: 精準(zhǔn)預(yù)測(cè)深度學(xué)習(xí)模型在邊緣設(shè)備上的推理延遲”（nn-Meter: towards accurate latency prediction of deep-learning model inferenceon diverse edge devices）榮獲國(guó)際計(jì)算機(jī)學(xué)會(huì)移動(dòng)系統(tǒng)、應(yīng)用和服務(wù)國(guó)際會(huì)議（MobiSys） 2021大會(huì)的最佳論文獎(jiǎng)（Best Paper Award）以及工具評(píng)估（Artifact Evaluation）的全部三個(gè)徽章。
Mobisys全稱(chēng)為國(guó)際計(jì)算機(jī)學(xué)會(huì)移動(dòng)系統(tǒng)、應(yīng)用和服務(wù)國(guó)際會(huì)議（ACM International Conference on Mobile Systems, Applications, and Services），是由國(guó)際計(jì)算機(jī)學(xué)會(huì)移動(dòng)特別興趣小組（ACM SIGMOBILE）、高等計(jì)算機(jī)系統(tǒng)協(xié)會(huì)（USENIX）與國(guó)際計(jì)算機(jī)學(xué)會(huì)操作系統(tǒng)特別興趣小組（ACM SIGOPS）聯(lián)合發(fā)起的頂級(jí)學(xué)術(shù)會(huì)議。MobiSys會(huì)議旨在展示與移動(dòng)計(jì)算和無(wú)線(xiàn)系統(tǒng)、應(yīng)用、服務(wù)的設(shè)計(jì)、實(shí)現(xiàn)、使用、評(píng)估相關(guān)的重大創(chuàng)新和研究，有非常廣泛的影響力和號(hào)召力。
為了高效、準(zhǔn)確地預(yù)測(cè)深度神經(jīng)網(wǎng)絡(luò)模型在不同邊緣設(shè)備上的推理延遲，劉云新教授團(tuán)隊(duì)提出并開(kāi)發(fā)了一個(gè)基于內(nèi)核的模型推理延遲預(yù)測(cè)系統(tǒng)nn-Meter，引入了內(nèi)核檢測(cè)，可找出算子融合行為。通過(guò)對(duì)最有價(jià)值的數(shù)據(jù)進(jìn)行采樣，nn-Meter有效地建立了內(nèi)核的延遲預(yù)測(cè)器。劉云新教授團(tuán)隊(duì)在一個(gè)大型數(shù)據(jù)集和三種類(lèi)型的邊緣設(shè)備上進(jìn)行了實(shí)驗(yàn)，結(jié)果nn-Meter的表現(xiàn)明顯優(yōu)于先前的最好方法。
論文下載：
https://air.tsinghua.edu.cn/news_detail.html?id=93&classId=100
供稿：智能產(chǎn)業(yè)研究院
編輯：李華山
審核：田姬熔
