清華新聞網(wǎng)10月21日電 近日,深圳國(guó)際研究生院信息科學(xué)與技術(shù)學(xué)部夏樹(shù)濤/江勇教授團(tuán)隊(duì)、王好謙教授團(tuán)隊(duì)和袁春副研究員團(tuán)隊(duì)的四篇論文被機(jī)器學(xué)習(xí)領(lǐng)域國(guó)際頂級(jí)會(huì)議神經(jīng)信息處理系統(tǒng)大會(huì)(Neural Information Processing Systems, NeurlPS 2021)接收。
2017級(jí)計(jì)算機(jī)科學(xué)與技術(shù)專(zhuān)業(yè)博士生白楊(指導(dǎo)教師:江勇)和2019級(jí)計(jì)算機(jī)技術(shù)專(zhuān)業(yè)碩士生嚴(yán)欣(指導(dǎo)老師:夏樹(shù)濤)發(fā)表論文“對(duì)抗魯棒模型的聚類(lèi)現(xiàn)象”(Clustering Effect of Adversarial Robust Models)。該論文通過(guò)系統(tǒng)地分析基于對(duì)抗訓(xùn)練的對(duì)抗魯棒模型和通過(guò)標(biāo)準(zhǔn)訓(xùn)練的非魯棒模型在其線(xiàn)性子網(wǎng)絡(luò)上的統(tǒng)計(jì)規(guī)律,在對(duì)抗魯棒模型中發(fā)現(xiàn)了一個(gè)有趣的層次聚類(lèi)現(xiàn)象?;诖?,研究團(tuán)隊(duì)提出了一種關(guān)于對(duì)抗魯棒性的新穎理解,并將其應(yīng)用于更多任務(wù),包括魯棒性提升和域適應(yīng)。

基于CIFAR-10數(shù)據(jù)集訓(xùn)練的VGG-16模型的關(guān)聯(lián)矩陣圖:圖(a)“STD”代表非魯棒模型,圖(b)“AT”代表對(duì)抗魯棒模型,圖(c)“AT+C”代表運(yùn)用層級(jí)聚類(lèi)的對(duì)抗魯棒模型, 圖(d)展示CIFAR-10數(shù)據(jù)集的分層標(biāo)簽
2020級(jí)人工智能項(xiàng)目碩士生蔡元昊(指導(dǎo)教師:王好謙)的“基于像素級(jí)噪聲感知的對(duì)抗訓(xùn)練學(xué)習(xí)生成逼真的噪聲圖像”(Learning to Generate Realistic Noisy Images via Pixel-level Noise-aware Adversarial Training)。該論文基于真實(shí)噪聲場(chǎng)景定義一個(gè)像素級(jí)的噪聲模型提出圖像去噪方法,并提出了一個(gè)噪聲可感知的對(duì)抗生成網(wǎng)絡(luò)。

方法框架
2021級(jí)人工智能項(xiàng)目碩士生邵朱晨、邊豪和陳揚(yáng)(指導(dǎo)教師:王好謙)發(fā)表論文“基于深度自注意力變換網(wǎng)絡(luò)的多示例學(xué)習(xí)算法在組織病理學(xué)圖像分類(lèi)中的應(yīng)用”(TransMIL: Transformer based Correlated Multiple Instance Learning for Whole Slide Image Classification)。該論文針對(duì)組織病理學(xué)的弱監(jiān)督分類(lèi)問(wèn)題提出了一種新的關(guān)聯(lián)性多示例學(xué)習(xí)理論,并提供了相應(yīng)的證明?;谶@一理論,論文進(jìn)一步設(shè)計(jì)了一種基于深度自注意力變換網(wǎng)絡(luò)的多示例學(xué)習(xí)算法,它同時(shí)探索了形態(tài)學(xué)和空間信息,可有效地處理不平衡/平衡和二元/多元分類(lèi)并具有可解釋性,并在三個(gè)公開(kāi)的病理圖像數(shù)據(jù)集上取得最優(yōu)性能。


方法框架
2020級(jí)計(jì)算機(jī)技術(shù)項(xiàng)目碩士生許正卓、柴增豪(指導(dǎo)教師:袁春)發(fā)表論文“在長(zhǎng)尾視覺(jué)識(shí)別中構(gòu)建校準(zhǔn)能力更好的模型”(Towards Calibrated Model for Long-Tailed Visual Recognition from Prior Perspective)。該論文主要關(guān)注在長(zhǎng)尾數(shù)據(jù)監(jiān)督下模型性能和校準(zhǔn)能力較差的問(wèn)題,從先驗(yàn)的角度提出兩種解決策略同時(shí)提高模型的準(zhǔn)確率和校準(zhǔn)能力。

錯(cuò)分矩陣展示:對(duì)角線(xiàn)元素表示正確分類(lèi),非對(duì)角線(xiàn)表示錯(cuò)分情況,橫坐標(biāo)為真實(shí)標(biāo)簽,縱坐標(biāo)為預(yù)測(cè)標(biāo)簽
供稿:深圳國(guó)際研究生院
編輯:李華山
審核:呂婷