清華新聞網(wǎng)1月19 日電 儲(chǔ)備池計(jì)算（Reservoir Computing, RC）是一種適用于處理時(shí)序信號(hào)的高效人工神經(jīng)網(wǎng)絡(luò)，其衍生于傳統(tǒng)的遞歸神經(jīng)網(wǎng)絡(luò)（RNN），但具有更低的訓(xùn)練代價(jià)和更簡(jiǎn)易的硬件實(shí)現(xiàn)，已經(jīng)在動(dòng)態(tài)系統(tǒng)識(shí)別、時(shí)間序列預(yù)測(cè)等領(lǐng)域得到廣泛應(yīng)用。最新研究發(fā)現(xiàn)，復(fù)雜連接的遞歸神經(jīng)網(wǎng)絡(luò)可以被一個(gè)非線(xiàn)性的動(dòng)態(tài)物理系統(tǒng)等效替代，這表明完整儲(chǔ)備池計(jì)算系統(tǒng)有望基于少數(shù)幾個(gè)元器件便可實(shí)現(xiàn)。
憶阻器作為一種新型信息處理器件，具有仿生的模擬阻變特性和存算一體的優(yōu)勢(shì)，近年來(lái)在實(shí)現(xiàn)人工神經(jīng)網(wǎng)絡(luò)等應(yīng)用中取得了顯著進(jìn)展。與此同時(shí)，界面型憶阻器固有的動(dòng)態(tài)特性和非線(xiàn)性，使其具有實(shí)現(xiàn)儲(chǔ)備池計(jì)算系統(tǒng)的巨大潛力。
1月18日，清華大學(xué)微電子所、未來(lái)芯片技術(shù)高精尖創(chuàng)新中心教授錢(qián)鶴、吳華強(qiáng)團(tuán)隊(duì)與合作者在《自然?通訊》（Nature Communications）上在線(xiàn)發(fā)表了題為“面向高效時(shí)序信號(hào)處理的動(dòng)態(tài)憶阻器儲(chǔ)備池計(jì)算系統(tǒng)”（Dynamic Memristor-based Reservoir Computing for High-Efficiency Temporal Signal Processing）的研究論文，利用憶阻器固有的動(dòng)態(tài)特性和非線(xiàn)性構(gòu)建了新型儲(chǔ)備池計(jì)算系統(tǒng)，在語(yǔ)音識(shí)別和混沌信號(hào)預(yù)測(cè)任務(wù)上分別實(shí)現(xiàn)了極低的錯(cuò)詞率和預(yù)測(cè)誤差，結(jié)果優(yōu)于已有的儲(chǔ)備池計(jì)算系統(tǒng)，能夠更高效、更低成本地處理復(fù)雜時(shí)序任務(wù)。
基于動(dòng)態(tài)憶阻器的并行儲(chǔ)備池計(jì)算系統(tǒng)示意圖
研究團(tuán)隊(duì)將單個(gè)動(dòng)態(tài)憶阻器設(shè)計(jì)為一個(gè)復(fù)雜的物理系統(tǒng)，從而實(shí)現(xiàn)了完整的儲(chǔ)備池功能，并以此為基本單元提出了基于多個(gè)動(dòng)態(tài)憶阻器的并行儲(chǔ)備池計(jì)算系統(tǒng)。該系統(tǒng)通過(guò)引入不同的時(shí)分復(fù)用過(guò)程來(lái)產(chǎn)生豐富的儲(chǔ)備池狀態(tài)，并且可以通過(guò)調(diào)節(jié)掩膜序列（Mask）的長(zhǎng)度來(lái)控制儲(chǔ)備池計(jì)算系統(tǒng)的狀態(tài)豐富程度和反饋強(qiáng)度，從而達(dá)到優(yōu)化系統(tǒng)性能的目的。為了驗(yàn)證該系統(tǒng)的可行性，研究團(tuán)隊(duì)演示了數(shù)字語(yǔ)音識(shí)別、混沌序列預(yù)測(cè)等時(shí)序信號(hào)處理任務(wù)，基于動(dòng)態(tài)憶阻器的儲(chǔ)備池計(jì)算系統(tǒng)最終實(shí)現(xiàn)了極低的錯(cuò)詞率（WER = 0.4%）和預(yù)測(cè)誤差（NRMSE = 0.046），為構(gòu)建可實(shí)時(shí)處理復(fù)雜時(shí)序任務(wù)的高效憶阻器儲(chǔ)備池計(jì)算系統(tǒng)提供了一個(gè)可行的實(shí)現(xiàn)方案。
利用憶阻器的動(dòng)態(tài)特性等效地實(shí)現(xiàn)復(fù)雜遞歸網(wǎng)絡(luò)，當(dāng)輸入信號(hào)的單位時(shí)間步長(zhǎng)小于器件的特征時(shí)間時(shí)不同歷史時(shí)刻的狀態(tài)（虛擬節(jié)點(diǎn)）之間開(kāi)始相互耦合
基于動(dòng)態(tài)憶阻器的并行儲(chǔ)備池計(jì)算系統(tǒng)在數(shù)字語(yǔ)言識(shí)別和混沌信號(hào)預(yù)測(cè)任務(wù)上的表現(xiàn)，通過(guò)調(diào)節(jié)Mask長(zhǎng)度使系統(tǒng)性能最優(yōu)化
錢(qián)鶴、吳華強(qiáng)教授團(tuán)隊(duì)長(zhǎng)期致力于基于憶阻器的存算一體芯片技術(shù)研究，從器件性能優(yōu)化、工藝集成、電路設(shè)計(jì)及架構(gòu)與算法等多層次實(shí)現(xiàn)創(chuàng)新突破，先后在《自然》（Nature）、《自然電子》（NatureElectronics）、《自然通訊》（Nature Communications）、《科學(xué)進(jìn)展》（Science Advances）、《先進(jìn)材料》（Advanced Materials）等頂級(jí)期刊以及國(guó)際電子器件會(huì)議（IEDM）、國(guó)際固態(tài)半導(dǎo)體電路大會(huì)（ISSCC）等領(lǐng)域內(nèi)頂級(jí)國(guó)際學(xué)術(shù)會(huì)議上發(fā)表多篇論文。
清華大學(xué)微電子所助理教授唐建石和教授吳華強(qiáng)是本論文的共同通訊作者，清華大學(xué)微電子所博士后仲亞楠為論文的第一作者。該研究得到了國(guó)家自然科學(xué)基金委、科技部重點(diǎn)研發(fā)計(jì)劃、北京市科委、北京信息科學(xué)與技術(shù)國(guó)家研究中心、高精尖創(chuàng)新中心“未來(lái)芯片學(xué)者支持計(jì)劃”等支持。
文章鏈接：
https://www.nature.com/articles/s41467-020-20692-1
供稿：微納電子系
編輯：李若夢(mèng)
審核：李晨暉
