人們對人類大腦工作機理的不斷探求,催生了高效類腦計算的研究。隨著半導體技術的更新迭代,神經(jīng)形態(tài)器件為研究人員帶來了實現(xiàn)高效類腦計算的曙光。機遇與挑戰(zhàn)并存,在神經(jīng)形態(tài)器件的工作機理和材料等方面也會遇到諸多困難。清華大學精密儀器系類腦計算團隊對此開展了深入的研究,并獲得系列突破。
從功能上看,人類大腦儼然是一個強大的“信息處理系統(tǒng)”,但卻如同一個“黑匣子”,時至今日人們對其機理依舊知之甚少。現(xiàn)代神經(jīng)科學表明,人類大腦大約包含860億個神經(jīng)元,這與銀河系中恒星的數(shù)量大致相當,而連接神經(jīng)元的突觸數(shù)量更是達到神經(jīng)元數(shù)量的1000倍,由此可見大腦結構的高度復雜性,這在很大程度上遲滯了人們探索大腦工作機理的腳步。慶幸的是,近幾十年飛速發(fā)展的神經(jīng)科學正在為破譯“黑匣子”帶來更多啟示。
在嘗試理解大腦的同時,人們也在試圖構建與大腦功能類似的類腦計算系統(tǒng)。20世紀以來,半導體技術和計算機科學獲得巨大發(fā)展,進而掀起構建電子大腦的熱潮。當前,基于馮?諾依曼架構的計算機仍是主流,并能夠代替人類更快、更準確地執(zhí)行基于固定規(guī)則的任務。隨著對更高級人工智能需求的日益迫切,人們逐漸意識到馮?諾依曼架構計算機在適應性、容錯和泛化能力方面依然落后于人腦,人們亟需找到更加類腦的計算范式。神經(jīng)形態(tài)電子學為實現(xiàn)這一目標帶來了曙光,其旨在通過模擬神經(jīng)行為來實現(xiàn)計算功能,而模擬神經(jīng)行為則需要與其特性相似的半導體器件來實現(xiàn),即神經(jīng)形態(tài)器件。
━━ ━━
憶阻器與神經(jīng)形態(tài)器件
時間回溯到1971年,蔡少棠(Leon O. Chua)在“Memristor-The Missing Circuit Element”一文中通過啟發(fā)式的推理,預言了在電阻、電容、電感三大基礎電路元件之外還存在另一種基礎元件——憶阻器,如圖1所示。在預言37年之后的2008年,惠普實驗室在《自然》(Nature)上發(fā)表“The Missing Memristor Found”一文,宣布在新型微納半導體器件中觀測到憶阻現(xiàn)象。因此,蔡少棠也被譽為“憶阻器之父”。
憶阻器的電阻可調性和記憶特性(當前電阻值取決于電壓/電流的激勵歷史)與神經(jīng)突觸的長期可塑性十分相似,而突觸可塑性正是大腦學習和記憶功能的基礎。此后,憶阻器件和神經(jīng)形態(tài)器件幾乎成為了兩個可以互換的概念,神經(jīng)形態(tài)電子學也進入了一個快速發(fā)展的階段。除了生物相似性之外,憶阻器(電路)與傳統(tǒng)的互補金屬氧化物半導體(CMOS)器件(電路)相比,還在可微縮能力、存儲密度、功耗等方面具有潛在優(yōu)勢。
在過去的十數(shù)年里,基于憶阻效應的神經(jīng)形態(tài)器件取得了許多重要進展。在材料技術方面,從無機物到有機物,從普通材料到量子材料,從鐵電材料到鐵磁材料,從體材料到低維材料等等,都展示出各自獨特的神經(jīng)形態(tài)特性。在功能方面,憶阻器可模擬的突觸可塑性功能越來越多,且已不再局限于突觸模擬,還能夠模擬神經(jīng)元功能,這為全憶阻器神經(jīng)形態(tài)電路的實現(xiàn)創(chuàng)造了可能性。除了單器件研究外,傳統(tǒng)晶體管與憶阻器混合的神經(jīng)形態(tài)集成電路研究也在規(guī)模、功能等方面不斷取得可喜的進展。
目前,基于憶阻器的神經(jīng)形態(tài)技術仍然面臨許多挑戰(zhàn)。在仿生能力方面,神經(jīng)形態(tài)器件對生物神經(jīng)組織的模擬程度還不夠高,大多僅能模擬細胞尺度的宏觀電生理行為,而無法模擬在亞細胞尺度上的機制。在計算功能方面,神經(jīng)形態(tài)電路的功能還比較初級,大多作為人工深度神經(jīng)網(wǎng)絡算法的硬件加速器來使用,而無法充分演示生物神經(jīng)網(wǎng)絡特有的時間動力學計算優(yōu)勢。在集成技術方面,憶阻器在性能上還不能完全滿足大規(guī)模集成的需要,一般仍需傳統(tǒng)晶體管的協(xié)助,無法完全體現(xiàn)出憶阻器的可微縮性和低功耗優(yōu)勢。
從上述挑戰(zhàn)出發(fā),清華大學精密儀器系類腦計算團隊(以下簡稱團隊)在神經(jīng)形態(tài)器件的工作機理和材料等方面進行了深入研究,并提出具有原創(chuàng)性和突破性的解決方案。
━━ ━━
三端口憶阻器:突觸長短期
可塑性在單器件中共存
通過借鑒神經(jīng)生物學原理,團隊意識到即使在模擬最基礎的突觸可塑性功能方面,神經(jīng)形態(tài)器件也存在仿生程度不足而導致器件功能局限的問題。具體來說,神經(jīng)突觸除了長期可塑性之外,還存在短時程尺度的可塑性,兩者在亞細胞尺度上的發(fā)生區(qū)域和機制都截然不同,如圖2(a)所示。兩者的共存也是生物神經(jīng)網(wǎng)絡豐富的時間動力學的重要來源之一。然而,在傳統(tǒng)的神經(jīng)形態(tài)器件中,突觸的長期可塑性與短期可塑性都由同源的物理機制來模擬,且發(fā)生在器件的同一區(qū)域中,導致兩種可塑性互斥而無法共存。
針對這一問題,團隊提出了一種三端口憶阻器解決方案,如圖2(b)所示。三端口憶阻器具有天然的兩個空間區(qū)域,即源漏溝道(源極和漏極之間的溝道)和柵極電容;也天然地具備兩種物理效應,即短時程的柵極電容效應和長時程的柵極憶阻效應。柵極電容效應直接作用于溝道,短時地改變溝道導電性;而柵極憶阻效應來源于柵極介質狀態(tài)的改變,進而間接影響溝道導電性。如此一來,突觸的長期與短期可塑性能夠在不同的區(qū)域中被不同的物理機制所模擬,從而實現(xiàn)在單器件中的共存,如圖2(c)所示。該研究為以動力學時間復雜度為特征的類腦計算提供了普適的基元器件,相關研究成果以“Truly Concomitant and Independently Expressed Short- and Long-Term Plasticity in a Bi2O2Se-Based Three-Terminal Memristor”為題在國際知名期刊《先進材料》(Advanced Materials)上發(fā)表。
━━ ━━
基于碲導電通道生成和斷裂阻變
機理的全憶阻器件集成方案
在器件集成方面,大規(guī)模神經(jīng)形態(tài)突觸網(wǎng)絡目前仍普遍存在器件之間串擾的問題,這對神經(jīng)網(wǎng)絡推理和學習過程的可靠性產生了嚴重影響。傳統(tǒng)的解決方案是為每個憶阻器串聯(lián)一個晶體管開關,開放處于工作狀態(tài)的通道,同時隔斷來自非工作狀態(tài)器件的干擾。值得注意的是,晶體管是一種面積較大且功耗較高的器件,而晶體管開關的介入勢必會使憶阻器技術在可微縮性和低功耗方面的優(yōu)勢無法得到體現(xiàn)。
針對這一問題,團隊提出了一種基于單質半導體碲(Te)導電通道生成和斷裂阻變機理的全憶阻器件集成方案。單質碲半導體材料具有電化學活性、低熔點、低導熱系數(shù)和低電導率的特點,可以用于構造在大驅動電流下實現(xiàn)瞬態(tài)開關的固態(tài)電化學器件,其功能類似于晶體管,但結構更簡單、可微縮能力更強,如圖3(a)所示。實現(xiàn)這一功能的機制在于,碲導電通道先在電化學的作用下生成,而后又在大電流焦耳熱的作用下被熔斷。與此同時,利用相同的器件還可以在小電流下實現(xiàn)電阻狀態(tài)穩(wěn)定的調節(jié),模擬了突觸的長期可塑性,如圖3(b)所示。這與碲半導體具有比金屬更低的導電性有關。大電流開關和小電流突觸功能是神經(jīng)形態(tài)突觸網(wǎng)絡對器件的基本要求,但在傳統(tǒng)憶阻器中卻是一對基本矛盾。一般來說,大電流會使材料結構的改變更加徹底,電阻狀態(tài)也會相應地保持更長時間,反之則反。此即憶阻器在突觸網(wǎng)絡應用中遇到的“電流-電阻保持時間”矛盾。團隊通過巧妙利用碲半導體的電學、電化學和熱學綜合特性使之得以化解。團隊還進一步利用一對全同器件演示了完整的“開關/突觸”串聯(lián)器件功能,如圖3(c)所示,為同質集成的憶阻器神經(jīng)形態(tài)突觸網(wǎng)絡提供了有價值的參考。相關研究成果以“A new opportunity for the emerging tellurium semiconductor: making resistive switching devices”為題在國際知名期刊《自然?通訊》(Nature Communications)上發(fā)表。
━━ ━━
最新進展
在神經(jīng)形態(tài)器件研究方面,團隊基于上述的階段性成果,正在逐步開展神經(jīng)形態(tài)器件集成電路研究,以期在系統(tǒng)層次上模擬大腦的計算功能,并實現(xiàn)材料-器件-系統(tǒng)的跨尺度協(xié)同優(yōu)化。此外,團隊還受邀在國際知名期刊《先進智能系統(tǒng)》(Advanced Intelligent Systems)上發(fā)表了由自身對類腦計算系統(tǒng)發(fā)展的見解以及對該領域進展調研總結而成的題為“A Marr's Three-Level Analytical Framework for Neuromorphic Electronic Systems”的綜述文章。當前,團隊已經(jīng)研制出基于模擬型憶阻器、低工作電流(關態(tài)電流低至10-12安,開態(tài)電流低至10-8安)以及抗串擾的10k規(guī)模集成陣列,如圖4所示,并正在該平臺上部署一系列新型的類腦計算算法。
致謝:感謝國家自然科學基金項目(項目編號:61974082,61704096,61836004)、中國科協(xié)青年人才托舉工程項目(項目編號:2019QNRC001)、北京腦科學與類腦研究中心、清華大學-IDG/麥戈文腦科學研究院“Brain+X”項目、國家重點研發(fā)計劃項目(項目編號:2018YFE0200200)、北京市科技計劃項目(項目編號:Z181100001518006, Z191100007519009)、蘇州-清華創(chuàng)新引領行動專項項目(項目編號:2016SZ0102)以及清華大學-中電海康集團有限公司類腦計算聯(lián)合研究中心的支持。
本文刊登于IEEE Spectrum中文版《科技縱覽》2021年11月刊。
專家簡介
李黃龍 : 清華大學精密儀器系/清華大學類腦計算研究中心/北京腦科學與類腦研究中心,副教授 。
楊逸飛: 清華大學精密儀器系/清華大學類腦計算研究中心,在讀博士研究生 。
郭云鵬: 清華大學精密儀器系/清華大學類腦計算研究中心,在讀博士研究生 。
王昕鑫: 清華大學精密儀器系/清華大學類腦計算研究中心,在讀博士研究生 。
孔瑞楷: 清華大學精密儀器系/清華大學類腦計算研究中心,在讀博士研究生 。
何玉寒: 清華大學精密儀器系/清華大學類腦計算研究中心,在讀博士研究生 。
苗辰飛: 清華大學電子工程系,在讀本科生 。