深度學(xué)習(xí)的概念源于人工神經(jīng)網(wǎng)絡(luò)的研究。含多隱層的多層感知器就是一種深度學(xué)習(xí)結(jié)構(gòu)。深度學(xué)習(xí)通過組合低層特征形成更加抽象的高層表示屬性類別或特征，以發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示

　　深度神經(jīng)網(wǎng)絡(luò)的自主學(xué)習(xí)能力是人工智能應(yīng)用于自動(dòng)駕駛汽車開發(fā)的重要優(yōu)勢(shì)。這意味著機(jī)器能夠像人類一樣，逐步從經(jīng)驗(yàn)中提升駕駛水平。不過這么做的缺點(diǎn)在于，一旦出現(xiàn)任何問題，工程師妄圖通過勘察代碼造出漏洞，完全不可能。這么來看的話，深度神經(jīng)網(wǎng)絡(luò)完全就是個(gè)深不見底‘黑匣子’。

　　這也是為什么AlphaGo的開發(fā)人員無法解釋這款圍棋人工智能程序是如何進(jìn)行游戲操作的，他們只是眼睜睜地看著這個(gè)小家伙從一名初學(xué)者，逐漸成長為能夠擊敗圍棋世界冠軍、職業(yè)九段選手李世石的超級(jí)大腦所在。

　　當(dāng)然，AlphaGo只不過是一款游戲程序而已，即使你無法參透它復(fù)雜的思維過程倒也并不礙事。但對(duì)自動(dòng)駕駛汽車而言，這種“不透明性”可能造成的后果是非常嚴(yán)重的。試想，一輛無人車犯錯(cuò)了，按正常的邏輯來說，肯定是得讓工程師找到病根，進(jìn)而對(duì)漏洞進(jìn)行修復(fù)，確保它不會(huì)再犯同樣的錯(cuò)誤。目前有一種方法是借助模擬的形式，先展示給機(jī)器大腦一個(gè)特征，之后再提供另一個(gè)特征，以此類推，以便找出影響其決策的關(guān)鍵因素。

　　大家都是明眼人，這種方法不僅費(fèi)時(shí)費(fèi)力，而且不保證能夠得到你想要的結(jié)果。

　　那怎么辦呢?最近，車用AI芯片供應(yīng)商英偉達(dá)聯(lián)合卡內(nèi)基·梅隆大學(xué)的研究人員，找到了一種能夠讓人工智能系統(tǒng)決策過程變得更透明的簡(jiǎn)單方法。英偉達(dá)汽車部門高級(jí)主管Danny Shapiro介紹稱，“深度神經(jīng)網(wǎng)絡(luò)能夠通過自主學(xué)習(xí)逐步提升駕駛經(jīng)驗(yàn)，但這樣的經(jīng)驗(yàn)是無法通過手動(dòng)編程提供的。即便如此，我們?nèi)匀挥心芰ο虼蠹医忉尀槭裁聪到y(tǒng)會(huì)做出這樣或那樣的決策”。

　　Shapiro表示，這個(gè)方法的關(guān)鍵在于它能夠利用可視化地圖將神經(jīng)網(wǎng)絡(luò)在看到圖片后標(biāo)記的重要特征進(jìn)行定位。下面這幾張圖片是在汽車前置攝像頭采集數(shù)據(jù)的基礎(chǔ)上進(jìn)行可視化加工而成的，而開發(fā)人員還只是在進(jìn)行‘利用深度神經(jīng)網(wǎng)絡(luò)控制車輛轉(zhuǎn)向以保證其在車道線內(nèi)行駛’領(lǐng)域的研究。

　　由于整個(gè)深度神經(jīng)網(wǎng)絡(luò)是由不同的層構(gòu)成的，先將分析結(jié)果進(jìn)行提取(已經(jīng)獲得了輸入圖像的重要特征)，隨后將結(jié)果附加至下層網(wǎng)絡(luò)，作平均處理后再繼續(xù)向下，直到將最終結(jié)果附加至原始輸入的圖片上。上面這幾幅可視化地圖中，綠色的部分表示深度神經(jīng)網(wǎng)絡(luò)高度優(yōu)先關(guān)注的環(huán)境特征。而且你會(huì)發(fā)現(xiàn)，如果讓人類來識(shí)別的話，這些特征(車道線、道路邊緣，停著的其它車輛，沿線的綠籬等)同樣是一個(gè)老司機(jī)不會(huì)忽視的重要區(qū)域。

　　當(dāng)然，為了確保這些圖像特征是機(jī)器進(jìn)行決策的關(guān)鍵，研究人員還將所有的像素塊分成了兩類：I。 包含有明顯對(duì)駕駛決策有影響的顯著特征的圖像;II。 一般是背景圖，有一些和駕駛決策不太相關(guān)的非明顯特征。通過對(duì)這兩類圖像進(jìn)行人為數(shù)字操作，研究人員發(fā)現(xiàn)，改變“明顯特征”這個(gè)變量會(huì)導(dǎo)致轉(zhuǎn)向角度發(fā)生線性變化，這跟換掉整個(gè)圖像的結(jié)果幾乎是一致的;而如果只是將背景畫面進(jìn)更改，汽車的轉(zhuǎn)向角度基本不會(huì)發(fā)生什么變化。

　　不過話又說回來了，目前工程師其實(shí)對(duì)人工智能系統(tǒng)出現(xiàn)的bug仍然束手無策，而回到本源，深度神經(jīng)網(wǎng)絡(luò)并不是由人工代碼架構(gòu)而成的，所以其實(shí)這里可能用“bug”都不是很合適，整個(gè)系統(tǒng)中對(duì)最終決策最關(guān)鍵的其實(shí)是一系列的識(shí)別特征。盡管‘黑匣子’的透明性依然難破，但起碼現(xiàn)在我們可以將這些重要特征進(jìn)行可視化，這是搞明白機(jī)器是如何進(jìn)行思考的重要一步。