昨天，阿里巴巴發布了第一款AI芯片——含光800。除了參數外，還有怎樣的故事和深層次考慮？最近一兩年，只要國內有公司發布AI芯片，就會在各大社交圈、媒體中炸開鍋。日子過不了多久，就會淡去，留下三三兩兩歷史記錄中的文章。但我們很少知道背后的故事，這并不是幾日的技術狂歡所能說清的。昨天，阿里巴巴發布了第一款AI芯片——含光800。合著云棲大會的熱鬧，該芯片瞬間成為了近日最閃耀的頭條新聞。當阿里CTO張建鋒在會議廳展示這塊芯片時，介紹很簡短，除了參數外，并沒有介紹背后的故事。
“前幾天，我們都還不知道能不能完成。只能每周干7天，每晚干到12點。就在15號凌晨時，我們最后一批人早上5點20離開（實驗室），終于調出來了。當時很多人說不可能，但我們做到了。” 阿里巴巴達摩院平頭哥AI芯片研究員焦陽（驕旸）在接受TechSugar等媒體采訪時，說到了這款芯片背后的故事。
故事的開頭夾雜的質疑，故事的結尾如這批研究員所愿。
這顆芯片
7個月完成了前端設計，之后用3個月就成功流片，速度的確驚人。
據現場介紹，在業界標準的ResNet-50測試中，含光800推理性能達到78563 IPS，比目前業界最好的AI芯片性能高4倍；能效比500 IPS/W，是第二名的3.3倍。在杭州城市大腦的業務測試中，1顆含光800的算力相當于10顆GPU。
人工智能芯片分論壇中，焦陽介紹了更多該芯片的細節，如下兩張圖。
含光800采用四核設計，其包含170億顆晶體管，采用臺積電的12nm工藝。之所以采用四核架構，焦陽表示：“在設計之后，由于良率提升需求，四個Core任何有一個Core壞死，都不影響芯片工作，這是我們在架構設計時做的特別處理。”
此外，計算單元盡量被放在了存儲邊上，這是功耗做的很低的原因。
含光800性能的突破得益于軟硬件的協同創新：硬件層面采用自研芯片架構，通過推理加速等技術有效解決芯片性能瓶頸問題；軟件層面集成了達摩院算法，針對CNN及視覺類算法深度優化計算、存儲密度，可實現大網絡模型在一顆NPU上完成計算。
含光800已開始應用在阿里巴巴內部核心業務中。根據云棲大會的現場演示，在城市大腦中實時處理杭州主城區交通視頻，需要40顆傳統GPU，延時為300ms，使用含光800僅需4顆，延時降至150ms。拍立淘商品庫每天新增10億商品圖片，使用傳統GPU算力識別需要1小時，使用含光800后可縮減至5分鐘。
含光800將通過阿里云對外輸出AI算力。基于含光800的AI云服務當天正式上線，相比傳統GPU算力，性價比提升100%。
過去半年，平頭哥先后發布玄鐵910、無劍SoC平臺。隨著含光800的發布，平頭哥端云一體全棧產品系列初步成型，涵蓋處理器IP、一站式芯片設計平臺和AI芯片，實現了芯片設計鏈路的全覆蓋。
張建鋒說：“在全球芯片領域，阿里巴巴是一個新人，玄鐵和含光800是平頭哥的萬里長征第一步，我們還有很長的路要走。”
到底怎么想的？
在發布會結束后，筆者從分論壇中，了解到了這款NPU更多的故事和背后的想法。首先是為什么——阿里巴巴為什么要做云上大芯片？
從焦陽的回答中，筆者總結為以下幾點：
1，阿里巴巴云計算是一個快速增長的業務，在業內處于領先地位。硬件設計可以幫助阿里巴巴快速拓展業務，降低計算成本，提供海量的計算能力。云計算走到今天，如果沒有硬核就很難繼續往下走，未來很難在算力上有更多的提高。
2，這不是為了短期商業化，而為更遠的愿景。以技術為本，打造過硬的技術。
3，為什么做推理而不是訓練？雖然在AI發展中，第一步都是要做很多的訓練，但隨著算法高速發展之后，將迎來推理端的發展。阿里巴巴涉及的業務，如城市大腦、視覺分析等，算力大大提高其計算效率，把真正的業務量達到突破，從而在云計算中增加更多流量，解決未來業務發展目標。
4，阿里巴巴與傳統互聯網公司不同，除了搜索和廣告業務，還有更豐富的視覺類業務，如淘寶圖片、搜索、智能城市、智能工廠等。基于這些業務，CNN加速是對NPU的一個重要方向點，此外阿里還將擴展到新的模式適配。（如下圖）
在提到未來芯片計劃時，焦陽非常務實地說道：“第一步先把技術做深做扎實，達摩院或者其他的技術團隊，目前都在做很多的項目，我們需要從業務中了解業務，不能僅限于只做業務，需要舉一反三，來產生更有深度，更有技術水平的產品。含光雖然已經取得了初步的結果，但這遠遠不夠，我們要達到英偉達的水平還有很長的路要走，有了好技術才能有章可循，沒有技術，連推產品都推不動。”
“AI芯片是新的領域，新領域本身就存在很多機會。而且人工智能算法是需要特殊架構的，對于阿里巴巴來說，就是挑戰皇冠上的明珠。”有20年GPU領域工作經驗的焦陽，談到公司未來也是充滿信心。
阿里芯片的邊界
前不久，看到新聞上提到馬云在阿里巴巴卸任現場上演唱了《怒放的生命》時，我突然發現，凡人已經很難阻止阿里巴巴了。
2017年，宣布成立達摩院；2018年成立平頭哥；2019年便掏出了這一款AI芯片。對2020年的大事，目前筆者還沒嗅到什么消息，憑借阿里的想象力，總預感會有大事發生。
其實在芯片這塊，阿里巴巴的所涉及的部分已經超過一般人所知。
阿里巴巴集團副總裁周明的題為《阿里巴巴基礎設施挑戰與芯片策略》的演講中提到，如今阿里在技術分布有CPU、異構計算、NPU、FPGA；互聯和網絡部分則有自研網絡交換機及NOS、自研400G硅光模塊、HAIL2.0數據中心網絡架構；存儲端集合了從SSD到DRAM到新型存儲截止愛到服務器的一體機，其中包括AliFlash V3、AliFlash V5.0、阿里巴巴自研云計算服務器、阿里巴巴邊緣云服務器。
因為基礎設施的加持，才有云棲大會第一場主論壇中，阿里巴巴董事局主席兼首席執行官張勇對數字經濟的暢想，他表示：“在數字經濟時代，大數據是石油，而算力是引擎。算力不僅代表計算的規模和計算的效率，同時它也包括數量的要求、智慧的程度。算力的發展，最終一定是“數”和“智”全面結合。只有這樣，我們才能夠在走向數字化的同時，真正走向未來我們共同相信會全面爆發的智慧化、數智化。”
更多信息可以來這里獲取==>>電子技術應用-AET<<
