編者按:日前Arm Tech Symposia 年度技術大會(北京站)圓滿舉行,Arm 高級副總裁兼基礎設施事業部總經理 Mohamed Awad先生詳細地介紹了Arm為迎接AI計算新時代所做的一系列創新舉措。
眾所周知,Arm以高性能、低功耗的計算性能和靈活的商業模式,開創并引領了移動計算時代。如今AI時代已然來臨,人工智能技術深刻影響著邊緣計算、移動計算和基礎設施領域的變革。
值得關注的是,近年來Arm 已成功轉型為一家計算平臺公司,在致力于IP 授權業務的同時,也專注于通過完整且全面的解決方案,為合作伙伴帶來選擇的靈活性,幫助他們更快地將產品推向市場。
Arm 為移動、基礎設施、物聯網,以及汽車領域推出對應的計算平臺,可以加速合作伙伴產品上市進程
Arm 全面計算解決方案 (Arm Total Compute Solutions)、Arm Neoverse平臺、Arm Corstone 以及 SOAFEE 等,都是 Arm 的計算平臺分別在移動、基礎設施、物聯網與汽車等市場當中得以廣泛應用的例證,這些平臺可以幫助Arm向生態伙伴提供完整、集成的解決方案,助力客戶快速采用并推出解決方案。
Arm 高級副總裁兼基礎設施事業部總經理 Mohamed Awad表示,人工智能 (AI) 正處于快速發展中,對云計算基礎設施來說,目前最大的挑戰之一是內存帶寬發揮最佳性能,為設備提供更好的支持。AI時代的基礎設施需要一個新的系統架構來實現更多的內存帶寬和內存一致性和足夠的靈活性,Arm 憑借其兼具靈活性和設計的獨特模式,以及強大的生態系統,正在賦能合作伙伴共贏挑戰。
在傳統的服務器系統架構中(如下圖所示),中間是一個標準的現成 CPU,有標準化的總線,還有幾個連接到同一個 CPU 的不同加速器。這樣的傳統架構一直適用了幾十年,但在 AI 時代,這樣的架構已經不堪重用。
Mohamed Awad表示,由于無法獲得足夠的內存,它很難跟上 AI 應用所需的數據和計算量。而解決方案就是研究如何構建一個新的系統架構,使我們能夠跟上 AI 時代的步伐。只有通過靈活地調整和重新構建系統的各個方面,才能做到這一點。
基礎設施領域的傳統系統架構
Arm協同合作伙伴正在創新著一種以“定制的 CPU”為核心的現代化系統架構,以此來滿足AI時代基礎設施高速率和大帶寬的需求。
面向新的應用需求,基礎設施領域出現了現代化的系統架構
在新的架構里,圍繞定制的CPU,利用現代強大的軟件生態系統,直接連接到每個加速器,在加速器和 CPU 之間建立高性能連接,并在整個設備間實現內存一致性。
Mohamed Awad表示,基于 Arm 建立的計算平臺,合作伙伴可以創建定制化的 CPU,通過利用所有的投資和龐大的軟件生態系統,可以打造出新的產品來解決各類新的問題,而這正是 AI 世界所需要的。
以NVIDIA GH200 Grace Hopper 超級芯片為例,它基于 72 顆Arm Neoverse內核,加上來自 NVIDIA 的 GPU的組合,其AI 性能較基于x86架構的系統可提升 10 倍。
NVIDIA GH200 Grace Hopper 超級芯片采用 Arm Neoverse 搭配 NVIDIA GPU,滿足 AI 性能的需求
另一個典型案例來自于亞馬遜(AWS)公司。
AWS 發布的第四代基于 Arm Neoverse 平臺的處理器——Graviton4。該處理器專為基礎設施領域設計。與 Graviton3 相比,Graviton4 的處理速度提高了 30%,核心數量增加了 50%,內存帶寬增加了 75%。
AWS 發布第四代基于 Arm Neoverse 平臺的處理器 Graviton4
誠然,具備NVIDIA和AWS資源和實力的公司屈指可數,為了推動更多企業迎接AI計算時代,Arm也想到了解決辦法。
據Mohamed Awad介紹,為幫助更多中小客戶加速部署基于Neoverse平臺的系統,Arm特別推出了Neoverse 計算子系統 (CSS) ,合作伙伴可以直接采用,也可按需選用,從而加速產品的上市進程。
實際案例證明,Neoverse CSS 能夠幫助合作伙伴進一步降低投資,據其中一個合作伙伴反饋,通過使用 Neoverse CSS,節省了長達 80 人/年的工程師時間;也有合作伙伴反饋通過使用Neoverse CSS,助力他們的項目從概念到流片僅耗時 13 個月。
Arm Neoverse 計算子系統 (CSS)
在 Neoverse CSS 的基礎之上,Arm 推出了 Arm 全面設計 (Arm Total Design) 生態項目,進一步結合生態系統的力量,包括專用集成電路 (ASIC) 設計公司、IP 供應商、EDA 工具提供商、代工廠和固件開發廠商等,共同助力簡化定制芯片的開發流程,并且讓交付變得更加容易、便捷。進一步提高了 Neoverse CSS生態系統中可供合作伙伴使用的可能性,能夠幫助合作伙伴進一步加速他們的解決方案開發。
Arm 全面設計 (Arm Total Design) 生態項目助力合作伙伴加速基于 Neoverse CSS 的芯片開發
Mohamed Awad最后表示,Arm非常高興能夠和中國本地的廠商合作推動AI計算進步。阿里巴巴的倚天 710 就是基于 Arm Neoverse 平臺打造的 CPU;鴻鈞微電子、遇賢微電子以及云豹智能,正在基于 Arm 平臺分別打造服務器 SoC 解決方案與云計算和數據中心的DPU解決方案;聯想將基于Arm架構的解決方案部署到 5G 領域。
因此,通過攜手中國本土的強有力的合作伙伴,Arm深度融入中國AI計算產業,將為中國人工智能技術發展貢獻力量。