分布式 AI 的分層方法支持增量訓練或“聯合學習”，從而實現持續改進。“不斷地重新訓練和更新神經網絡。你必須有一些非易失性內存或一些內存，你可以將這些更新推送到所有這些設備中——無論大小。”
例如，聯想的 ThinkEdge 包括一個支持人工智能的邊緣設備。它使用高性能 DDR4 DRAM 和容量 SSD 來支持人工智能和機器學習模型，例如用于跟蹤倉庫和物流操作或自動化制造過程的計算機視覺。
對于工業機器人和自動駕駛汽車等汽車用例，可能需要更多的內存帶寬和容量，但不一定是最重要的。
Macronix 技術營銷總監 Jim Yastic 表示，人工智能的炒作周期類似于物聯網，現在物聯網在汽車、工業和安全環境中發揮著重要作用。IDC 預測，到 2023 年，70% 的物聯網部署將包括用于自主或邊緣決策的人工智能，其中計算機視覺是增長最快的邊緣人工智能應用之一。
Yastic 表示，分布式的人工智能方法是有意義的，因為在數據中心做任何事情都是昂貴的。正如物聯網設備在本地具有更多處理能力一樣，更多的人工智能操作正在移出數據中心，同時確定需要將哪些內容發送回中央云。
在工業和汽車領域，邊緣 AI 的內存需求由各種類型的傳感器決定，這些傳感器都執行某種級別的過濾，并通過將選定的數據發送回中心位置來幫助創建更好的 ML 模型。然后下載新模型。
Yastic 說，這種方法是必要的，因為汽車等行業根本無法在短時間內處理 TB 級數據。即使有 5G 的可用性，本地系統也必須快速做出一些明智的決定，而不需要來回傳輸大量數據。在自動駕駛汽車中，5G 支持 ADAS 和 AI 功能。
Yastic 表示，不同設備必須做出決策的速度決定了 AI 系統架構，因此也決定了以性能和密度衡量的內存需求。“根據應用的不同，它可能只是一個”嵌入式多媒體卡。
內存菜單
用于汽車和工業 AI 的其他存儲設備可能包括通用閃存、NAND 閃存 SSD、DRAM 甚至 SRAM。
在許多這些生態系統中，尤其是在汽車領域，沒有改變的是可靠性、安全性和安保性。這就是為什么現有內存仍將是首選，即使對于 AI 任務也是如此。就像今天的汽車是車輪上的服務器一樣，它們也是嵌入式端點的集合，包括傳感器和帶有板載內存的攝像頭，它們的使用壽命與車輛一樣長。
Yastic 預測，高可靠性和長壽命是 NOR 閃存將在汽車 AI 中長期發揮作用的原因，它可以在惡劣的環境中運行十年或更長時間。它還因其快速啟動能力而受到汽車制造商的青睞。例如，Macronix 的 OctaFlash SPI NOR 閃存提供快速啟動和快速接口，可以到達自動駕駛汽車的大多數端點。
Yastic 指出，這也歸結為成本：NOR 閃存已經存在了很長時間，因此價格點已經下降。
所有內存技術都不可避免地增加了密度和性能，同時以更小的外形尺寸以更低的成本消耗更少的功率。數據中心仍然需要高性能內存來處理 AI 和 ML 工作負載，但商品內存也有機會滿足分布式系統中的許多 AI 需求。
根據 Rambus 研究員 Steve Woo 的說法，從長遠來看，計算的歷史可以預測 AI 系統內存的未來。“今天的超級計算機就是明天的智能手機，”他指出。
一些需要高端硬件的早期 AI 模型現在可以使用更主流的內存來處理。“現在它更容易獲得，部分原因是半導體行業已經為小型化做出了貢獻，并且不得不降低硬件成本。”
今天的 HBM2 很快就會變成一些 DDR DIMM 和其他通過 Compute Express Link (CXL)連接的內存。“您將能夠達到今天看起來遙不可及的相同性能水平，”Woo 說。
Woo 將人工智能的主流化比作智能手機長達十年的演變。“有各種各樣的開發人員想出了使用這項技術的新方法，”他指出。隨著規模的擴大，市場發展到隨著數量的增加，開發出服務于低功耗市場的專用存儲器。Woo 期望 AI 記憶具有相同的協同作用。“成本將繼續下降。專業組件現在將是合理的，因為您可以為它實現 [投資回報]。”
Woo 補充說，這些進步也與互聯網的架構變化相一致。“數據移動正在成為瓶頸。” 將數據移動到云端進行處理會消耗過多的能源，因此在本地進行處理可以降低成本并提高性能，同時消耗更少的電力。
Woo 還看到了推理和計算任務以及端點類型來確定隨著 AI 的進步哪些存儲器最適合。無論如何，熱特性和功率限制將是一個因素。“你可以看到取舍。” 他說，如果只是推理，那么片上 SRAM 可能就足夠了。
Woo 說，隨著人工智能變得無處不在并分布在不同的平臺上，最終對記憶至關重要的是神經網絡的精簡，例如，使它們成為主流人工智能平臺。
Rambus 研究員補充說，在可預見的未來，基于人工智能的應用程序將需要超級計算，但摩爾定律縮放和其他內存進步將有助于使數據更接近計算資源。任何新的內存類型面臨的挑戰是展示證明替換經過嘗試和真實的東西的好處。
“行業中真正需要的內存數量有限。在很多情況下，有很多現任者似乎足夠優秀，”Woo 說。
更多信息可以來這里獲取==>>電子技術應用-AET<<
