海量數據爆發,大數據與云計算進入發展快車道,對計算能力的需求持續提升,人工智能(AI)芯片已經成為加速產業智能化轉型的硬科技。近年來,AI市場呈現爆發式增長態勢,AI場景廣泛落地。另一方面,AI云端市場中訓練芯片和推理芯片的占比正在發生遷移,推理芯片比例逐漸提升。從IDC數據可以看出,預計到2025年,推理芯片已經占比達60.8%?!懊鎸θ斯ぶ悄芎A康脑贫送评響茫?a class="innerlink" href="http://m.viuna.cn/tags/燧原科技" target="_blank">燧原科技正不斷拓展和完善產品線?!膘菰萍紕撌既思鍯OO張亞林表示,該公司的AI業務已經從傳統單一的機器視覺、聲音文字處理、決策推理等算法,轉變成多場景多應用的落地,不斷滿足用戶廣泛的推理業務和市場需求。
針對以上趨勢,燧原科技發布了其第二代云端人工智能推理加速卡云燧i20及人工智能推理芯片邃思2.5?!半S著該產品的推出,燧原科技完善了第二代訓練與推理產品線,成為國內第一家擁有完整第二代訓練推理產品線的企業?!睆垇喠直硎?,未來,燧原科技將會繼續推動產品創新和迭代。
基于邃思DTU2.5,云燧i20以其高性能、高能效、模型覆蓋面廣、易部署、易運維等特點,廣泛應用于計算機視覺、語音識別、自然語言處理、搜索與推薦等推理場景。與前代產品相比,云燧i20的浮點算力提升了1.8倍,整型算力提升了3倍,在存儲帶寬和精度等方面也有巨大的提升。與次旗艦GPU相比,云燧i20浮點算力和INT8算力提升了兩倍,內存帶寬增加了2.6倍。在基準測試benchmark中,云燧i20模型跨越了從圖像分類識別、NLP到目標檢測、圖像分割,再到圖像超分,整體性能提升了2.5至3.5倍。
據張亞林介紹,邃思2.5是專門為云端推理芯片和應用場景設計的架構。為了滿足云端推理場景的應用落地需求,以及性價比和能效比的苛刻要求,燧原科技綜合設計了算力、帶寬和存儲,同時對性能、功耗和成本因素進行了極致的平衡。此外,隨著推理場景增多,客戶對不同方向、不同類型的場景泛化性要求越來越高。燧原科技進一步打造更加泛化易用的推理軟件棧,并推出增強的訓推一體化系統,滿足客戶日益增長的需求。
邃思DTU2.5具備高性價比、高能效比、高精度等優勢,全面支持從FP32、TF32、FP16、BF16到INT8的計算精度。單精度FP32峰值算力達到32 TFLOPS,單精度張量TF32峰值算力達到128 TFLOPS,整型INT8峰值算力達到256 TOPS。
“燧原科技始終遵循‘做大芯片,拼硬科技’的使命和初心”,成立三年以來,已經完成了兩代AI訓練和推理產品的迭代。燧原科技擁有超級智能算力集群系統等核心產品庫,包括靈活的拓撲結構、完整的部署運維、高速分布式通信和一體化訓推,協助客戶部署高能效、大算力、強互聯、分布式的系統。在軟件方面,燧原科技擁有全棧自主軟件馭算TopsRider,能夠廣泛適配所有框架和算法,靈活擴展編譯系統,高性能泛化計算庫,以及高效應用工具鏈,為客戶開發遷移、運維更多場景和應用提供可能性。