近日,無問芯穹發(fā)布了“無穹Infini-AI”大模型開發(fā)與服務平臺,并宣布與摩爾線程達成深度戰(zhàn)略合作。
無穹Infini-AI基于無問芯穹的智算云平臺,可服務生成式大模型的多種場應用落地,為應用開發(fā)者提供高性能、易上手、安全可靠的大模型服務,覆蓋從大模型開發(fā)到大模型服務化部署的全流程。
目前,無穹Infini-AI已經(jīng)支持百川Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3閉源模型、Llama2、Qwen、Qwen1.5等系列模型共20多個模型。
摩爾線程是第一家接入無問芯穹并成功完成千卡級別大模型訓練的國產(chǎn)GPU公司,“夸娥”(KUAE)集群已經(jīng)與無穹Infini-AI順利完成了系統(tǒng)級融合適配,并完成了LLama2 700億參數(shù)大模型的訓練測試。
“夸娥”集群基于雙路八卡GPU服務器MCCX D800,每個節(jié)點有八塊MTT S4000 GPU加速卡、兩顆Intel第四代至強處理器、16 x 64GB內(nèi)存、4×3.84TB NVMe SSD,以及雙路400Gb IB、四路25Gb以太網(wǎng)網(wǎng)絡,一體化交付解決大規(guī)模GPU算力的建設和運營管理問題。
夸娥氏是我國神話傳說中的大力神,出自《愚公移山》:“帝感其誠,命夸娥氏二子負二山,一厝朔東,一厝雍南。自此,冀之南,漢之陰,無隴斷焉。”
摩爾線程聯(lián)合創(chuàng)始人兼執(zhí)行總裁王東表示,基于先進的MUSA架構(gòu),摩爾線程已建立了從芯片、板卡、集群到軟件的全棧AI產(chǎn)品線。
摩爾線程夸娥智算集群是以全功能GPU為底座、軟硬一體化的全棧解決方案,擁有高兼容性、高穩(wěn)定性、高擴展性等綜合優(yōu)勢,可作為大模型訓練堅實可靠的先進基礎設施。