6月27日,從多個獨立信源獲悉,目前互聯(lián)網(wǎng)廠商是英偉達H20購買主力,后者為英偉達特供中國市場的芯片,實際出貨時間在5、6月份,價格對標華為昇騰910。
“但目前互聯(lián)網(wǎng)廠商們購買的規(guī)模不算大,每個廠商大概為上千片GPU。”前述產(chǎn)業(yè)鏈人士透露稱。英偉達的高端芯片其實還是各個企業(yè)的首選,他們也在都試用國產(chǎn)GPU,會不會大批量買H20也看國產(chǎn)芯片的綜合使用效果”。
這個說法也與業(yè)內(nèi)多數(shù)人士的看法一致。此前,曾有市場聲音表示,H20的需求聲量并不大,主要是“性價比不高”,國產(chǎn)算力芯片也是廠商的一個選擇。
一名字節(jié)跳動內(nèi)部人士告訴《科創(chuàng)板日報》記者,公司的大模型業(yè)務對于算力要求非常大,目前已經(jīng)儲備了大量英偉達的H100、A800、L20和4090產(chǎn)品,也購買了少量H20進行測試。
但因為H20降低了一部分參數(shù)標準,性能無法媲美高端芯片,H20目前還無法在高并發(fā)、高算力要求的模型訓練環(huán)節(jié)當中使用。該人士表示,從H20芯片測試情況來看,只適合用作模型推理,或做model size(模型大小)要求不那么大的訓練。
從市場策略來講,英偉達推出H20,主要是為了穩(wěn)住中國市場。在價格基本對標的情況下,國產(chǎn)芯片與H20短兵相接,適配效果將會是客戶做出購買決策的關鍵。
有業(yè)內(nèi)人士稱,從參數(shù)來看,H20芯片與華為昇騰相近,但是華為配套的軟件不是主流,適配起來需要一定的過程和時間,目前來看效果不是很理想。
目前,英偉達的CUDA在后端架構(gòu)上處于絕對的統(tǒng)治地位。“替換CUDA這種開發(fā)環(huán)境,比替換芯片和通道難”,該人士評價到。
不過,隨著企業(yè)對安全的關注程度越開越高,從長遠來看,國產(chǎn)芯片發(fā)揮的功能將越來越大。
前述人士表示,字節(jié)跳動之前已經(jīng)試用過國內(nèi)各種廠商的芯片。目前,在一些特殊場景當中,比如對安全要求很高的金融客戶、政企客戶等,都是采用的國產(chǎn)芯片。