賈揚(yáng)清:Groq的AI芯片不能平替英偉達(dá),2月21日訊,財(cái)報(bào)發(fā)布前兩天,英偉達(dá)突然冒出來(lái)一個(gè)勁敵。一家名叫Groq的公司今天在AI圈內(nèi)刷屏,殺招就一個(gè):快。不過(guò),原Facebook人工智能科學(xué)家,原阿里技術(shù)副總裁賈揚(yáng)清在推特上算了一筆賬,因?yàn)镚roq小的可憐的內(nèi)存容量,在運(yùn)行Llama-270b模型時(shí),需要305張Groq卡才足夠,而用H100則只需要8張卡。從目前的價(jià)格來(lái)看,這意味著在同等吞吐量下,Groq的硬件成本是H100的40倍,能耗成本是10倍。
備注:數(shù)據(jù)僅供參考,不作為投資依據(jù)。
掃碼下載
免費(fèi)看價(jià)格