英偉達B200剛發(fā)布 Meta就摩拳擦掌:將用于訓練最新AI模型
原創(chuàng)
2024-03-20 08:59 星期三
財聯(lián)社 劉蕊
①英偉達高管對外透露,全新一代Blackwell架構人工智能GPU芯片B200預計將在今年晚些時候首批交付,售價預計在3萬至4萬之間。
②英偉達的最大客戶之一——Meta也表示,公司將快速將其應用于訓練公司的最新人工智能模型Llama。

財聯(lián)社3月20日訊(編輯 劉蕊)在英偉達最新發(fā)布全新一代Blackwell架構人工智能GPU芯片B200之后,英偉達的最大客戶之一——Meta就迫不及待地宣布,公司預計將在今年晚些時候收到Blackwell新品,并將其快速將其應用于訓練公司的最新人工智能模型Llama。

周二晚些時候,英偉達高管也對外透露,這一產品預計將在今年晚些時候首批交付,售價預計在3萬至4萬之間。

Meta:將使用B200訓練AI模型

美東時間周一,英偉達在每年一度的GTC 2024大會上上宣布了全新一代Blackwell架構人工智能GPU芯片——B200。據(jù)英偉達CEO黃仁勛介紹,B200芯片集成有2080億個晶體管,是上一代芯片800億個晶體管的2.6倍,在處理給聊天機器人提供答案等任務時,B200芯片的速度比上一代芯片快30倍。

隨后,F(xiàn)acebook母公司Meta平臺的一位發(fā)言人便表示,該公司預計將在今年晚些時候收到首批英偉達的Blackwell新品。

社交媒體巨頭Meta是英偉達最大的客戶之一,此前該公司已經(jīng)購買了數(shù)十萬顆英偉達上一代芯片H100,以支持其升級內容推薦系統(tǒng)和生成式人工智能產品。

今年1月,Meta首席執(zhí)行官馬克·扎克伯格曾透露,該公司計劃在今年年底前儲備約35萬枚H100芯片。他補充說,與其他GPU相結合,到那時Meta將擁有相當于大約60萬個H100的處理器。

美東時間周一,在英偉達發(fā)布B200芯片后,扎克伯格發(fā)布聲明稱,Meta計劃使用Blackwell產品來訓練該公司的Llama模型

Meta上周宣布,它擁有兩個“數(shù)據(jù)中心級”的GPU集群,據(jù)稱每個集群包含約24000個H100 GPU,Meta目前正在這兩個GPU集群上訓練第三代AI模型。

Meta發(fā)言人表示,Meta計劃繼續(xù)使用這些集群來訓練Llama 3,并將在未來幾代AI模型的訓練中使用Blackwell產品。

英偉達B200預計年內發(fā)貨 定價3萬至4萬美元

美東時間周二,英偉達首席財務官科萊特·克雷斯(Colette Kress)對投資者透露:“我們認為我們將在今年晚些時候首批交付”,但也表示,要等到2025年才會大批量供應。

此外,英偉達CEO黃仁勛也在周二向媒體透露,Blackwell新品的售價將在3萬美元至4萬美元之間。他預計,英偉達在研發(fā)成本上花費了大約100億美元。

這意味著B200等新品可能將大受歡迎,因為其前代產品H100的定價約在2.5萬-4萬美元之間,而新產品的性能遠超前代。

黃仁勛昨日在GTC會議發(fā)表演講時舉例稱,如果要訓練一個1.8萬億參數(shù)量的GPT模型,需要8000張Hopper GPU,消耗15兆瓦的電力,連續(xù)跑上90天。但如果使用GB200 Blackwell GPU,只需要2000張,同樣跑90天只消耗四分之一的電力。不只是訓練,生成Token的成本也會隨之顯著降低。

收藏
110.87W
我要評論
歡迎您發(fā)表有價值的評論,發(fā)布廣告和不和諧的評論都將會被刪除,您的賬號將禁止評論。
發(fā)表評論
要聞
股市
關聯(lián)話題
4.29W 人關注
8.49W 人關注
4.22W 人關注
7503 人關注
1.13W 人關注