在2024 SIEPR經(jīng)濟峰會上,NVIDIA的首席執(zhí)行官黃仁勛分享了關于公司下一代DGX GPU服務器的最新信息。他宣布,這款即將推出的服務器將采用水冷散熱系統(tǒng),呈現(xiàn)出一幅極為壯觀和迷人的技術景象。
黃仁勛進一步透露,新一代DGX服務器的發(fā)布指日可待,這暗示著備受期待的Blacwell B100 GPU加速卡的發(fā)布日期已經(jīng)臨近,預計會在2024年第二季度亮相。
在戴爾的一次會議上,有消息確認,NVIDIA將在明年推出一款升級版的B200 GPU,其最高功耗可能達到驚人的1000W,甚至有消息稱可能會攀升至1400W,這一數(shù)字無疑令人震驚。
目前,NVIDIA的主力AI GPU H100及其升級版H200的最大功耗為700W,核心面積為814平方毫米,這兩款GPU都只需要風冷散熱。而AMD的MI300X GPU的功耗需求為750W,其核心面積稍大,為1017平方毫米。
在數(shù)據(jù)中心和服務器領域,浸沒式液冷散熱技術的使用已經(jīng)變得越來越普遍。然而,對于這種散熱方式,業(yè)界專家的意見并不一致,有些專家對此持有保留態(tài)度。
Moor Insights & Strategy的創(chuàng)始人、CEO兼首席分析師Patrick Moorhead就提出了一個關鍵問題:在追求性能提升的同時,我們已經(jīng)盡可能地控制了功耗和發(fā)熱,但我們還能走多遠?是否應該考慮使用液氮?現(xiàn)在是時候重新思考我們的策略了。