在本周的Cloud Next大會上,Google正式推出了其第七代TPU AI加速器芯片——Ironwood。據(jù)Google Cloud副總裁Amin Vahdat介紹,Ironwood是Google迄今為止功能最強大、性能最優(yōu)、且最節(jié)能的TPU。
這款全新的AI加速器芯片專為支持大規(guī)模的思考和推理AI模型而設計。在計算性能上,Ironwood實現(xiàn)了4614 TFLOP的峰值算力,并配備了192GB的專用RAM以及7.4Tbps的超高帶寬,確保了數(shù)據(jù)的高速傳輸。此外,芯片間互連(ICI)帶寬提升至1.2Tbps,較上一代提升了50%,從而大幅優(yōu)化了分布式訓練的效率。
Ironwood最引人注目的特點之一是其可擴展性,它支持9216個液冷芯片集群部署,總功率接近10兆瓦。通過創(chuàng)新的ICI網(wǎng)絡,Ironwood能夠實現(xiàn)超大規(guī)模AI工作負載的處理。Google Cloud為客戶提供兩種配置選擇:256芯片和9216芯片。
作為Google AI超級計算機架構的核心組件,Ironwood通過軟硬件的協(xié)同優(yōu)化,將有力推動生成式AI向更復雜場景演進。這一創(chuàng)新成果不僅展示了Google在AI加速器芯片領域的領先地位,也為AI技術的發(fā)展注入了新的動力。