英特爾（Intel）推出新款AI加速器Gaudi 3，採用台積電5奈米生產，預計今年第2季向代工廠提供通用基板和開放加速器模型的標準配置，第3季全面上市。
英特爾表示，Gaudi 3加速器是專為高效能、高效率的生成式AI運算所打造，每台加速器都有專屬的異質運算引擎，運算效率高，並擅於處理複雜的矩陣運算，是深度學習演算法的基礎運算。
英特爾指出，Gaudi 3搭載128 GB的HBMe2記憶體容量、3.7 TB的記憶體頻寬和96 MB的靜態隨機存取記憶體（SRAM），能夠提供處理大型生成式AI資料集所需的記憶體，且適用於大型語言和多模態模型，有助於提升工作負載效能和資料中心的成本效率。
Gaudi 3加速器整合24個200 GB的乙太網路連接埠，提供開放標準網路，實現高效擴充，以支援大型運算集，並克服專有網路架構的供應商限制。
英特爾表示，Gaudi 3加速器是採用台積電5奈米製程生產，在B16浮點格式的運算效能，為前一代採用7奈米Gaudi 2加速器的4倍；Gaudi 3的記憶體頻寬和網路頻寬也分別是Gaudi 2的1.5倍和2倍。
英特爾說，Gaudi 3的參數模型訓練時間、推論吞吐量和推論能源效率皆優於輝達（NVIDIA）的H100，推理速度也優於輝達的H200。
延伸閱讀
強震後迅速恢復產能的台積電，在全球晶片產業扮演什麼角色？從崛起歷程看台灣半導體重要性
馬斯克豪語！2年後AI將比人聰明，供電至關重要
小檔案_中央社
希望透過更好的報導與文章品質，讓台灣社會向上提昇。