AI進入工業時代！輝達黃仁勳揭Vera Rubin五大改變：台積電矽光子入列

圖、文／ 財訊雙週刊

1月6日，輝達執行長黃仁勳正式發表Vera Rubin超級電腦平台，這是繼2024年3月，輝達發表Blackwell超級電腦平台之後的再次升級，其中許多細節揭露未來AI硬體產業發展的關鍵策略。

根據《財訊》雙週刊報導，這一次，輝達不斷強調Vera Rubin超級電腦平台的出現，代表人工智慧「已進入工業時代」。意思是，這些伺服器不只是要能提供比前一代更高速的AI運算，還要能持續、穩定、可靠的運作，而且AI伺服器必須要能做到幾乎不停機維修，或是即使遇上問題都能自行解決，還必須提高能源效率。
因此，這一代Vera Rubin平台帶來了五項改變。一個是冷卻系統。Vera Rubin平台除了如預期改為全水冷系統運作，更重要的是，輝達讓系統內的各種功能都做成模組；如果任何一項功能出問題，無需檢修，只要把壞掉的模組拔出，換上正常的模組，不用再插拔電線、水管，就能修復系統，速度比過去快了18倍！因此，在新一代Vera Rubin平台上，看不到風扇、軟管和電線設計。第二個改變，是台積電矽光子技術正式進入輝達伺服器。這也是為AI工廠推出的改變，因為AI工廠未必會將所有伺服器集中在一個地方，必須透過超高速網路，讓分散在各地的AI伺服器能像一台超級電腦一樣運作。根據輝達的新聞稿，搭載台積電矽光子技術的Spectrum-X Ethernet Photonics晶片可用來串連數百公里外的AI資料中心。
這款晶片能將能源效率提高5倍，讓更多電力省下來處理AI運算；可靠性則提高10倍，這款晶片出現代表台積電的矽光子技術將開始大量進入資料中心，輝達的目標是要讓這項技術可以串連百萬顆GPU同步運算。第三個改變 強化安全性。輝達在這一代伺服器內配備了第二代的監測系統，由於大型模組訓練時，如果有伺服器損壞，對模型訓練有極大影響，新型的監測系統可以在系統出問題時，不須停機，利用軟體指揮，讓其他伺服器接手原有的工作，不致於影響AI運算。《財訊》雙週刊指出，這些工作主要由通訊晶片負責，這一次輝達搭配VeraRubin推出的通訊晶片，不再只強調高速。黃仁勳透露，這款晶片可以讓伺服器所使用的模型資料加密，意思是，你訓練的AI模型，可以放心的放在別人家的伺服器上供別人使用，使用者即使有意「偷看」，看到的也只是一堆亂碼，無法複製。

第四個改變，記憶體升級。HBM高頻寬記憶體是目前AI硬體中的要角，上一代輝達BLACKWELL晶片採用HBM3E規格的記憶體，這一次Vera Rubin則正式採用HBM4，記憶體頻寬比HBM3E增加一倍，加上其他的新設計，Vera Rubin的記憶體頻寬可達每秒22TB，每張顯示卡可支持288GB的HBM。海力士也在今年的CES展中展出最新款的HBM4產品，目前海力士雖居於領先，但美光和三星也如期推出產品，HBM4的競爭將更為激烈。第五個改變，算力升級。這一次輝達的Vera Rubin GPU晶片是採用台積電三奈米製程製造，根據輝達的資料，Vera Rubin GPU的效能較前一代提升4倍，只需要四分之一數量的GPU，就能達到同樣的模型訓練效果，產生AI算力的成本，也降至原本的十分之一。《財訊》採訪得知，輝達不只是升級GPU，連處理器、資料交換晶片、網路管理晶片、資料管理晶片、乙太網路晶片，共六顆晶片及其背後的軟體都做了調整，從產品的布局可以看出，輝達正在為AI走出資料中心，打造AI工廠做準備。要讓AI走出大型資料中心，走進企業，就必須讓AI更可靠，更容易維護。黃仁勳未來將會花更多力氣，把AI算力賣進大型企業。…

（更多精彩內容，詳見《財訊》雙週刊）

延伸閱讀：
卜蜂2025年業績創新高　正大集團謝國民也驚艷
美軍抓捕委內瑞拉總統馬杜洛　川普一句話揭主要目的、能源市場會受影響？
輝達黃仁勳CES首秀》全球HBM都在為我們擴產！首揭當33年CEO「不被炒魷魚」的兩大秘訣