- 相較於傳統多供應商架構,整合供電、冷卻系統與控制邏輯的架構,可降低相容性問題與營運複雜度。光寶的做法進一步結合長期電源管理經驗與機櫃層級液冷設計,使負載行為與熱反應之間能協同控制,進而提升系統可靠度、最佳化空間利用,並為下一代 AI 工作負載打造可擴展的基礎設施。
撰文 & 採訪 : 光寶科技 LITEON 編輯部 (企業品牌價值發展中心)
技術審稿 : 光寶核心競爭力中心

隨著新一代 AI 加速器(AI accelerators)的熱設計功耗(TDP, Thermal Design Power)從 H100 等級的 700W 功耗範圍提升至 1000W 以上,既有以氣流為核心的散熱架構(airflow paradigm)逐漸成為瓶頸。然而,機櫃規模的熱點管理(rack-scale hot-spot management)也變得更加困難。若缺乏更高效率的熱傳能力(heat-transfer efficiency),尖峰運算效能可能受限於過熱降頻(thermal throttling)、瞬態不穩定(transient instability),以及過度配置且效率不佳的機房層級空調。由於資料中心散熱最高可能占整體能源使用量的 40%,熱設計已成為提升效率的關鍵槓桿之一。因此,AI 資料中心散熱正轉向液體迴路(liquid loops),讓熱能在更靠近晶片的位置被帶走,藉此降低對風扇與冰水主機(chiller)的依賴,並將電力使用效率(Power Usage Effectiveness, PUE)從傳統氣冷水準降至更高效率的範圍。*PUE = 電力使用效率(Power Usage Effectiveness)= 總設施用電(Total Facility Power)÷ IT 設備用電(IT Equipment Power)
根據 2024 年全球調查指出,資料中心平均 PUE 為 1.56。這代表許多資料中心已難以單靠傳統機房設施升級取得大幅效率改善,必須在電源架構、冷卻設計與系統整合上進行更大幅度的調整。更關鍵的變化,來自於架構本身。液冷能讓更多電力轉化為實際運算能力,協助營運商提升節點密度(node density)、優化總持有成本(TCO, Total Cost of Ownership)與 ESG 指標,同時降低散熱負擔並釋放機櫃空間。然而,要完整發揮這些效益,供應鏈不能再把冷卻系統視為獨立採購項目。過去,電源架(power shelves)、機櫃、控制邏輯、管路與冷卻液分配單元(CDU, Cooling Distribution Unit)往往分別採購,導致部署與維護時出現相容性問題,也讓責任歸屬變得不清楚。光寶結合長期累積的電源研發能力與機櫃層級液冷整合經驗,協助客戶簡化 AI 資料中心散熱中的驗證、專業分工方式、維護規劃與生命週期支援,為客戶提供涵蓋供電(power delivery)與散熱(heat removal)的整合導入路徑。

傳統液體迴路通常會等到回水或供水溫度變化後,才提高泵浦轉速。也就是說,控制器是在熱量已進入冷卻液路徑後才做出反應。隨著 AI 工作負載快速攀升,這樣的延遲已不足以應對需求。受冷卻迴路熱慣性(thermal inertia)影響,功耗可能在極短時間內大幅攀升,但冷卻液溫度往往會稍後才反映出變化。換句話說,如果電氣事件先於熱事件發生,AI 資料中心散熱就不能只依賴溫度回饋。因此,先進 CDU 設計正朝向依據實際運作條件,自動調整流量與溫度,而不是沿用固定的機械假設。值得注意的是,AI 工作負載可能讓 GPU 功耗在短短數毫秒內快速上升,有時甚至使裝置超過原始熱設計功耗 TDP,或逼近絕對功率上限(absolute power limits)。這也說明,相較於只看冷卻液溫度,電源感測(power telemetry)更適合作為更早期的控制輸入。
光寶的做法建立在一個簡單但關鍵的概念上:當機櫃電源系統偵測到負載快速上升時,就代表熱量即將增加。控制邏輯會將電流變化轉換為數位冷卻指令,不必等待迴路中的感測器確認溫度上升。如此一來,CDU 能在冷卻液溫度明顯變化前提高流量並改善熱交換,這也是提升 AI 資料中心散熱反應速度的重要技術進展。此時,冷卻系統已不只是獨立的機械設備,而是開始成為電源控制迴路(power-control loop)的一部分。面對動態 AI 伺服器負載,光寶提倡應採用系統層級能源管理,並提高液冷與熱管理系統的彈性。
從技術原理來看,這項專利設計將機櫃層級負載波動與動態泵浦控制連結起來。其控制變數是來自運算負載的快速增加,而 CDU 會在溫度曲線變化之前先調整水力輸出(hydraulic output)。這一點相當重要,因為更平順的預先致動(pre-emptive actuation)可降低過衝(overshoot),避免後段採取過度修正,並讓工作負載突增時的壓力與流量表現更穩定。其結果是一條智慧化熱管理鏈:電源感測、韌體邏輯、泵浦反應與熱交換器能力依序協同運作,就像系統能在冷卻液真正反映熱事件之前,先讀出工作負載的下一步變化。這項預測式控制概念也反映在光寶的專利中,其中揭露了一種依據功率變化調整 CDU 泵浦運作的數位控制方法。透過將電氣負載變化作為更早期的控制訊號,CDU 能在冷卻液溫度曲線完整反映熱事件前先行反應,進一步強化運算負載、電源感測與水力輸出之間的連結,為高密度 AI 工作負載提供更主動的熱管理。
在高密度 AI 資料中心散熱中,可用性不只取決於滿載時能帶走多少熱量,也取決於當某一單元運轉下降時,整體水力網路能否平順降級。光寶的叢集式 CDU 管理(clustered CDU management)可將多個單元協同成一個流量池(flow pool)。當其中一台 CDU 異常或暫時降轉運作(derated)時,其餘單元會以受控斜率提高泵浦輸出,在不造成壓力驟降的情況下補足缺口。這種軟體定義的補償邏輯,能將故障處理轉化為受控的過渡流程,降低單一薄弱節點影響整體運算平台的風險。光寶的高容量機櫃列式 CDU (in-row CDU)設計納入內建備援與線上維護能力,可提升系統可用性與維運彈性。
下一道防線是迴路隔離(circuit isolation)。電子式逆止閥(electronic check valves)可在逆流造成紊流、壓力失衡或分歧管(manifold)內不必要混流之前,先將中斷的冷卻液分配單元從運作中的水路切離。這看似只是小細節,實際上卻很關鍵。它能避免停止運作的支路變成水力捷徑(hydraulic shortcut),維持單向流動並穩定其餘管路。系統可在較少瞬態擾動下持續運作,維修團隊也能同步診斷受影響的單元。在資料中心系統中,透過逆止閥進行防逆流(backflow prevention),是保護液冷效能的常見做法。
許多冷卻設計的瓶頸在於例行維護不易進行。因此,光寶將濾網移至 CDU 前側,使其可在不停止整套冷卻系統的情況下更換。系統並搭配 1+1 泵浦架構,可在水壓與流量維持於所需運作範圍內時切換泵浦路徑。濾網更換與泵浦切換因此成為可控的維護動作,而不是造成中斷的事件。對營運商而言,這種可靠度更接近日常運維應有的狀態。備援泵浦(redundant pumps)與智慧流量監控(smart flow monitoring)也是 CDU 可靠度的核心機制。這項可維修性設計與光寶的IDF-23460 專利相關,其內容涵蓋一種支援維護與更換、且不會中斷整體冷卻運作的 CDU 濾網設計。透過前側維修與受控服務流程,此設計有助於降低維護造成的停機時間,同時讓冷卻液流量、壓力穩定性與系統可用性維持在所需運作範圍內。這也進一步強化 CDU 的角色,使其不只是冷卻裝置,更是適用於高密度資料中心環境、具備可維護性的基礎設施平台。

光寶下一代機櫃列式 CDU(in-row CDU)概念採取相當直接的做法。
必須注意的是,每一次轉換階段都會以熱的形式造成能量損失。在超大規模(hyperscale)環境中,1% 的效率提升並不是四捨五入可忽略的誤差,而是影響長期營運成本的關鍵槓桿。作為未來 AI 工廠的電力骨幹,800V DC 可提升端到端效率,並支援機櫃擴展至兆瓦等級需求。
其電氣邏輯相當直觀:在相同功率下,電壓越高,電流越低;電流越低,所需銅材更少、導體可更小、配電硬體體積也更低,並可減少電阻損失。在機櫃列中,這代表線纜束可更精簡,後側維護區不易壅塞,也能為氣流淨空、管路配置、檢修空間,以及更清楚的電力與冷卻佈局留出更多實體空間。光寶亦指出,其 800V DC 解決方案可降低電流、轉換損耗、銅材與線纜用量、部署成本與機櫃空間壓力,符合 AI 資料中心散熱的基礎設施經濟性。

更值得關注的是,光寶將電池備援(BBU, Battery Backup Unit)嵌入 CDU 架構本身。在這種資料中心冷卻液分配單元設計中,CDU 不再只是等待上游電力恢復的熱管理設備。當外部交流電網失效時,內部 BBU 可在發電機穩定或備援配電啟動前,於短暫但關鍵的切換期間維持液體循環。概念上,這項專利方法能保護高功率機櫃免於危險的熱流停滯(thermal stall),因為在電力系統因故障重新調整的同時,冷卻液迴路可藉由BBU供電而持續流動。這項架構反映於光寶專利申請 US20250364936A1「Cooling distribution device and method」中。該申請揭露一種由高壓直流(HVDC)供電、並支援嵌入式 BBU 的 CDU 架構,使冷卻系統能在電力切換事件中維持液體循環。透過將備援能源直接整合進冷卻分配架構,此設計有助於在外部電力條件變化時,保護高功率 AI 機櫃免於突發熱中斷,支援更強的故障穿越能力(ride-through capability)與冷卻連續性。
對高功率密度電源系統而言,冷卻液本身就是電氣安全架構的一部分。介電液(dielectric liquid)的設計目標,是即使直接接觸帶電元件,也能大幅降低短路風險。相較之下,去離子水(Deionized Water, DI Water)一旦因污染物改變水冷液特性,也可能帶來安全風險。因此,光寶正研究具備高絕緣強度(high insulation strength)與非導電特性的介電液。如此一來,在 AI 資料中心散熱應用中,即使發生輕微滲漏,在實務上也能保有更大的安全裕度,而不會立即導致元件損壞或系統風險。這也與 OCP 浸沒式冷卻指引(OCP immersion guidance)的方向一致;該指引將介電液描述為一種電氣絕緣液體,可直接接觸電子元件以進行散熱。
更具前瞻性的概念,是將混合式浸沒設計(Hybrid Immersion Design)應用於電源供應器(Power Supply Unit, PSU)。透過介電液直接接觸特定電源元件,可避免所有熱路徑都必須經由厚重的冷板(cold plate)結構、介面材料與機械夾具傳導。
這將形成更高密度的封裝模式:
對於未來導入 AI 資料中心散熱解決方案的客戶而言,這代表電源轉換硬體可從一開始就被打造為液冷原生子系統(Liquid-Native Subsystem),而不是在氣冷產品上額外加裝散熱配件。光寶具備從 PSU 到機櫃層級,整合電源、液冷、機櫃、軟體與完整系統的能力。這種混合式浸沒電源方法,與光寶專利申請 US20260089899A1「Liquid-cooled power supply cabinet and data center cooling system using the same」相關。該申請將液冷式電源硬體定位為整合式資料中心冷卻系統的一部分,而非獨立的電源模組。透過促進電源轉換硬體、介電液冷卻、機櫃層級設計與系統層級熱管理之間更緊密的互動,此架構可為未來高輸出、液冷式 AI 基礎設施提供更精簡且可擴展的路徑。
真正的關鍵也在此浮現:介電液、密封件、軟管、分歧管、彈性體(elastomers)與金屬介面,必須能承受多年壓力與溫度循環、化學物質暴露,以及維修過程中的操作。光寶的長壽命設計基準透過長時間、高溫與高壓驗證,旨在證明密封力、材料彈性與流體相容性(fluid compatibility)在超大規模運作條件下不會劣化。結合與美國大學的合作,這套嚴謹的測試方法,也讓光寶能在下一代運算負載使現有機構設計假設顯得過於保守之前,持續推進混合式浸沒電源基礎架構的演進。
轉向液冷並不只是用一種熱管理裝置取代另一種。真正的變化在於,供電、散熱、韌體智慧、機櫃機構與維護邏輯會整合為同一層基礎設施。這也正是光寶數十年電源管理經驗能發揮價值之處。透過將電源領域設計導入液冷,並在系統層級連結負載行為與熱反應,光寶能提供傳統單純冷卻供應商較難自行複製的整合深度。從電源走向機櫃級液冷的發展路徑,可協助客戶降低介面風險、釐清責任歸屬,並在架構擴展時維持可靠度。對於正在準備迎接下一波加速運算(accelerated computing)的團隊而言,現在正是探索光寶整合式 AI 資料中心散熱解決方 案的時機。這些解決方案將提供更可靠、可擴展且具能源效率的 AI 基礎設施。