下載文件 () / 20

GenAI 資料中心IT機房技術解決方案簡介

生成式 AI (GenAI) 資料中心IT機房設計的多樣性,如同企業運用人工智慧與機器學習的方式一樣多元。在為您的 GenAI 環境設計最佳化解決方案時,有幾項重要因素需納入考量。為每個資料中心量身打造解決方案,可確保網路的高效率與持續運作時間。

機架前端

GenAI 機架中的運算能力可能是標準高密度 IT 機架的兩倍。當如此大量的 AI 技術、運算、電力與熱能集中在單一位置時,機架中的其他設備也必須獲得與伺服器同等的重視,否則效能與可靠性將會受損。 

主動式光纖與直接連接纜線

在 AI 應用中,資料的傳輸量呈爆炸性成長。主動式光纖纜線 (AOC) 與銅製直接連接纜線 (DAC) 皆在高速且高效地傳輸資料方面扮演關鍵角色。AOC 提供隨插即用的簡易安裝技術,透過預先裝配的光纖纜線,將運算硬體的電訊號轉換為光訊號。AOC 的傳輸距離可達 100 公尺,速度高達 400GB,非常適合在資料中心內部機架之間連接 AI 伺服器。 

在短距離傳輸方面,銅製 DAC 是 AOC 的具成本效益替代方案。它們常用於連接同一機架內的伺服器。DAC 的額外優勢是零延遲,且連接器產生的熱量較低 (相較於光收發器),這對於高密度機架而言是一項重要考量。 

 

光纖網路解決方案

在高效能運算的世界中,只有一件事恆久不變:資料量將不斷增加,您需要迎頭趕上需求。為了讓您的資料中心充分因應 GenAI 環境的變化並為業務奠定前瞻性,選擇最適合需求的網路佈線至關重要。光纖纜線可實現高速資料傳輸並將延遲降至最低,這對處理大量資料與支援 GenAI 工作負載至關重要。預端接纜線讓資料中心營運商在安裝過程中節省時間並降低接線錯誤。搭配模組化卡匣與高密度配線盤使用時,我們的光纖解決方案可節省機架空間並簡化實體安裝,讓您能隨業務成長輕鬆擴充網路。 

660495303

配線盤與分線卡匣

隨著與 AI 工具相關的數位資料量持續擴增,對於更快速存取這些資料的需求也同步成長,進而推動對更高頻寬的需求。模組化配線盤具備極高的連接密度、靈活性、可擴充性,並相容於現有與新興的高速網路標準,讓您滿足目前的連線需求,同時投資未來。模組化配線盤解決方案支援您規劃、部署並升級網路,以滿足不斷成長的頻寬與速度需求。

分線卡匣將高密度光纖纜線分配為各個獨立接頭,使其更易於管理與連接至網路裝置,非常適合在狹小空間內進行多重連接。隨著網路需求增加,您可輕鬆在模組化配線盤中新增更多分線卡匣,無須重新安裝。

收發器

在為  GenAI  部署做準備時,收發器在資料傳輸中扮演關鍵角色,提供高速且低延遲的連線能力。相較於以銅為基礎的網路,光通訊可實現更快的傳輸速度與更遠的距離。與光纖纜線搭配使用時,收發器可提供 AI 等資料密集型作業所需的高頻寬支援。

SFP 收發器可將光訊號轉換為電訊號,傳輸速度範圍從 1GB 至 400GB 不等。它們相容於依多來源協議 (MSA) 標準製作的 OEM 品牌,提供高度靈活性與跨廠商的互通能力。收發器亦支援多項數位診斷監控 (DDM) 功能,例如溫度與傳輸速度,有助於確保您的網路全年無休穩定運作。這些元件整合運作,有助於最佳化空間利用、強化安全性並支援現代資料中心日益成長的需求。

網路交換器

現代資料中心,包括  GenAI 要求伺服器之間以最低延遲傳輸大量資料集。 隨著資料集擴大,對儲存裝置的需求也隨之增加,迅速提升網路的複雜度。在部署中新增多層網路交換器可確保資料以最少中斷抵達目標。

網路交換器可將裝置連接至區域網路 (LAN),並允許伺服器透過網路進行通訊。網路交換器僅將資料傳輸至指定接收的裝置,有助於提升網路效率與潛在傳輸量。本地網路交換器可支援機架內部裝置的互聯,而可管理型交換器則提供更多控制與配置選項,以支援機架之間的通訊。可管理型交換器可讓您設定與監控網路,有助於最佳化效能並排除問題。進階功能如 VLAN (虛擬區域網路)、QoS (服務品質) 與 SNMP (簡單網路管理協定),有助於管理網路流量並確保高效率的資料流程。

KVM

依據應用中所使用的伺服器,可選擇多種管理方式。若您未使用伺服器廠商的遠端管理系統,KVM over IP 可提供所需的存取權與可見度,讓您能夠在本地與遠端透過網路監控及管理伺服器。遠端存取表示無需親臨現場即可存取與控制伺服器,讓使用者能從隔壁房間、廠區內部,甚至全球各地管理伺服器。在本地層級,具備可拉出式 LCD 主控台的型號可在機架提供螢幕顯示,提升現場操作便利性。伊頓的型號不受品牌限制,可順暢整合至各種伺服器組合的應用中,讓您能檢視應用程式、存取 BIOS 與完整系統記錄,並上傳韌體。 

image4-kvm-switches.jpg

模組化存取控制系統

隨著資料中心增長並新增更多伺服器,保護設備及其傳輸的機密資料變得前所未有地重要。配置 GenAI  伺服器的高密度機架外殼代表了可觀的財務與營運投資,其安全性應列為計畫與實作的首要考量。一項簡單但有效的安全措施是使用 伊頓的 TANlock 門把,為 IT 機架外殼提供理想的模組化存取控制系統 (MACS),滿足所需的額外安全性。TANlock 採用七種不同的驗證技術, 提供靈活選項以有效保護機架外殼,包括密碼輸入器、指紋掃描、觸控螢幕與遠端控制存取等方式。 除了具備多元安裝選項,TANlock 也可透過 MS Active Directory、LDAP、RESTful API、Web API 或 SNMP 無縫整合至任何系統中,即使是使用自有儀表板的使用者也能享有其安全防護。當與伊頓的  Brightlayer 軟體搭配使用時,管理者可遠端授權,讓使用者依需求存取機架。 

機架後端

伺服器機架的設計旨在安裝、整理並固定機架式 IT 設備,例如不分製造商品牌的伺服器與交換器。伺服器機架提供多種尺寸與配置,從小型桌上型單元到大型落地式機型皆有。大多數網路機架皆具備前進後出的氣流設計,支援高效的熱通道/冷通道配置,並超越伺服器製造商的氣流要求,以確保設備能可靠運作。可選配頂部與面板風扇,以最佳化冷卻效率。內建與可附加的纜線管理設計有助於減少雜亂、提高連接準確度並最佳化氣流,以提升運作效率並延長設備壽命。多功能機架可因應日益增加的設備密度與重量。與先進冷卻解決方案的相容性有助於讓資料中心具備前瞻性,因應機架日益緊湊的空間中所需承載的更大功率與熱能。

伺服器機架

傳統 IT 機架無法承受 GenAI 伺服器的重量,其每機架單元 (U 空間) 可超過 100  磅 ,亦無法支援其機櫃與佈線所需的加深深度。伊頓的重型 SmartRack  外殼設計可承重高達 5000 磅,且深度達 44 至 54 吋,為 GenAI 伺服器提供充足空間。

這些新型 GenAI 機架可相容於液冷式冷卻分配裝置 (CDU) 與直達晶片冷卻裝置。額外的後方空間讓您輕鬆安裝雙 PDU 與雙 CDU,同時保留足夠空間以維持纜線彎曲半徑與維修便利性。隨著 GenAI 伺服器運算能力的提升,其深度預期也會隨之增加,因此投資深型機架可為未來擴充預留空間。不同於會吸光且與伺服器混為一體的全黑機架,這些機架為白色設計,可在機架內進行設備安裝與維護時提供更佳的對比與可見度。 

電源分配單元 (PDU)

高密度機架需要更多電力容量與更多功能的機架式 PDU。PDU 的主要考量在於是否具備足夠插座,以支援機架內所有設備並應付其電力需求,在某些情況下功率甚至可達 46 kW。此外,連接至網路的管理型 PDU 能針對連線的裝置進行插座層級的遠端監測和控制,來節省時間、提高可見度並減少現場處理的需求。 

但是,為您的機架內 PDU 奠定前瞻性所需的不僅如此。透過部署具彈性的 PDU,您可延長設備的使用壽命。伊頓的 PDU G4 平台內建高彈性設計,包括可同時支援 C14 與 C20 插頭的多功能 C39 插座。不侷限於特定插座配置,可讓您在升級或重新整理機架時更加輕鬆。通用輸入型機架 PDU (UPDU) G4 符合全球通用的業界標準,因此您可在全球採購單一 PDU 機殼,並搭配符合各地電壓與容量需求的各種輸入纜線。伊頓的 PDU 於全球製造,並具備區域工廠的 ETO/CTO 能力與擴充產能以應對大量需求。

透過整合的 Gigabit 網路模組 (GNM),並取得 UL 2900-1 與 IEC 62443-4-2 網路安全性認證,您可進行零接觸佈建,遠端管理與監控您的 PDU G4。級聯功能可讓最多 32 個 PDU 共用資料中心的相同實體網路連線,從而降低相關網路基礎架構成本。每個級聯的 PDU 都會由系統指派一組唯一的 IP 位址。

如需更多關於網路管理功能的資訊,請參閱網路卡章節。

電源線

電源線是 GenAI 與資料中心IT機房配置中不可或缺的元件,最新 GenAI 配置需使用 C20 與 C21 接頭。由於 GenAI 產生大量熱能,所使用的纜線需具備耐高溫設計。許多電源線現已配備 C21 接頭,此為高溫應用所設計。這些電源線可依需求客製多種顏色與長度,以搭配對應的 PDU,節省安裝與維護時間,同時改善整個機架的氣流。考量機架內的長度與線纜彎曲半徑對於節省空間與避免意外脫落至關重要,這正是可客製化電源線的優勢所在。

垂直纜線管理器

垂直纜線管理器相容於伊頓的重型 SmartRack 外殼。其可協助您整理機架中的電力、網路與其他纜線,特別是在新增設備而導致纜線需求同步增加的情況下。 

新一代冷卻相容性

先進冷卻技術對於配置高密度機架伺服器、耗電量巨大的 GenAI 資料中心至關重要。更高功率代表更多熱能,可能會損壞敏感設備,亦提升了監控需求,以避免停機。新款重型 SmartRack 外殼相容於多種先進冷卻方式,包括冷卻分配裝置 (CDU)、直達晶片冷卻與背門式熱交換器 (最高可支援 40 kVA)。

在高功率密度環境中,CDU 採用液冷而非氣冷,因為液體的導熱效率遠優於空氣。直達晶片冷卻仰賴液體在整個機架中的循環,透過直接安裝於主要產熱元件頂端的冷卻板,針對系統內的熱點進行散熱。全新的重型 SmartRack 外殼提供多種選項,無論您是在超大規模資料中心啟用 GenAI,還是在中型資料中心支援機器學習,都能讓您依據特定應用自訂機架冷卻方式。

重要注意事項: CDU 必須搭配 UPS 電池備援保護。若無適當備援,即使 CDU 停止運作僅數秒,也可能導致 GenAI 伺服器故障,造成高昂的停機成本。 

盲蓋板與穿線式毛刷擋板

盲蓋板與穿線式毛刷擋板對於維持資料中心的氣流與熱管理效率至關重要。盲蓋板可填補伺服器機架中的空間,防止暖氣回流,避免熱氣繞過既有的排氣路徑,進而流向機架前端。使用盲蓋板可降低冷卻成本、提高效率並延長設備壽命,同時有助於提升整齊度。毛刷擋板與盲蓋板功能類似,但可讓纜線穿過,同時在其周圍形成氣流屏障。除了提供氣流封閉外,毛刷擋板還可防止灰塵與碎屑進入機架,避免損壞關鍵設備。

具備網路安全的網路管理卡

為設備加裝安全網路管理卡可為您的 IT 基礎架構與所處理的敏感資訊增加一道防線,並提供遠程端監測能力。Gigabit 網路卡 (Network-M3) 通過獨立機構的網路安全認證 (UL 2900-1 與 IEC 62443-4-2),支援零接觸佈建,並整合 Brightlayer 資料中心套件軟體。此功能可讓 IT 管理員監控並管理 UPS 系統中的多張 Gigabit 網路卡,以及內嵌於 PDU G4 的網路介面。它也能在 電源事件發生時,啟用遠端自動化動作,包括順利關機與虛擬 機器重新分配,以保護資料並維持業務連續性。REST API 支援讓組織可輕鬆將網路卡整合至原生系統,並實現 M2M 互動自動化。

環境監控探測器

隨著 AI 系統所需的電力日益增加,必須配置相應系統以監控由此產生的熱能。 與 Gigabit 網路卡搭配使用時,環境監控探測器 (EMP) 第 2 代會監控熱度、濕度、水煙警報與機櫃門開啟情況,並可經由電子郵件提供可設定的警示。該裝置可輕鬆安裝於外殼內部,並連接至機架 PDU 或 UPS 網路 卡。當與伊頓的 Brightlayer 資料中心套件搭配使用時,EMP 可協助您接收環境通知並設定自動化動作。您也可以菊鍊串接最多 3 個 EMP,以監控機架外殼上方、中間與下方的溫度與濕度。 

資料中心基礎架構管理 (DCIM) 軟體

隨著資料中心的電力消耗持續增加,能夠在需要時存取所需資訊,對於維持運作時間與最佳化效能至關重要。透過伊頓的資料中心效能管理 (DCPM) 軟體,您可藉由其資料中心基礎架構管理 (DCIM) 功能,大幅提升人力與營運效率。此網頁式直覺化使用者介面 (UI) 可讓您監控與管理端對端電源鏈 (從輸入點到 IT 裝置電源供應),並追蹤資產位置、保固、服務歷程記錄與環境條件;檢視即時與歷史資料以觀察趨勢與異常;並在發生意外問題時接收自訂警示。

但 DCPM 超越傳統 DCIM,可提供工具、報告與視覺化功能,協助您將資料中心效能推升至更高層次。您可建立使用者定義的 2D 與 3D 數位分身模型,用於顯示溫度和濕度、電力使用率、關鍵電源鏈等資訊,讓您能主動辨識潛在問題,並緩解意外停機的影響。您還可存取超過 90 份標準報告,並選配商業務智慧儀表板,以使用者定義的報告工具與彈性視覺化方式檢視資料,快速掌握關鍵效能指標,例如電力使用效率 (PUE) 與產能利用率,以追蹤可持續性指標並確保資料中心如預期運作。

DCPM 可與伊頓的能源效能管理系統 (EPMS) 軟體搭配使用,於單一應用中整合資產管理、IT 與營運技術 (OT) 設備監控、電力品質指標與先進電力監控。如此可讓客戶利用單一原生應用程式與一個 UI,來管理、監控與控制各種基礎架構資產 (不論製造商為何),並與其他軟體緊密整合,還可提供簡易方式以便日後需要增長時擴充軟體功能。藉由加入 EPMS,您將可掌握資料中心之電力系統的即時及歷程狀況可見度,因而迅速解決並找出意外問題的根本原因,瞭解設施中水、空氣、氣體、電力與蒸汽 (WAGES) 的使用狀況,以降低營運成本並實現可持續性目標。

將 DCPM 和/或 EPMS 整合至您的建築管理系統 (BMS) 中,您可存取完整的裝置專屬報告與洞察。這些知識可讓您更快速應對意外事件,提升整體資料中心效率與電力使用管理能力。 

除了軟體本身外,伊頓的設計工程團隊亦提供一流品質的服務和管理,確保我們的軟體能順暢整合至您資料中心的現有產品與系統中,包括來自其他製造商的資產。 

Eaton DCPM 3D visualization tool
Eaton DCPM Battery health dashbaord

機架外部

運算雖發生在機架內,但資料並不會在機架頂端就此停止。機架周圍,尤其是後方與上方,所發生的每一項變化,皆會影響資料中心的運作。 

封閉與傳輸系統

以往的資料中心設計趨勢通常將纜線傳輸系統,以及冷熱氣流封閉系統視為兩個獨立部分。但在超大規模  GenAI  資料中心內,封閉與傳輸已由單一系統一併處理。

熱通道封閉 (HAC) 系統,例如伊頓的結構鋼獨立 封閉系統 (ICS),搭配整合的懸臂式或懸吊式支架纜線傳輸,正日益普及。高架地板的纜線傳輸系統一向容易變得凌亂。在 GenAI 應用中,地板上方的重量增加,加上因應技術變化或環境擴展而需重新配置纜線的情況下,高架地板不再是理想選擇。落地式或天花板安裝型的 HAC 系統比機櫃安裝型系統更易於部署。這些系統也具備內建的前瞻性,可輕鬆更換機櫃,無需耗時的拆除與現場客製化,能為未來成長預留空間。 

落地式 HAC 的垂直鋼結構兩側可直接安裝懸臂支架。在天花板安裝型鋁製 HAC 系統中,懸吊式支架懸掛於天花板,但不會直接連接至 HAC 本體。這些支架可依照長度、高度與支撐桿數量進行客製化,以承載整個纜線傳輸系統。光纖路由托盤與金屬網籃可直接安裝在這些支架上,與高架地板的纜線路由相比,部署與維護更為便利。這些支架也能支撐匯流排,通常會部署在最接近機架的最低層支架上。

在  RapidPod  HAC 系統中,機架背面的熱氣會被往上引導至天花板的通風系統。改良的面板溫控功能表示側面的溫度傳遞較少,有助於維持冷卻系統的效率。在如 GenAI 此類的高密度運算環境中,熱度與耗電量同時增加,因此有效封閉並將熱氣導出設備是首要考量。 

Data center inside hot aisle containment EORDs

匯流排

為機架的設備提供充足電力是一項重大任務,並非所有匯流排產品都能勝任。軌道式匯流排,例如伊頓的 Powerwave 2,是IT機房應用中的首選。該系統在末端接線與分接盒處提供帳單等級精準度的電力計量,可完整掌握整個通道與每個機架所連接設備的耗電情況。當與機架內的可管理型機架式 PDU 連接時,您可實現每個電力使用等級的端對端可見度,並獲得即時警示與迅速的問題回應時間。 

列尾式與設施級 UPS 系統

GenAI 資料中心所需電力為標準資料中心的兩倍,部署於其中的 UPS 系統也必須能跟上步調。

雖然 UPS 通常設置於基礎設施區,但某些 AI 應用也會在IT機房中與網路設備並列使用 UPS。在這種情況下,列尾式 UPS,例如伊頓的 93PM 是絕佳選擇。這款落地式三相 UPS 所佔空間與標準 IT 機架相同,並可輕鬆整合至落地式或天花板安裝型 HAC 系統,輸出功率最高可達 400 kW。93PM 相容於鋰電池,這些電池可部署於並排的電池機櫃中。鋰電池是 GenAI 資料中心的最佳選擇,因其佔地面積小、充電速度快,以及具備更高的可放電極限才需更換。相較於傳統鉛酸VRLA 電池,它們可節省寶貴的佔地面積,為更多網路設備騰出空間。

對於基礎設施區的設施電力而言,伊頓 9395XC UPS 等大型 UPS 是最佳選擇。這款單機型 UPS 的最大支援功率為 1500 kW,擁有市場最小的佔地面積與最高的功率密度,非常適合用來最大化基礎設施區的效率。此 UPS 也相容於鋰電池,能進一步提升其節省空間的設計優勢。 

有關於 GenAI IT機房的問題嗎?

我們的專業工程師隨時準備為您解答有關最佳實踐,或您資料中心需求的各項問題。