注:單機柜功率超過4kVA/柜時,應根據(jù)機柜發(fā)熱量有針對性進行調(diào)整。
2、減少機房受環(huán)境影響。對于新建機房,可以考慮外墻的朝向,將機房設計在建筑的東側(cè)或北側(cè),在相對一側(cè)留有走廊等通道。機房內(nèi)盡量不設計窗口,選用密封性能好和自動關閉式的防火門。
3、適當?shù)臋C房面積。大型數(shù)據(jù)中心機房不宜正方形,而是適應長條形,經(jīng)濟面積宜為500至800平方米。
4、合理布置設備。布置數(shù)據(jù)中心設備區(qū)域,應根據(jù)設備種類、系統(tǒng)成組特性、設備的發(fā)熱量、機柜設備布置密度、設備與機柜冷卻方式等,合理考慮機房區(qū)域、機柜列組、機柜內(nèi)部三個層面的精密空調(diào)設備制冷的氣流組織。設備布置應明確劃分冷熱通道,以保障送風氣流直接送至冷通道。當機柜內(nèi)或機架上的設備為前進風/后出風方式冷卻時,機柜或機架的布置宜采用面對面、背對背方式。
熱通道間距應大于冷通道間距,以有利于熱通道散熱。一般采用地板下送風上部回風的氣流組織方式,其送風通道和回風通道均可在需要的位置開設風口。采用架空地板作為送風靜壓箱,架空地板的高度應根據(jù)負荷密度、機房面積綜合確定。地板下面禁止走線纜、水管,以防止阻塞風道。
二、制冷系統(tǒng)設計和設備選型
目前數(shù)據(jù)中心的冷卻系統(tǒng)都必須符合可擴展性和適應性、標準化、簡單化、智能化、可管理化等五種關鍵要求。當前的設計思路和設備沒有解決的、最為緊迫的核心問題是數(shù)據(jù)中心適應變化能力較差。數(shù)據(jù)中心冷卻系統(tǒng)必須對不斷變化的要求有更強的適應能力,對不斷增長和無法預測的功率密度制定規(guī)劃,同時要設計出冷卻系統(tǒng)適應能力強甚至易于改進。數(shù)據(jù)中心設計中最重要的一個部分就是冷空氣的供應和排出的熱空氣的回流路徑,這對于高密度環(huán)境極具有挑戰(zhàn)性,因為氣流速度必須克服空氣分配和回流系統(tǒng)的阻力。故要解決冷卻系統(tǒng)的問題,就需要對現(xiàn)行的設計思路進行改進,主要包括冷卻設備技術和設計的改進,以及如何測定數(shù)據(jù)中心的冷卻要求等。
1、選用高效機房專用空調(diào)設備
(1)機房空調(diào)機組根據(jù)冷源及冷卻方式一般可分為風冷、水冷、雙冷源機組等,對于機房熱負荷較小或采用地板送風方式受建筑條件限制的中、小型數(shù)據(jù)中心機房,可考慮采用管道上送風方式,并使送風口盡量接近機架;對于高發(fā)熱密度的大、中型數(shù)據(jù)中心機房,優(yōu)先采用水冷式空調(diào)制冷機。北方地區(qū)采用水冷冷水機組的機房,冬季可利用室外冷卻塔作為冷源,通過熱交換器對空調(diào)冷凍水進行降溫;大型的數(shù)據(jù)中心可采用中央空調(diào)。中、小型數(shù)據(jù)中心機房,可考慮采用風冷式空調(diào)制冷機,但必須保證室外機有足夠的安裝空間。空調(diào)系統(tǒng)可采用電制冷與自然冷卻相結(jié)合的方式。
(2)空調(diào)機組一般采用大風量小焓差設計,配置直聯(lián)、高靜壓、無級調(diào)速風機的空調(diào)機組。采用高效節(jié)能的渦旋壓縮機,高效EC電機驅(qū)動風機,無渦殼外轉(zhuǎn)子風機葉輪,風量要滿足90換氣次/小時,風壓需滿足最大300Pa可調(diào)的要求。
(3)冷量應與機房設備的額定發(fā)熱量建立函數(shù)關系,一般采用機房的總冷量等于機房UPS額定可用容量的1.3-1.5倍作為經(jīng)驗數(shù)值。這需了解其配置的壓縮機規(guī)格,并聯(lián)空調(diào)機組運行的相互影響程度,當以冷量計算粗選各廠家相近的空調(diào)設備時,必須對其送風量進行復核,處理焓差應按≤2.5Kcal/Kg干空氣左右選用。盡管很多空調(diào)產(chǎn)品顯冷量比例很高,但實際工作溫度下顯冷量下降多;即使空調(diào)輸出冷量足夠,但機房熱島效應嚴重,故負載發(fā)熱量與空調(diào)額定制冷量配備比在1:1.5以上比較合適。
(4)選用模塊化組合機組。通過主從控制,主機將多臺模塊所采集的溫、濕度參數(shù)取其平均值,實現(xiàn)步調(diào)一致的效果。
(5)在布局空調(diào)時,機組送風的距離不宜過大,專用空調(diào)最佳送風距離為15-16米。空調(diào)室內(nèi)機安裝高度應高于機房面100-200mm,以減少相鄰空調(diào)機組間擾流影響,減輕備機停機時氣流倒灌,避免引起氣流短路。還須減少送風路徑、降低加空地板下PD,以保證PJ/PD≥3。(PJ:各送風口處內(nèi)外靜壓差,PD:至各送風口架空地板下風速)。
(6)由于風冷直接膨脹式機房精密空調(diào)的冷卻極限約為4KW/m2,當機房環(huán)境的熱負荷超過5KW/m2時,如用傳統(tǒng)方式的機房專用空調(diào)來解決,會有局部熱點存在,必然需要精密空調(diào)增加為高熱密度負荷提供良好的微環(huán)境調(diào)節(jié)能力,這勢必要在空調(diào)機組系統(tǒng)控制和氣流組織設計上進行革新;而不僅僅是簡單的增加機房精密空調(diào)的裝機容量。
2、空氣分配系統(tǒng)配置
數(shù)據(jù)中心機房空調(diào)系統(tǒng)冷量與風量、送風與回風、風管與風口設計的具體數(shù)據(jù)取值均應遵從《采暖通風與空氣調(diào)節(jié)設計規(guī)范》、《通風與空調(diào)工程施工及驗收規(guī)范》和電信機房空調(diào)工程設計手冊的規(guī)定。如今數(shù)據(jù)中心空調(diào)配套系統(tǒng)迫切需要建立起能反映機柜內(nèi)溫度、機柜排風側(cè)垂直溫差及反映能節(jié)能、提高空調(diào)制冷效率以消除機房平面溫差,作為全空氣型的下送風,必須做到隨時隨地應用基本公式Q=G*ΔT*C(Q:總冷量,G:風量,ΔT:溫差,C:比熱系統(tǒng))。
(1)室內(nèi)送風機風量和風壓能適時調(diào)節(jié)。應能根據(jù)熱源大小不同來調(diào)節(jié)分配出風口的冷氣量。送風口的風量調(diào)節(jié)方便,風向調(diào)節(jié)便于相對機柜上部形成自由射流,而相對機柜中下部外表面形成貼附射流,依據(jù)送風射流的一般規(guī)律,只要同時保證送風口面積F與送風口速度U0達到一定值,那么就能確保機柜工作區(qū)送風主體段軸心風速UX。地板送風口數(shù)量應保障每個服務器機架均能有足夠的冷卻風量,送風口位置宜設在服務器機架進風處。地板送風口風速宜在1.5-3.0m/s間。對柜底地板出風方式,應保證機房內(nèi)每個出風口的基本出風量都能達到15m3/min以上(即所有近距離柜底出風口均打開,且調(diào)節(jié)至15m3/min時,最遠端出風口的最大出風量仍不小于15m3/min)。對于過道地板出風方式,當機柜采用面對面、背靠背排列時,應保證過道內(nèi)每600mm長度上輸出的基本出風量達到50m3/min以上;機柜采用統(tǒng)一朝向排列時,應保證過道內(nèi)每600mm長度上輸出的基本出風量達到25m3/min以上。若使用高負荷機柜,則出風量也應相應加大(刀片服務器系統(tǒng)進氣口需要大約1,180升/秒的冷空氣)。
(2)根據(jù)機房室內(nèi)狀態(tài)點及熱濕負荷,可由濕空氣焓濕圖確定送風狀態(tài)點。進而得出空調(diào)機組供冷量、再熱量、加濕量及送風量。按相關規(guī)定,送風溫差宜控制在6~10℃。
(3)大型數(shù)據(jù)中心機房空調(diào)適合長邊側(cè)進風,不宜短邊側(cè)進風。下送風走向與機架走道同向,不宜與架間走道垂直。
(4)建立冷熱通道圍欄系統(tǒng)。為進一步阻隔冷熱空間的混和,可利用隔熱能力極強、熔點很高的乙烯基塑料隔板(VinylCurtain),一方面密封熱通道的兩邊出口,另一方面包圍冷通道的整體范圍,使冷空氣與熱空氣的隔絕,以便更好地調(diào)節(jié)機架頂部到底部的空氣溫度。
(5)為了避免大型機房內(nèi)近處出風量過大、遠處出風量過小的不均衡現(xiàn)象,應在機房地板下架設多條大口徑主輸風管延伸至機房最遠端。
(6)當機柜內(nèi)設備的發(fā)熱功率密度明顯過大,無法通過機房大環(huán)境中冷熱氣流自然對流方式解決降溫問題,導致機柜內(nèi)溫度嚴重超過設備運行允許溫度范圍時,為加快機柜內(nèi)熱氣的排走速度,可選擇在底部和后部加裝強迫散熱裝置的機柜,如安裝軸向水平的強排風扇。
3、合理布置機柜機架,提高設備散熱效率
(1)合理布置機柜對于確保機柜擁有適當溫度和足夠的空氣非常重要。采取"面對面、背靠背"的機柜擺放及將空調(diào)設備與熱通道對齊方式,這樣在兩排機柜的正面面對通道中間布置冷風出口,形成一個"冷通道"的冷空氣區(qū),冷空氣流經(jīng)設備后形成了熱空氣,再被排放到兩排機柜背面中的"熱通道"中,最后通過熱通道上方布置的回風口回到空調(diào)系統(tǒng),使整個機房氣流、能量流流動通暢,不但提高了機房精密空調(diào)的利用率,而且還進一步提升了制冷效果。
圖1機柜或機架面對面、背對背的布置方式
(2)機柜氣流和機柜設計是引導空氣最大限度改進冷卻效果的關鍵因素。機柜對于防止設備排出的熱氣短路循環(huán)進入設備進氣口至關重要。熱空氣將被輕微增壓,再加上設備進氣過程中的吸力,將可能導致熱空氣被重新吸入設備進氣口。氣流短路問題可能導致IT設備的溫度上升8℃,其結(jié)果的將要遠遠大于熱氣造成的影響。
由于模塊化數(shù)據(jù)網(wǎng)絡設備基本上是水平方向進出風(最常見的方式是前進后出),因此空調(diào)制冷氣流也應符合這種氣流組織:盡量將冷氣送到所有數(shù)據(jù)設備的前方位置。
采用標準機柜和盲板可以大幅減少氣流短路比例,能消除機架正面的垂直溫度梯度,防止高溫排出空氣回流到機架前部區(qū)域,并確保供應的冷空氣在機架上下配送均勻。
下送風機房機柜前后門的設計應符合最佳制冷效率的要求,有2種方式可選擇:
a)前門完全密閉,不做通風孔;后門通風網(wǎng)孔大小為Ф5,后門通風率30-40%,這種方式,由機柜底部調(diào)節(jié)的開口,在機柜內(nèi)設備正面送冷風,由后門和機柜頂部散熱;每個機柜需要側(cè)門,側(cè)門不帶通風孔,冷風通道完全在機柜下方。
b)前后門底部起1/2密閉,不做通風孔,機柜上部1/2為通風散熱部分,通風網(wǎng)孔大小為Ф5,通風率30-40%,這種方式主要出風口在機柜的底部,同時可以在機柜列間通道開輔助送風口,在機柜內(nèi)設備正面送冷風,由后門和機柜頂部散熱。每個機柜需要側(cè)門,側(cè)門不帶通風孔。冷風通道在機柜下方和機柜列間通道。
機柜內(nèi)數(shù)據(jù)設備與機柜前、后面板的間距寬度應不小于150mm。
機柜層板應有利于通風,為避免阻擋空氣流通,層板深度應不大于600mm。多臺發(fā)熱量大的數(shù)據(jù)設備不宜疊放在同一層板上,最下層層板距離機柜底部應不小于200mm。把熱負荷最大的設備安裝在機柜中部位置,以便獲得最大的配風風量。
機柜底部采用活動抽屜板,隨設備多少,改動冷氣入口大小。機柜底部后半部堵住,阻止冷空氣從底部向后面流去。
三、加強數(shù)據(jù)中心維護管理
一旦冷卻系統(tǒng)設計安裝完成,為保證系統(tǒng)的高性能,進行后續(xù)檢查工作是很重要的。更重要的是,要維護從服務器排出的熱空氣到空調(diào)裝置的回流空氣管道之間的潔凈通道。很多因素都會降低現(xiàn)有冷卻系統(tǒng)的運作效率和功率密度能力。故在日常維護管理注意以下幾點:
1、進行"健康檢查"。
檢查總的冷卻能力,確保數(shù)據(jù)中心的IT設備對冷卻的需要沒有超過總的冷卻能力。
檢查所有風扇和報警裝置是否運行正常,確保過濾器的清潔狀態(tài)。
檢查冷卻器和外部冷凝器及初級冷卻回路的狀況。
檢查數(shù)據(jù)中心通道中重要位置的溫度。
記錄每套機架底部、中部和頂部的空氣入口處的溫度,并與IT設備生產(chǎn)商的推薦值進行比較。
檢查可能影響冷卻性能的機架間隙(沒裝擋板的閑置機架空間、沒裝擋板的空刀片插槽、未封閉的電纜開口)或多余的纜線。在機架中安裝擋板,實行電纜管理制度。讓設備底部流出的熱空氣可以通過機架內(nèi)未被利用的縱向空間回到空氣入口處,使設備沒有必要升溫。
2、啟動冷卻系統(tǒng)維護制度。應該實行定期維護制度,以達到冷卻設備生產(chǎn)商推薦的指導方針。空調(diào)調(diào)試時只重視單機運行工況調(diào)測,忽視空調(diào)機組聯(lián)合運行之空調(diào)綜合能效調(diào)測,應靜態(tài)模擬終局運行之設計要求N臺機組同時運行時每臺機組送風機的風量、機外余值、各送風口處內(nèi)外靜壓值。
3、將高密度機架分開。如果高密度機架緊密聚集在一起,則大多數(shù)冷卻系統(tǒng)的冷卻能力都不夠用。建議建設部門與業(yè)務部門配合,建設部門應將驗收測試的結(jié)果提交業(yè)務部門,作為總體指導規(guī)劃各租戶安裝使用區(qū)域,提供差異化服務(個別耗電量大的通信機柜應優(yōu)先安排在高靜壓區(qū)域以便得到高出平均值的冷量)。
4、制定各數(shù)據(jù)中心機房用戶上架規(guī)范。根據(jù)各數(shù)據(jù)中心機房的設計數(shù)據(jù)和后期整改情況,明確規(guī)定各機房的機架最大用電量、機架最多上架服務器數(shù)量和服務器安裝間隔等強制性要求,指引業(yè)務部門發(fā)展用戶和保障整個機房安全。
5、及時封堵地板孔隙、清除地下障礙物并封閉地板間隙、及時開啟對應區(qū)域空調(diào)機組、主動定期測試各機柜排風側(cè)溫度以便進行調(diào)整各機柜送風量及內(nèi)向,及時根據(jù)裝拆動態(tài)情況調(diào)整各機柜進風量。對現(xiàn)用設備所做的空調(diào)系統(tǒng)調(diào)節(jié)應以總冷量、總送風量及溫度數(shù)據(jù)為依據(jù)。
6、服務器的風扇盡可能低速轉(zhuǎn),盡可能讓冷空氣在服務器待的時間長,提高溫升,溫升若能達到13℃以上最好。
7、建模計算智能散熱系統(tǒng)?;诳照{(diào)工程、計算流體力學與傳熱學理論,按照DCTA熱模型的設計方法,采用相關專業(yè)軟件如Tileflow和Flovent等軟件經(jīng)過計算,建立起數(shù)據(jù)中心機房的基本CFD(計算機流體力學)模型,在激活模型后,根據(jù)數(shù)據(jù)中心不同的布局場景進行CFD模型模擬分析,得出不同場景數(shù)據(jù)中心的溫度場分布圖,以及其它相關數(shù)據(jù)結(jié)果,指導機房整體布局。
四、解決散熱難點的方法和策略
1、高密度機柜環(huán)境制冷方法規(guī)模越大、密度越高,冷卻系統(tǒng)越復雜。表2給出了每種冷卻系統(tǒng)相應的解決方法。
表2活動地板環(huán)境選擇冷卻系統(tǒng)
2、應用高密度機柜和刀片服務器有六種基本解決方法:
(1)分散負載。將負載超過平均值的機柜中的負載分散到多個機柜中。
(2)基于規(guī)則的散熱能力轉(zhuǎn)借。通過采用一些規(guī)則允許高密度機柜借用鄰近的利用率不高的冷卻能力。
(3)安裝氣流輔助裝置。使用輔助散熱設備為功率密度超過機柜設計平均值的機柜提供所需的散熱能力。在有足夠平均冷卻能力,但卻存在高密度機架造成熱點的場合,可以通過采用有風扇輔助的設備來改善機架內(nèi)的氣流,并可使每一機架的冷卻能力提高到3kW-8kW。
安裝特制的(柵格式)地板磚或風扇增強CRAC(計算機機房空調(diào))對機柜的冷空氣供應。
安裝特制的回流管道或風扇從機柜中排出熱空氣,使機器排出的熱空氣回流到空調(diào)。
(4)安裝自給高密度設備。在功率密度接近或超過每機架8kW的場合,需要將冷空氣直接供應到機架的每一層(而不是從頂部或底部),以便從上到下的溫度保持一致。
(5)設定專門的高密度區(qū)。在房間內(nèi)設定一個有限的專門的區(qū)域提供強散熱能力,將高密度機柜限制在這一區(qū)域內(nèi)。
(6)全房間制冷。為機房內(nèi)每個機柜提供能夠為期望達到的功率峰值提供電力和散熱的能力。這種解決方案的結(jié)果會造成極大的浪費和極高的成本。此外,每個機柜的整體機柜功率密度超過6kW的數(shù)據(jù)中心進行設計需要極復雜的工程設計和分析。這種方法只有在極端情況下才是合理的。
3、高功率機柜散熱問題的策略
根據(jù)以上提供的信息歸納出一種對大多數(shù)安裝情況都比較適合的高密度計算設備時優(yōu)化散熱實用策略。
表3應用高密度計算設備時優(yōu)化散熱的散熱實用策略
參考文獻
[1]解決高密度服務器部署所致冷卻問題的十個步驟
[2]超高密度機柜和刀片服務器散熱策略
[3]關鍵設備的空調(diào)結(jié)構(gòu)選擇方案
[4]《電子信息系統(tǒng)機房設計規(guī)范》初稿
[5]《數(shù)據(jù)中心機房的系統(tǒng)設計方法》(試行)