熱工測(cè)試確認(rèn)高密度QSFP-DD模塊設(shè)計(jì)的靈活性與高性能
Thermal testing confirms high-density QSFP-DD module design flexibility and performanceScott Sommers
本文引用地址:http://www.ex-cimer.com/article/201904/400015.htm作者:Molex產(chǎn)品經(jīng)理兼 QSFP-DD MSA 協(xié)會(huì)合作主席
摘要:QSFP-DD 模塊的熱力性能已針對(duì)高性能數(shù)據(jù)中心環(huán)境下的使用進(jìn)行了廣泛評(píng)估。提交并分析了 15W QSFP-DD 模塊的熱工測(cè)試數(shù)據(jù)及可行性研究結(jié)果,對(duì)溫升和氣流進(jìn)行了對(duì)比。
關(guān)鍵詞:QSFP-DD;模塊;數(shù)據(jù)中心;熱;測(cè)試
1 QSFP-DD 模塊概覽
QSFP-DD 是業(yè)界尺寸最小而又可以提供最高端口帶寬密度的 400GbE 模塊。QSFP-DD 是與四分之一小形狀系數(shù)可插拔雙密度 (QSFP-DD) 多源協(xié)議(MSA) 集團(tuán)協(xié)作開(kāi)發(fā)的成果,滿足了市場(chǎng)對(duì)下一代高密度、高速可插拔模塊的需求。
QSFP-DD 形狀系數(shù)的開(kāi)發(fā)過(guò)程充分利用了行業(yè)強(qiáng)大的制造能力與成本結(jié)構(gòu),從而為 40GbE 和100GbE 使用的 QSFP+ 和QSFP28 實(shí)際標(biāo)準(zhǔn)提供了大力支持。這一形狀系數(shù)在一個(gè)機(jī)架單位 (RU) 上即可啟用 36 個(gè) 400GbE 端口,提供超過(guò) 14 Tbps 的帶寬(參見(jiàn)圖 1)。
QSFP-DD 模塊向下兼容從 40 Gbps 到 200Gbps 的所有基于 QSFP 的收發(fā)機(jī),并且可以支持一系列的產(chǎn)品,包括:
? 3 m長(zhǎng)的無(wú)源銅纜;
? 在并行多模光纖上支持 100 m的距離;
? 在并行單模光纖上支持 500 m的距離;
? 在雙工單模光纖上支持 2 km和 10 km的距離;
? WDM 和連貫設(shè)計(jì)。
2 熱需求與熱工測(cè)試
在含有可插拔模塊的設(shè)備的設(shè)計(jì)過(guò)程中,其中的一項(xiàng)挑戰(zhàn)是每個(gè)插座必須能夠承載最大的熱負(fù)荷。一項(xiàng)對(duì)預(yù)期的全部光學(xué)模塊的類(lèi)型與傳輸距離的調(diào)研結(jié)果顯示,需要至少 15 W的冷卻功率才可以支持QSFP-DD 的最大傳輸距離(如圖2)。
幸運(yùn)的是,行業(yè)對(duì)于小形狀系數(shù)模塊產(chǎn)品族的構(gòu)建(以及冷卻)具有著豐富的經(jīng)驗(yàn)。其中包括尺寸較小的 SFP 單通道模塊以及向下兼容的 QSFP 4 通道模塊。這兩種模塊都已大量用于當(dāng)今的網(wǎng)絡(luò)交換機(jī)當(dāng)中。這些過(guò)去的經(jīng)驗(yàn)可以應(yīng)用到 QSFP-DD 可插拔模塊中,而且通過(guò)進(jìn)一步的創(chuàng)新,現(xiàn)在認(rèn)為在 400GbE 產(chǎn)品中可以很容易就達(dá)到 15 W的功率(參見(jiàn)圖 3)。
系統(tǒng)設(shè)計(jì)在對(duì)降溫進(jìn)行優(yōu)化上的靈活性是QSFP-DD 的一項(xiàng)主要優(yōu)勢(shì)。平頂?shù)脑O(shè)計(jì)通過(guò)在熱工方面眾多可行的創(chuàng)新,可以對(duì)頂部的散熱器和/或熱管進(jìn)行優(yōu)化。這種靈活性上的范例包括一系列的端口入口、端口排氣口以及邊對(duì)邊的冷卻選項(xiàng)。
高密度系統(tǒng)采用的是各不相同的印刷電路板 (PCB) 布局、風(fēng)扇放置方式以及氣流控制方案,從而允許對(duì)路由、模塊布局和氣流進(jìn)行優(yōu)化。前部對(duì)前部的布局可以將 QSFP-DD 模塊置于印刷電路板上相對(duì)的兩側(cè)。在這種設(shè)計(jì)中,流過(guò)印刷電路板兩側(cè)的氣流為模塊的冷卻帶來(lái)一定的優(yōu)勢(shì)。與堆疊式的卡籠相比,這樣還可為進(jìn)入模塊內(nèi)部的高速走線實(shí)現(xiàn)更好的信號(hào)完整性。前部對(duì)前部布局的一個(gè)缺點(diǎn)就是印刷電路板上組件的高度受到限制,并且高功率交換芯片上散熱器的高度需要減小。
另一個(gè)方案,即堆疊布局,可以將 QSFP-DD 模塊安放到印刷電路板的同一側(cè),從而氣流只會(huì)在一側(cè)流動(dòng)。通過(guò)將散熱器的高度提升到最大程度,這種布局可以為交換芯片的冷卻帶來(lái)優(yōu)勢(shì)。采用這種堆疊設(shè)計(jì)的主要挑戰(zhàn)在于向上方堆疊卡籠進(jìn)行高速走線時(shí)的信號(hào)完整性,以及下方卡籠模塊的冷卻問(wèn)題(如圖4)。
開(kāi)展了熱工測(cè)試以描述在指定工作范圍內(nèi) QSFP-DD 模塊和卡籠的熱力性能,并且確保產(chǎn)品操作過(guò)程中耐受極端溫度時(shí) QSFP-DD 解決方案的穩(wěn)健性。這些廣泛測(cè)試的結(jié)果詳細(xì)記錄下了氣流和熱工測(cè)試的結(jié)果,其中使用了溫升作為系統(tǒng)設(shè)計(jì)的主要參數(shù)。在每個(gè)測(cè)試用例中,目標(biāo)熱力性能是使從環(huán)境溫度到模塊外殼的溫升保持在 30°C 以下。
3 熱工測(cè)試 1:堆疊卡籠測(cè)試用例
在上下插槽中同時(shí)對(duì)模塊進(jìn)行冷卻的能力要求將散熱器集成到 2x1 的卡籠中。開(kāi)展了測(cè)試以確定模塊-卡籠-散熱器與高功率光學(xué)模塊這一組合的熱力性能。使用了邊對(duì)邊的 2x1 卡籠來(lái)代表 1RU 的交換機(jī),從而開(kāi)展了模塊熱工測(cè)試。
熱工測(cè)試的主要關(guān)注點(diǎn)在于固定的 1RU 系統(tǒng)設(shè)計(jì),原因在于,從熱設(shè)計(jì)的角度來(lái)說(shuō),這種設(shè)計(jì)通常最具挑戰(zhàn)性。對(duì)風(fēng)扇空間進(jìn)行了限制,這一形狀系數(shù)代表了最復(fù)雜的模塊熱設(shè)計(jì)。線卡向外拉出的模塊化系統(tǒng)設(shè)計(jì)通常配有尺寸更大的風(fēng)扇,在各組件之間能夠提供更大的氣流。通常情況下,與固定設(shè)計(jì)相比,模塊化系統(tǒng)中的溫升要低 5~7°C,如表1~3。
表1
斜坡 H.S. + 干燥 + 夾具,外殼平均溫度
斜坡 H.S. + 干燥 + 夾具,內(nèi)部平均溫度
表2
斜坡 H.S. + 干燥 + 高下壓力,外殼平均溫度
斜坡 H.S. + 干燥 + 高下壓力,內(nèi)部平均溫度
表3
斜坡 H.S. + 干燥 + 低下壓力,外殼平均溫度
斜坡 H.S. + 干燥 + 低下壓力,內(nèi)部平均溫度
在堆疊卡籠的熱工測(cè)試中,在預(yù)設(shè)為低壓力或預(yù)設(shè)為高壓力的情況下,使用夾具造成溫度升高。這樣就產(chǎn)生了非常接近的溫度結(jié)果,表明夾具設(shè)計(jì)獲得的緊固力較為適宜。當(dāng)每個(gè) 2x1 的卡籠中的氣流約為 7CFM 時(shí),模塊外殼的平均溫升在 21 到 22°C。溫升圖表明,如果每個(gè) 2x1 卡籠上的氣流超過(guò) 8 CFM,則模塊外殼的溫升可以小于 20°C。大多數(shù)情況下,在經(jīng)測(cè)試的 CFM 范圍內(nèi),2x1 卡籠中的底部模塊運(yùn)行時(shí)可以比頂部模塊的溫度高出 2 到 4°C。溫升與功率圖確認(rèn)了 QSFP-DD 模塊/卡籠的組合在小于 30°C溫升情況下為所需的 15 W功率提供支持的能力(如圖5)。
前部對(duì)前部的設(shè)計(jì)中采用的散熱器安裝在表面安裝卡籠的頂部。這種設(shè)計(jì)在 1U 的交換機(jī)設(shè)計(jì)中應(yīng)當(dāng)提供最優(yōu)的模塊氣流。這是一項(xiàng)組件級(jí)別的測(cè)試,采用了兩個(gè) 1x2 的 QSFP-DD 卡籠,設(shè)置在測(cè)試板的兩側(cè)。全部熱工測(cè)試都在 40°C 的溫度下開(kāi)展。氣流方向?yàn)閺那暗胶?,并且測(cè)試中使用的氣流范圍視為是系統(tǒng)設(shè)計(jì)的一個(gè)典型范圍。前部對(duì)前部的熱工測(cè)試同時(shí)采用了 14 W和 15 W的模塊功耗。結(jié)果顯示,模塊中心/后部的功耗偏置可帶來(lái)熱力性能上的顯著改善。
在氣流從前向后流動(dòng)的前部對(duì)前部系統(tǒng)中,當(dāng)每個(gè)模塊的氣流為 6.4 CFM 時(shí),在 46°C 的環(huán)境溫度下 ,15 W模塊的外殼溫度可以保持在 70°C 以下。在 40°C 的環(huán)境氣溫下,模塊的最大功耗增至 18W。對(duì)熱環(huán)境和/或定制散熱器(更高的散熱片高度和/或更大的散熱片密度)進(jìn)行優(yōu)化,可以將模塊的最大功耗提升至 18 W以上。需要 6.5 CFM 的氣流才能達(dá)到所需的熱力性能。在 2.5 英寸水柱的壓降下使風(fēng)扇反向旋轉(zhuǎn)即可做到這一點(diǎn)。
4 靈活性與經(jīng)濟(jì)性
QSFP-DD 模塊的熱力性能已針對(duì)高性能數(shù)據(jù)中心環(huán)境下的使用進(jìn)行了廣泛評(píng)估。獲得的數(shù)據(jù)清楚的表明,溫升與氣流的對(duì)比充分驗(yàn)證了 15 W QSFP-DD模塊在現(xiàn)實(shí)的數(shù)據(jù)中心環(huán)境下的可行性。
作為一種靈活的低成本解決方案,QSFP-DD 模塊充分利用了在系統(tǒng)、模塊和卡籠的熱設(shè)計(jì)以及策略上的豐富經(jīng)驗(yàn)。熱工測(cè)試確認(rèn)了該形狀系數(shù)可在產(chǎn)品的定制方面為行業(yè)提供最大的靈活性。在堆疊卡籠和前部對(duì)前部的配置中,QSFP-DD 模塊都可為所需的熱負(fù)荷提供支持,滿足對(duì)于下一代高帶寬應(yīng)用的需求。
本文來(lái)源于科技期刊《電子產(chǎn)品世界》2019年第5期第36頁(yè),歡迎您寫(xiě)論文時(shí)引用,并注明出處
評(píng)論