你的位置:首頁(yè) > 電源管理 > 正文

Vicor 電源模塊與垂直供電架構(gòu)相結(jié)合,為 GenAI 提供高效供電方法

發(fā)布時(shí)間:2024-06-13 責(zé)任編輯:lina

【導(dǎo)讀】雖然人工智能有望帶來(lái)人類(lèi)生產(chǎn)力的飛躍,但其運(yùn)行時(shí)能耗巨大,導(dǎo)致溫室氣體的排放也顯著增加。如今,Vicor 電源模塊與垂直供電架構(gòu)相結(jié)合,為 GenAI 提供了高效的供電方法,實(shí)現(xiàn)行業(yè)領(lǐng)先的電流密度。


雖然人工智能有望帶來(lái)人類(lèi)生產(chǎn)力的飛躍,但其運(yùn)行時(shí)能耗巨大,導(dǎo)致溫室氣體的排放也顯著增加。如今,Vicor 電源模塊與垂直供電架構(gòu)相結(jié)合,為 GenAI 提供了高效的供電方法,實(shí)現(xiàn)行業(yè)領(lǐng)先的電流密度。


訓(xùn)練生成式人工智能(GenAI)神經(jīng)網(wǎng)絡(luò)模型通常需要花費(fèi)數(shù)月的時(shí)間,數(shù)千個(gè)基于 GPU 并包含數(shù)十億個(gè)晶體管的處理器、高帶寬 SDRAM 和每秒數(shù)太比特的光網(wǎng)絡(luò)交換機(jī)要同時(shí)連續(xù)運(yùn)行。雖然人工智能有望帶來(lái)人類(lèi)生產(chǎn)力的飛躍,但其運(yùn)行時(shí)能耗巨大,所以導(dǎo)致溫室氣體的排放也顯著增加。


據(jù)《紐約時(shí)報(bào)》報(bào)道,到 2027 年,人工智能服務(wù)器每年的用電量將達(dá)到 85 至 134 太瓦時(shí),大致相當(dāng)于阿根廷一年的用電量。


為了應(yīng)對(duì)日益加劇的能耗挑戰(zhàn),AI 處理器的供電網(wǎng)絡(luò)經(jīng)歷了多代的發(fā)展。這種全面的演進(jìn)發(fā)展涉及電路架構(gòu)、電源轉(zhuǎn)換拓?fù)?、材料科學(xué)、封裝和機(jī)械/熱工程方面的創(chuàng)新。


生成式人工智能訓(xùn)練處理器的供電方案

負(fù)載點(diǎn)模式和分比式模式的演變


從 2020 年到2022 年,熱設(shè)計(jì)功率(TDP)幾乎翻了一番,從 400W 增加到了 700W。TDP 指標(biāo)是指生成式人工智能訓(xùn)練應(yīng)用中 GPU 引擎的連續(xù)功耗。自 2022 年起,半導(dǎo)體行業(yè)的 TDP 水平不斷攀升,到了 2024 年 3 月,市場(chǎng)上甚至出現(xiàn)了一款 TDP 高達(dá) 1000W 的 GPU。


用于生成式人工智能訓(xùn)練的處理器復(fù)合體集成了一個(gè) GPU 或ASIC 芯片,以及六到八個(gè)高帶寬存儲(chǔ)器(HBM)芯片。采用 4 納米 CMOS 工藝的 GPU 通常以 0.65V 的內(nèi)核 VDD 運(yùn)行,可能包含 1000 億或更多的晶體管。HBM 提供 144GB 的存儲(chǔ)容量,其工作電壓一般為 1.1V 或 1.2V。該處理器的一個(gè)關(guān)鍵供電特性與人工神經(jīng)網(wǎng)絡(luò)算法負(fù)載有關(guān)。對(duì)比處于空閑狀態(tài)的 GPU 和算法滿載狀態(tài)的 GPU,瞬態(tài)電流消耗(dI/dt)差別可能非常大,可能達(dá)到每微秒 2000 安培或更多。此外,該處理器不能容忍較大的電源電壓下沖或過(guò)沖幅值;這些負(fù)載階躍瞬變必須限制在標(biāo)稱(chēng) VDD 的 10% 以?xún)?nèi)。設(shè)計(jì)用于生成式人工智能訓(xùn)練處理器的供電解決方案時(shí),由于這些動(dòng)態(tài)操作條件的原因,峰值電流輸送能力通常設(shè)計(jì)為連續(xù)電流輸送能力的兩倍,峰值事件通常持續(xù)數(shù)十毫秒(圖 1)。


Vicor 電源模塊與垂直供電架構(gòu)相結(jié)合,為 GenAI 提供高效供電方法

圖 1:基于 GPU 的生成式人工智能訓(xùn)練處理器芯片復(fù)合體,加速器模塊(AM)上安裝有高帶寬存儲(chǔ)器(HBM)。


對(duì)于 CPU、FPGA、網(wǎng)絡(luò)交換機(jī)處理器以及現(xiàn)在的 AI 訓(xùn)練和推理芯片發(fā)展最重要的供電架構(gòu)是負(fù)載點(diǎn)(PoL)方法。相較于傳統(tǒng)的多相并聯(lián)電源架構(gòu),分比式 PoL 電源架構(gòu)實(shí)現(xiàn)了更高的功率和電流密度。這種電源架構(gòu)借鑒了理想變壓器的“匝數(shù)比”概念,通過(guò)分壓實(shí)現(xiàn)電流倍增。電流倍增的可擴(kuò)展性使我們能夠根據(jù)不同的輸出電壓和電流需求,開(kāi)發(fā)一系列全面的 PoL 轉(zhuǎn)換器。這對(duì)客戶來(lái)說(shuō)至關(guān)重要,因?yàn)楦呒?jí) AI 訓(xùn)練處理器的需求正快速變化。


分比式電源架構(gòu)(FPA)

分解為穩(wěn)壓和變壓兩部分功能


生成式人工智能電源系統(tǒng)設(shè)計(jì)面臨的主要挑戰(zhàn)包括:

  • 很高的電流輸送能力,范圍從 500 安培到 2000 安培

  • 負(fù)載需要出色的動(dòng)態(tài)性能

  • PDN 的損耗和阻抗較大

  • 48V 母線基礎(chǔ)架構(gòu)的標(biāo)準(zhǔn)化使用,需要從 48V 轉(zhuǎn)換到 1V 以下的能力


要解決這種大電流和高密度負(fù)載點(diǎn)(PoL)問(wèn)題,需要采用不同的方法。先進(jìn)的分比式電源架構(gòu)將穩(wěn)壓和變壓/電流倍增功能進(jìn)行了分解,可將這些供電級(jí)放置在最佳位置,從而達(dá)到最高的效率和功率/電流密度。


當(dāng)輸入電壓(VIN)等于輸出電壓(VOUT)時(shí),穩(wěn)壓器的效率最高,隨著輸入輸出比的增加,效率逐漸降低。在 36 至 60V 的典型輸入電壓范圍內(nèi),最佳輸出母線電壓將是 48V,而不是中間母線架構(gòu)(IBA)中常見(jiàn)的傳統(tǒng) 12V 母線電壓。48V 輸出母線所需的電流是 12V 線的四分之一(P=VI),而 PDN 的損耗是電流的平方(P=I2R),這意味著損耗降低至原來(lái)的 1/16。因此,先安裝穩(wěn)壓器并將其調(diào)節(jié)至 48V 輸出,可以實(shí)現(xiàn)最高的效率。穩(wěn)壓器還必須接受有時(shí)低于 48V 的輸入電壓,這就需要一個(gè)降壓-升壓的功能來(lái)滿足這一設(shè)計(jì)需求。一旦輸入電壓得到了穩(wěn)壓,下一步便是將 48V 轉(zhuǎn)換為 1V。


在需要為 1V 負(fù)載供電的情況下,最佳變壓比為 48:1。在這種情況下,穩(wěn)壓器將輸入電壓降壓或升壓到 48V 輸出,再由變壓器將電壓從 48 降至 1V。降壓變壓器以相同的比率加大電流,因此變壓器組件也可以稱(chēng)為電流倍增器。在這種情況下,1 安培的輸入電流將倍增至 48 安培的輸出電流。為了最大限度地減少大電流輸出的 PDN 損耗,電流倍增器必須小巧,以便盡可能靠近負(fù)載放置。


PRMTM 穩(wěn)壓器和 VTMTM/MCMTM 模塊化電流倍增器結(jié)合在一起,構(gòu)成 Vicor 分比式電源架構(gòu)。這兩個(gè)器件相互合作,各司其職,實(shí)現(xiàn)完整的 DC-DC 轉(zhuǎn)換功能。


PRM 通過(guò)調(diào)制未穩(wěn)壓的輸入電源提供穩(wěn)壓輸出電壓,即“分比式母線電壓”。該母線供電給 VTM,由 VTM 將分比式母線電壓轉(zhuǎn)換為負(fù)載所需的電平。


與 IBA 不同,F(xiàn)PA 不通過(guò)串聯(lián)電感器從中間母線電壓降壓至 PoL。FPA 不通過(guò)降低中間母線電壓來(lái)平均電壓,而是使用電流增益為 1:48 或更高的高壓穩(wěn)壓和電流倍增器模塊,以提供更高的效率、更小的尺寸、更快的響應(yīng)和 1000 安培及以上的可擴(kuò)展性(圖 2)。


Vicor 電源模塊與垂直供電架構(gòu)相結(jié)合,為 GenAI 提供高效供電方法

圖 2:分比式電源架構(gòu)可以提供超過(guò) 1000 安培的大電流,并使供電網(wǎng)絡(luò)的電阻降低到 1/20。


垂直放置 PoL 轉(zhuǎn)換器減少功耗耗散


在前幾代大電流生成式人工智能處理器電源架構(gòu)中,PoL 轉(zhuǎn)換器被放在處理器復(fù)合體的橫向(旁邊)位置。由于銅的電阻率和 PCB 上的走線長(zhǎng)度,橫向放置的 PoL 供電網(wǎng)絡(luò)(PDN)的集總阻抗相當(dāng)高,可能達(dá)到 200μΩ 或更高。隨著生成式人工智能訓(xùn)練處理器的連續(xù)電流需求增加到 1000 安培,這意味著 PCB 本身就會(huì)消耗掉 200 瓦的功率??紤]到在 AI 超級(jí)計(jì)算機(jī)中用于大型語(yǔ)言模型訓(xùn)練的加速器模塊(AM)多達(dá)數(shù)千個(gè),而且?guī)缀鯊牟粩嚯?,通常?huì)持續(xù)運(yùn)行 10 年或更長(zhǎng)時(shí)間,這 200 瓦的功率損耗在整體上變得非常龐大。


認(rèn)識(shí)到這種能源浪費(fèi)后,AI 計(jì)算機(jī)設(shè)計(jì)師已經(jīng)開(kāi)始評(píng)估采用垂直供電(VPD)結(jié)構(gòu),將 PoL 轉(zhuǎn)換器直接放置在處理器復(fù)合體的下方。在垂直供電網(wǎng)絡(luò)中,集總阻抗可能降至 10μΩ 或更低,這意味著在內(nèi)核電壓域 1000 安培的連續(xù)電流下,只會(huì)消耗 10 瓦的功率。也就是說(shuō),通過(guò)將 PoL 轉(zhuǎn)換器從橫向放置改為縱向放置,PCB 的功耗減少了 200–10=190 瓦(WPCB )(圖 3)。


Vicor 電源模塊與垂直供電架構(gòu)相結(jié)合,為 GenAI 提供高效供電方法

圖 3:生成式人工智能加速模塊從橫向(頂部)供電改為縱向(背部)供電,可將 PDN 損耗降低至 1/20。


VPD 的另一個(gè)優(yōu)點(diǎn)是降低了 GPU 芯片表面電壓梯度,這也有助于節(jié)省電力。如前所述,典型的 4 納米 CMOS GPU 的標(biāo)稱(chēng)工作電壓為 0.65VDD。使用橫向供電時(shí),將電源提供給處理器復(fù)合體的四邊,由于集成電路的配電阻抗較高(通常使用電阻率高于銅的鋁導(dǎo)體),可能需要 0.70V 的電壓,才能確保 GPU 芯片中心的電壓達(dá)到標(biāo)稱(chēng)值 0.65V。而采用縱向供電時(shí),可以確保整個(gè)芯片表面的電壓為 0.65V。0.70–0.65=50mV,這個(gè)差值乘以 1000 安培,可額外節(jié)省 50 瓦(WVDD)的功率。在本例中,節(jié)省的總功率為 190WPCB + 50WVDD = 240 瓦(圖 4)。

Vicor 電源模塊與垂直供電架構(gòu)相結(jié)合,為 GenAI 提供高效供電方法

圖 4:使用 VPD 時(shí),處理器芯片的表面電壓均勻,有助于最大限度地提高計(jì)算性能,同時(shí)最小化功率損耗。


根據(jù)未來(lái)幾年公共領(lǐng)域?qū)铀倨髂K(AM)需求的預(yù)測(cè)(2024 年超過(guò) 250 萬(wàn)件),以及對(duì)電力成本的合理估計(jì)(每兆瓦時(shí) 75 美元),每個(gè) AM 節(jié)省 240W 電力,到 2026 年將在全球范圍內(nèi)實(shí)現(xiàn)太瓦時(shí)的電力節(jié)省,相當(dāng)于每年節(jié)約數(shù)十億美元的電力運(yùn)營(yíng)成本,而且根據(jù)可再生能源的使用比例,每年還能永久性地減少數(shù)百萬(wàn)噸的二氧化碳排放。


遏制失控的生成式人工智能功耗


Vicor 正引領(lǐng)生成式人工智能供電技術(shù)的創(chuàng)新浪潮。他們提供的分比式負(fù)載點(diǎn)轉(zhuǎn)換器解決方案有助于提升生成式人工智能處理器的功效,使生成式人工智能的功耗與社會(huì)層面的環(huán)境保護(hù)和節(jié)能目標(biāo)相一致。Vicor 持續(xù)推動(dòng)電源架構(gòu)的創(chuàng)新,并開(kāi)發(fā)先進(jìn)的新產(chǎn)品,致力于解決生成式人工智能模型訓(xùn)練帶來(lái)的功耗增加問(wèn)題。通過(guò)采用先進(jìn)的分比式電流倍增器方法進(jìn)行負(fù)載點(diǎn) DC-DC 轉(zhuǎn)換,就可以充分發(fā)揮生成式人工智能優(yōu)勢(shì),同時(shí)有效控制全球范圍內(nèi)的能源消耗。

文章來(lái)源:Vicor


免責(zé)聲明:本文為轉(zhuǎn)載文章,轉(zhuǎn)載此文目的在于傳遞更多信息,版權(quán)歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權(quán)問(wèn)題,請(qǐng)聯(lián)系小編進(jìn)行處理。


推薦閱讀:

取代CAN總線,車(chē)載以太網(wǎng)10BASE-T1S成為主流?

貿(mào)澤新一期EIT系列帶你了解軟件定義車(chē)輛的Zonal架構(gòu)

如何為保健醫(yī)療設(shè)備設(shè)計(jì)選擇合適的電池

UWB技術(shù)引領(lǐng)汽車(chē)安全與互聯(lián)駕駛的新紀(jì)元

如何利用低電平有效輸出驅(qū)動(dòng)高端輸入開(kāi)關(guān)?

特別推薦
技術(shù)文章更多>>
技術(shù)白皮書(shū)下載更多>>
熱門(mén)搜索
?

關(guān)閉

?

關(guān)閉