利用搭載全域硬2D NoC的FPGA器件去完美實(shí)現(xiàn)智能化所需的高帶寬低延遲計(jì)算
隨著大模型、高性能計(jì)算、量化交易和自動(dòng)駕駛等大數(shù)據(jù)量和低延遲計(jì)算場(chǎng)景不斷涌現(xiàn),加速數(shù)據(jù)處理的需求日益增長(zhǎng),對(duì)計(jì)算器件和硬件平臺(tái)提出的要求也越來(lái)越高。發(fā)揮核心器件內(nèi)部每一個(gè)計(jì)算單元的作用,以更大帶寬連接內(nèi)外部存儲(chǔ)和周邊計(jì)算以及網(wǎng)絡(luò)資源,已經(jīng)成為智能化技術(shù)的一個(gè)重要趨勢(shì)。這使得片上網(wǎng)絡(luò)(Network-on-Chip)這項(xiàng)已被提及多年,但工程上卻不容易實(shí)現(xiàn)的技術(shù)再次受到關(guān)注。
本文引用地址:http://www.ex-cimer.com/article/202310/452321.htm作為一種被廣泛使用的硬件處理加速器,FPGA可以加速聯(lián)網(wǎng)、運(yùn)算和存儲(chǔ),其優(yōu)點(diǎn)包括計(jì)算速度與ASIC相仿,也具備了高度的靈活性,能夠?yàn)閿?shù)據(jù)中心與邊緣計(jì)算提供理想的數(shù)據(jù)處理加速;除此之外,FPGA還在傳感器融合和輸入數(shù)據(jù)流整理匯流等領(lǐng)域發(fā)揮關(guān)鍵作用,是智能化應(yīng)用中從邊到云全鏈路上重要的計(jì)算器件。
近年來(lái),諸如Achronix這樣提供高容量、高密度和高算力FPGA的供應(yīng)商,在其高端FPGA芯片中,使用了越來(lái)越多的硬IP去提升FPGA芯片對(duì)外的數(shù)據(jù)傳輸帶寬以及存儲(chǔ)器帶寬。但是在邏輯陣列密度不斷快速提升的同時(shí),外部通信和網(wǎng)絡(luò)帶寬的提升并不能完全滿足新興應(yīng)用的需求,所以FPGA內(nèi)部數(shù)據(jù)的交換越來(lái)越成為數(shù)據(jù)傳輸?shù)钠款i。
Achronix將此挑戰(zhàn)視為一個(gè)開(kāi)發(fā)全新架構(gòu)的機(jī)會(huì),以消除傳統(tǒng)FPGA的設(shè)計(jì)挑戰(zhàn)并提高系統(tǒng)性能。Achronix的解決方案是在傳統(tǒng)FPGA邏輯陣列布局和布線結(jié)構(gòu)之上,創(chuàng)新地使用了革命性的二維(2D)高速片上網(wǎng)絡(luò)(NoC)。Achronix不久前在業(yè)界率先推出了集成2D NoC的Speedster7t器件,這些創(chuàng)新帶來(lái)了FPGA設(shè)計(jì)、工程和應(yīng)用等方面的根本轉(zhuǎn)變。
2D NoC是Speedster7t FPGA芯片內(nèi)可編程邏輯陣列上面部署的覆蓋全域的高速縱與橫(行和列)數(shù)據(jù)通道,它們分別向FPGA可編程邏輯陣列的水平和垂直方向提供高速的傳輸通道。除了這些行和列之外,在NoC硬核的每一行和每一列的交叉位置還有發(fā)送點(diǎn)和NoC訪問(wèn)的目標(biāo)節(jié)點(diǎn)(NAP)。這些NAP充當(dāng)NoC硬核位于可編程邏輯陣列資源之間傳輸?shù)钠瘘c(diǎn)或目的點(diǎn)。
在該FPGA器件的外圍,這個(gè)硬2D NoC連接到所有高速接口:包括多個(gè)400G以太網(wǎng)、PCIe Gen5、GDDR6和DDR4/5端口。這使得Achronix的Speedster7t成為了業(yè)界第一款可以商用的集成全域硬2D NoC的FPGA器件,以每通道512Gbps的速率和超過(guò)2Tbps的總帶寬來(lái)與所有系統(tǒng)接口和FPGA邏輯陣列互連。
這種新架構(gòu)使得Achronix的FPGA器件特別適用于高帶寬應(yīng)用,同時(shí)極大提高了設(shè)計(jì)人員的工作效率。由于2D NoC管理著從用FPGA邏輯陣列實(shí)現(xiàn)的數(shù)據(jù)加速器功能模塊到高速數(shù)據(jù)接口之間的所有交互功能,因此設(shè)計(jì)人員只需設(shè)計(jì)他們的數(shù)據(jù)加速器功能,然后將它們連接到NAP接口。與使用軟核2D NoC相比,通過(guò)硬核2D NoC做數(shù)據(jù)交互,設(shè)計(jì)人員可以受益于以下優(yōu)點(diǎn):
● 降低邏輯資源占有率并提高FPGA的整體性能
● 增加帶寬
● 減少對(duì)存儲(chǔ)器的需求
● 更快的設(shè)計(jì)時(shí)間和更短的工具編譯時(shí)間
Achronix的FPGA中特有的創(chuàng)新的全域2D NoC硬核,對(duì)比用可編程邏輯資源來(lái)實(shí)現(xiàn)的軟核2D NoC的傳統(tǒng)方法,有諸多益處。在近期發(fā)表的白皮書(shū)《白皮書(shū):Achronix在其先進(jìn)FPGA中集成2D NoC以支持高帶寬設(shè)計(jì)(WP028)》中,詳盡介紹了全域2D NoC硬核的各種技術(shù)細(xì)節(jié),并討論了硬核和軟核的兩種2D NoC的差異,并提供了一個(gè)設(shè)計(jì)示例,展示硬核與軟核2D NoC的對(duì)比結(jié)果,以及Achronix 的全域硬2D NoC是如何去提高性能、改善帶寬、減少面積并縮短設(shè)計(jì)時(shí)間和工具運(yùn)行時(shí)間。
完整內(nèi)容,請(qǐng)閱讀《白皮書(shū):Achronix在其先進(jìn)FPGA中集成2D NoC以支持高帶寬設(shè)計(jì)(WP028)》。
評(píng)論