利用多內(nèi)核處理器的并行編程能實現(xiàn)視頻代碼轉(zhuǎn)換

視頻代碼轉(zhuǎn)換是指從一種壓縮視頻格式轉(zhuǎn)換為另一種壓縮視頻格式，通常先要把某種格式解碼為原始視頻幀，然后用新的格式重新編碼。在許多應(yīng)用中高效的代碼轉(zhuǎn)換至關(guān)重要。例如，為了支持視頻點播數(shù)據(jù)流，視頻數(shù)據(jù)要以某種主流格式存儲起來以節(jié)省空間，但必須支持眾多不同的觀看設(shè)備和解碼器。為了做到這一點，需要在數(shù)據(jù)發(fā)送前以實時或者快于實時的速度進行代碼轉(zhuǎn)換。在視頻節(jié)目制作階段進行視頻編輯時，也必須對視頻數(shù)據(jù)進行解碼、修改和重新編碼。在普通家庭，為了能在家用視頻服務(wù)器上使用視頻，視頻數(shù)據(jù)可能也需要轉(zhuǎn)換才能適應(yīng)服務(wù)器支持的格式。

支持高清視頻點播要求高性能的代碼轉(zhuǎn)換。RapidMind公司開發(fā)的軟件開發(fā)平臺利用統(tǒng)一的并行編程模型充分發(fā)揮各種多內(nèi)核處理器的性能。通過在RapidMind平臺上建立代碼轉(zhuǎn)換器，應(yīng)用程序如今能運行在多種處理器上，包括CPU、GPU和Cell BE，并且還能通過擴展適應(yīng)未來多內(nèi)核(和眾內(nèi)核)處理器環(huán)境。

代碼轉(zhuǎn)換器自然需要支持各種視頻壓縮格式。然而，許多格式在實現(xiàn)它們所需的運算類型方面有很多相似性。另外，編碼器通常要比解碼器貴得多。一般一種視頻標準僅規(guī)定了壓縮數(shù)據(jù)流中存儲什么類型的數(shù)據(jù)以及解碼器該怎樣譯碼，并不規(guī)定編碼器如何從原始輸入數(shù)據(jù)流中提取需要的信息。

通常一種壓縮視頻格式不僅要求實現(xiàn)對單幀的壓縮，而且要求使用視頻序列中的相鄰幀實現(xiàn)對中間幀的預(yù)測。為了能從傳輸產(chǎn)生的任何錯誤中恢復(fù)數(shù)據(jù)，并允許用戶從視頻序列中間位置開始解壓縮，有些幀是在不參考其它幀的情況下進行壓縮的。

單幀壓縮

單幀壓縮有點類似于普通的圖像壓縮，通常包含了到不同基礎(chǔ)幀的轉(zhuǎn)換，如使用不同頻率和方向的余弦變換(離散余弦變換或DCT)，或小波變換。這種轉(zhuǎn)換通常作用于塊，并且從數(shù)學(xué)上可精簡到塊中像素上的一組點積(雖然一些基本函數(shù)允許理論上更快的因數(shù)分解)。轉(zhuǎn)換后的系數(shù)再經(jīng)過量化刪除那些對圖像可視無用的信息，形成一幅近似的圖像，最后使用編碼器編碼去除數(shù)據(jù)中任何殘留的冗余性。

上述轉(zhuǎn)換的目的不僅是通過將圖像中的能量集中為更小的一組數(shù)字而使代碼器變得更有效率，而且允許量化器顯著地去除感知上不那么重要的信息。例如，DCT就會對圖像的高頻和低頻成分進行分析。由于人眼對高頻時的量化誤差不甚敏感，因此這些頻率的量化可以粗放一些。另外，在上述壓縮步驟之前通常先要從亮度中分離出色度(顏色)和將色度欠采樣到較低分辨率，因為人眼對亮度邊緣較敏感，但對色度邊緣不太敏感。

一些較復(fù)雜的壓縮格式還支持根據(jù)空間相鄰的塊對一些圖像塊作出預(yù)測。選擇哪個塊用于預(yù)測極具挑戰(zhàn)性，而且支持解碼器中的必要排序在并行系統(tǒng)中也相當復(fù)雜。然而，如果塊的內(nèi)容能夠被準確預(yù)測，那么對該塊壓縮時只需編碼預(yù)測值和實際值之間的(少量)差異。

如此詳細地介紹單幀圖像壓縮的原因是，實際上作為編碼過程的一部分，無論是塊還是單幀壓縮/解壓縮都有必要。特別是中間幀(數(shù)據(jù)流中的大部分幀)估計，它是通過融合和混合數(shù)據(jù)流前后發(fā)生的幀、然后從輸入數(shù)據(jù)中減去這個融合后的幀、最后壓縮差異圖像(一般使用類似于單幀編碼器的編碼器)實現(xiàn)的。對這種融合的估計被稱為運動估計，是編碼過程中運算量最大的步驟之一。

然而在解碼器中，原始的源數(shù)據(jù)幀是沒有的，只有解壓縮后的幀。因此，這種融合要求圖像能在解碼器之前還原。因此它們不僅必須在編碼器中壓縮，而且需要被解壓縮。這種對前面壓縮的數(shù)據(jù)進行解壓縮的需求將導(dǎo)致數(shù)據(jù)的依賴性，并影響到在具有不同存儲器系統(tǒng)的處理器之間如何并行使用和分配編碼器。

視頻序列中的圖像組(GOP)中的一些幀(I，幀內(nèi)編碼幀)使用單幀壓縮算法進行編碼，但基于運動估計的幀間預(yù)測被用來改進幀內(nèi)幀間(雙向預(yù)測編碼幀B，前向預(yù)測編碼幀P)的壓縮。只有預(yù)測幀和實際幀之間的差異值需要被壓縮。由于B幀和P幀是根據(jù)I幀的解壓縮版本預(yù)測出來的，因此有必要作為編碼過程的一部分對I幀進行壓縮和解壓縮。

圖1：RapidMind是一個開發(fā)和運行時間平臺，它支持能充分利用多內(nèi)核處理器的單線程可管理應(yīng)用程序。開發(fā)人員可以用標準的C++語言編寫代碼，RapidMind平臺則可以將這些代碼在多個內(nèi)核間“并行利用”。

運動估計

運動估計是很有價值的。一般需要發(fā)現(xiàn)將像素從輸入圖像中的一個位置挎貝到融合后的圖像上的這種融合，以便融合后的圖像與該幀實際圖像間的差異盡可能小。首先，像素塊之間的相似性指標需要被定義，通常是SSD(差值平方和)或SSA(絕對差值和)。然后使用這種相似性指標測試各個候選源塊的位置，以確定良好的匹配。

有兩點需要注意。第一，如果有較強的運算能力，那么可以測試較多的候選位置，從而可能找到更好的匹配，并提高壓縮率?？梢杂眠\算能力的增強來降低帶寬要求，反之亦然。其次，相似性指標是非線性的。這意味著使用多分辨率等技巧來加快相似性匹配速度是不合適的。低分辨率時的最佳匹配不一定是高分辨率時的最佳匹配。

這里有兩個基本點：數(shù)據(jù)位置和并行體系。首先，GPU是具有很高性能的處理器，但目前位于PCI Express卡上，這些卡有自己的存儲器。因此為了壓縮視頻流，數(shù)據(jù)需要傳送到視頻卡上的存儲器中，然后將壓縮結(jié)果傳回來。這一過程需要以流的形式完成，而這種流式處理與運算隨時交疊，因此數(shù)據(jù)傳送不會成為瓶頸。RapidMind平臺正常情況下可自動管理數(shù)據(jù)，而且(能在內(nèi)部硬件API支持的地方)提供深層分析功能來管理這種重疊式流處理。GPU存儲器架構(gòu)的其它意義還在于互相依賴的一系列步驟應(yīng)盡可能保持在相同的存儲器空間中。

最大程度的加速

通常在考慮一個應(yīng)用是否能被加速時，人們首先會分析應(yīng)用程序的各個單元，判斷每個單元上需花多長時間，并利用阿姆達爾定律估計可能的加速程度。

舉例來說，考慮到某個應(yīng)用程序在單元A上要花10%的時間，在單元B上要花75%的時間，單元C上花5%的時間，單元D上花10%的時間。該應(yīng)用程序的流程是A運行一次，然后B和C輪流多次反復(fù)運行(取決于彼此關(guān)系)，最后才是運行D。

同時假設(shè)單元A估計能加速1.5倍，B能加速20倍，C能加速2倍，D不能做任何加速。

這樣理論上的最大時間縮短值是：

0.1/1.5+0.75/20+0.05/2+0.1/1=0.23

相當于加速1/0.23(正好超過4)倍。值得注意的是，雖然單元B(75%的運行時間)的加速系數(shù)達到了很大的20，但只有使所有加速步驟對總運行時間的影響比較接近的情況下才能取得最好的效果。

事實上，如果只是以B為目標，并設(shè)法使之無限加速，但總的性能仍將受限于其余單元。

使用GPU

進一步考慮使用GPU。大家可以看到B和C是反復(fù)進行的。如果只是在GPU上加速B，而讓C留在主機上，那么需要不斷地從主機那兒來回傳送數(shù)據(jù)，從而嚴重影響性能。因此，即使單元C的加速幅度很小，但根據(jù)阿姆達爾定律，它對總的加速效果影響也很小。事實上，我們可能也想把C移動到GPU上以避免這些傳送。

這正是視頻編碼所面臨的境況。即使運動估計是視頻壓縮中最昂貴的成分，我們也不能忽略其它因素，尤其是單幀壓縮和解壓縮，因為運動估計的其它階段還需要這些結(jié)果。在考慮這些因素后，階段優(yōu)化工作量就需要正比于它對總體性能的影響程度。

RapidMind平臺

RapidMind平臺能夠用來快速實現(xiàn)和測試算法，并將算法應(yīng)用于GPU或?qū)嶋H上多內(nèi)核的CPU。如果有大量依附于數(shù)據(jù)的算法單元，Rapid實現(xiàn)就相當重要，因為所有單元必須移動到