基于DSP與雙目CMOS攝像頭的數(shù)字圖像處理系統(tǒng)

傳統(tǒng)的數(shù)字圖像處理通常采用圖像采集卡,將模擬電視信號轉換成數(shù)字信號,然后由pc機進行軟處理。這樣不僅不夠靈活,處理能力也受到pc機和軟件的限制。隨著cmos成像芯片工藝的改進和數(shù)字信號處理器功能的提升,使得數(shù)據(jù)量與計算量較大的圖像硬處理成為可能。本文詳細介紹了通過兩路cmos攝像頭采集圖像,以浮點dsp為核心處理器,采用60萬門fpga實現(xiàn)邏輯控制的數(shù)字圖像采集處理系統(tǒng)的設計原理和實現(xiàn)方法。本系統(tǒng)所采用的芯片與器件,在保證性能的同時,兼顧低功耗,整個系統(tǒng)可以由1394線纜供電。

1 原理概述

整個系統(tǒng)的原理框圖如圖1所示。系統(tǒng)上電后,fpga配置子板把配置文件加載到fpga中。dsp由外部 flash引導,通過fpga先設置1394接口芯片的內部寄存器,再通過i2c總線設置攝像頭1、2的控制寄存器。fpga提供攝像頭的工作時序和圖像序列的讀寫時序。云臺在dsp的控制下可以上下左右調整,捕捉感興趣的目標。8片1mb的sram作為兩路攝像頭的數(shù)據(jù)存儲器,16mb的sdram則充當dsp的外部數(shù)據(jù)緩沖。處理后的圖像既可以直接輸出至lcd進行顯示,也可以通過1394總線傳送至pc機。

2系統(tǒng)設計
　　
整個系統(tǒng)由三部分構成:圖像采集模塊、圖像處理模塊和圖像傳輸模塊。

2.1 圖像采集模塊

該模塊主要由兩組cmos攝像頭和云臺組成。該模塊的接口信號見圖2。

攝像頭采用韓國現(xiàn)代的hv7131r和五層玻璃透鏡。hv7131r采用0.3μm的cmos工藝,有效像素30萬,功耗低于90mw,具有曝光控制、增益控制和白平衡處理等功能,最大幀率30fps@vga。通過標準的i2c接口設置hv7131r的內部寄存器,可以調節(jié)圖像的曝光時間、分辨率、幀率、rgb增益、鏡像等。hv7131r輸出10位的rgb原始數(shù)據(jù),本系統(tǒng)采用了其中的高8位。多層玻璃透鏡可以濾除波長大于630nm的紅外線,并采用超焦距對焦方式,最小成像距離為3cm。
　　
攝像頭借助云臺跟蹤運動目標,水平旋轉范圍為-180°～180°;垂直旋轉范圍為-45°～45°。
　　
考慮到運動圖像處理至少需要3幀的序列圖像,每組攝像頭配備了4片ram。3片做數(shù)據(jù)采集緩沖,1片存儲dsp處理后的結果。

2.2 圖像處理模塊
　　
該模塊由dsp、fpga和數(shù)據(jù)緩存器組成。

2.2.1 主要器件的選型
　　
dsp主要完成的功能有:
　　
(1)加電自舉,初始化1394接口芯片;
　　
(2)通過i2c接口設置攝像頭的寄存器;

(3)對圖像進行預處理,提高成像質量;

(4)控制云臺的轉動,實現(xiàn)運動目標的跟蹤。

fpga在本系統(tǒng)中的作用有:

(1)提供圖像采集、存儲與傳輸?shù)墓ぷ鲿r序;

(2)協(xié)同dsp實現(xiàn)復雜的組合邏輯控制電路;

(3)實現(xiàn)標準的vga接口,外接lcd顯示器。

基于以上要求,本系統(tǒng)采用ti公司的32位浮點dsp tms320c6711b。6711b采用改進的哈佛總線結構,主頻為150mhz,內部集成硬件乘法器和累加器,采用流水線velocititm甚長指令字(vliw)指令,具有豐富的片上外設,并有專門針對數(shù)字信號處理的指令系統(tǒng),運算能力可達1200mflops,適用于計算量大、實時性高的數(shù)字圖像處理領域。fpga 則采用altera公司apex系列的ep20k600ebc652。ep20k600ebc652具有高速度(622mhz的數(shù)據(jù)速率)、高密度(有效邏輯60萬門)、低噪聲和低功耗的特點。有4個pll、480個低電壓差分信號(lvds)的i/o口,工作電壓為2.5v和1.8v。

2.2.2 圖像的預處理
　　
運動目標檢測與跟蹤、目標的識別與提取等基于圖像內容的處理,對圖像質量要求較高。影響成像質量的兩個重要因素為曝光和白平衡:人眼對外部環(huán)境的明暗變化非常敏感,在強光環(huán)境下,瞳孔縮小,使得景物不那么刺眼;而光線較弱時,瞳孔擴大,使景物盡可能地變清楚。這在成像中,稱為曝光。當外界光線較弱時,cmos成像芯片工作電流較小,所成圖像偏暗,這時要適當增加曝光時間進行背光補償;光線充足或較強時,要適當減少曝光時間,防止曝光過度,圖像發(fā)白。改善成像質量,僅靠調節(jié)曝光時間是不夠的。因為物體顏色會隨照射光線的顏色發(fā)生改變,在不同的光線場合圖像有不同的色溫。這就是白平衡問題。傳統(tǒng)光學相機或攝像機通過給鏡頭加濾鏡消除圖像的偏色現(xiàn)象。對于cmos成像芯片,可以通過調整rgb三基色的電子增益解決白平衡問題。

本系統(tǒng)的自動曝光控制和白平衡處理實現(xiàn)方法如下:

采集一幀rgb原始圖像,在6711b中先計算出整幅圖像亮度的均值m(y);然后對圖像做直方圖均衡化,再計算出此時圖像的亮度均值并作為一個閾值yt。將m(y)與yt進行比較,如果m(y) < yt,則調大hv7131r的int(integration time)寄存器的值以增加曝光時間;反之,減小曝光時間。白平衡的調節(jié)與此相似,根據(jù)原始圖像與均衡化后的cr和cb的均值,通過hv7131r的rcg(red color gain)、bcg(blue color gain)調節(jié)紅色、藍色通道的增益。ycrcb和rgb的轉換關系式為:

y=0.59g+0.31r+0.11b

cr=0.713×(r-y)

cb=0.564×(b-y)

其中,y是亮度分量,cr和cb則是色差分量。

hv7131r的曝光時間范圍為0～(224-1)個像素時鐘周期,即0～1.34s@12.5mhz;增益范圍一般為30～63。試驗結果表明,經(jīng)過5～10次的迭代就能取得較為理想的效果。上述過程示意圖以及成像效果如圖3和圖4所示。

2.3 圖像傳輸模塊
　　
本系統(tǒng)圖像傳輸模塊采用ieee1394高速串行總線。1394總線支持點對點通信、即插即用和熱插拔,有等時和異步兩種傳輸模式,速率高達400mbps,最大有效距離為4.5m。1394線纜可以提供8v～40v的dc電壓以及最高可達1.5a的電流,完全滿足整個系統(tǒng)的供電需求。該模塊主要包括鏈路層和物理層兩個控制器。

2.3.1鏈路層控制器(llc)
　　
tsb12lv32具有2kb的通用接收fifo(grf)與2kb的通用發(fā)送fifo(atf),支持異步傳輸與等時傳輸。微控制器接口支持8/16位的數(shù)據(jù)寬度,工作時鐘最高達60mhz。tsb12lv32提供dma方式,待發(fā)送數(shù)據(jù)邊讀取邊傳送,傳輸效率較高。

2.3.2 物理層控制器(plc)
　　
tsb41ab3提供三個1394端口,3.3v單獨供電,符合1394a標準,支持等時傳輸和異步傳輸,支持100/200/400mbps的傳輸速率,可以與tsb12lv21、tsb12lv31、tsb12lv32、tsb12lv41或tsb12lv01a等鏈路層控制器實現(xiàn)無縫連接,具有較高的通信速率與可靠性。
　　
本系統(tǒng)為了便于調試,pc機被設定為根節(jié)點控制器,應用程序和硬件通過驅動程序進行交互。win32應用程序通過設備驅動程序、總線驅動程序、端口驅動程序與1394設備進行通信,如圖5所示。

其中,1394總線驅動程序和端口驅動程序處理所有繁瑣的底層通信,只需提供設備驅動程序。llc和plc的內部寄存器通過6711b設置,設備的發(fā)現(xiàn)與識別、驅動程序的安裝、1394總線的初始化等也需要6711b的控制和響應。

本系統(tǒng)圖像的最大數(shù)據(jù)量為640×480×30×2=18.4mbps,1394a最高支持400mbps的傳輸速率,圖像實時傳輸不需要經(jīng)過壓縮。實際傳輸過程中,為確保每幀圖像的完整,采用異步傳輸模式,圖像序列之間加入了幀同步信號,使帶寬利用率有所下降,最終的實測速率為20fps@640×480。該系統(tǒng)采用32位浮點dsp和大容量、多i/o口的高速fpga,數(shù)據(jù)處理能力強,電路設計靈活,為今后運動目標檢測與跟蹤算法的研究提供了軟硬件支持。