基于FPGA的車牌識別系統(tǒng)

作者/李鑫，高佳皓，李金晟(北京理工大學(xué) 信息與電子學(xué)院，北京 100081)

　　摘要：車牌識別主要包括車牌定位檢測、字符分割和字符識別三個部分，現(xiàn)有的車牌識別系統(tǒng)都依托于類似OpenCV這樣的軟件平臺，實(shí)際安裝操作非常麻煩，沒有一個專用的處理器來實(shí)現(xiàn)車牌識別功能，針對這一現(xiàn)狀，我們設(shè)計(jì)了基于紫光PGT180H芯片的車牌識別系統(tǒng)，利用FPGA的靈活性和高速并行的特點(diǎn)，實(shí)現(xiàn)了車牌識別的功能，并在紫光同創(chuàng)開發(fā)板上搭建了車牌識別系統(tǒng)。

　　關(guān)鍵詞：圖像處理;神經(jīng)網(wǎng)絡(luò);FPGA;實(shí)時處理

　　*第二屆(2018)全國大學(xué)生集成電路創(chuàng)新創(chuàng)業(yè)大賽全國一等獎

　　0 引言

　　課題研究背景

　　智能交通系統(tǒng)是將先進(jìn)的信息技術(shù)、移動通信技術(shù)和計(jì)算機(jī)技術(shù)應(yīng)用在交通網(wǎng)絡(luò)，建設(shè)一種全方位的、實(shí)時準(zhǔn)確的綜合運(yùn)輸和管理系統(tǒng)，實(shí)現(xiàn)道路交通和機(jī)動車輛的自動化管理。自動化的發(fā)展在交通管理領(lǐng)域產(chǎn)生了一系列的應(yīng)用，比如道路收費(fèi)、車載導(dǎo)航系統(tǒng)和車聯(lián)網(wǎng)等。這些應(yīng)用對于車輛的識別檢測、安全管理也提出了越來越高的要求^[1]。

　　車牌識別系統(tǒng)研究現(xiàn)狀及難點(diǎn)

　　車牌識別系統(tǒng)，采用的主要方法是通過圖像處理技術(shù)，對采集的包含車牌的圖像進(jìn)行分析，提取車牌的位置，完成字符分割和識別的功能。隨著計(jì)算機(jī)技術(shù)的發(fā)展，對于單個字符的識別已經(jīng)有非常完善的解決方法，車牌識別系統(tǒng)準(zhǔn)確性主要受限于圖像信息的獲取，識別失敗也大多數(shù)是由獲取圖像不理想導(dǎo)致。存在的問題包括車牌圖像的傾斜、車牌自身的磨損、光線的干擾都會影響到定位的精度。對于車牌識別系統(tǒng)來說，識別車牌的準(zhǔn)確性和快速性往往是互相矛盾的存在，快速實(shí)時的捕捉和處理圖像往往會使用來識別的字符產(chǎn)生較大的失真，而不能滿足識別算法的要求，同時為了保證車牌識別的準(zhǔn)確性經(jīng)常會犧牲識別的速度，比如需要車牌在攝像頭前保持更長的一段時間才能完成識別^[2]。

　　1 設(shè)計(jì)和系統(tǒng)模塊概述

　　1.1 作品介紹

　　本作品是基于紫光PGT180H的車牌識別系統(tǒng)，包括了紫光開發(fā)板、帶FIFO的OV7725攝像頭、像素為320x240的LCD顯示屏以及搭載了攝像頭和LCD的PCB板。

　　系統(tǒng)采用OV7725攝像頭采集圖片，通過RGB轉(zhuǎn)HSV的模塊并根據(jù)HSV值提取出藍(lán)色部分，經(jīng)過detect模塊檢測有無車牌，然后對圖像進(jìn)行處理得到車牌的四個頂點(diǎn)，利用線性內(nèi)插的方法獲得固定大小的圖像，提取出車牌中的7個包含字符的圖像矩陣，然后使用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)分別對其進(jìn)行運(yùn)算分析，最后識別出結(jié)果并顯示到LCD上。

　　本項(xiàng)目的具體工作如下。

　　⑴車牌定位檢測。針對攝像頭獲取的圖像受到車牌模糊、光照強(qiáng)度的影響，采用HSV格式的圖像二值化方法，提出了一種通過掃描二值化圖像檢測車牌四個頂點(diǎn)的方法，得到了車牌的位置區(qū)域，根據(jù)設(shè)定判斷依據(jù)檢測車牌是否存在于攝像頭前，檢測成功后自動完成識別功能。

　?、谱址指睢８鶕?jù)已經(jīng)提取的圖像定點(diǎn)，采用一種線性內(nèi)插的方法將原始圖像轉(zhuǎn)換為固定大小圖像，這一方法也可以適應(yīng)發(fā)生旋轉(zhuǎn)后的車牌，再將固定大小的圖像順序分割成單個字符用來識別。

　?、亲址R別。采用神經(jīng)網(wǎng)絡(luò)算法完成字符識別功能，將已經(jīng)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)矩陣存在存儲器中，在FPGA上建立相應(yīng)并行與流水線結(jié)構(gòu)的乘累加模塊設(shè)計(jì)，利用查找表以及線性內(nèi)插的方法對激活函數(shù)sigmoid進(jìn)行逼近，提高計(jì)算精度和算法效率。

　　1.2 系統(tǒng)工作流程

　　上電后，先進(jìn)行攝像頭寄存器配置，然后將攝像頭捕捉到的畫面顯示到LCD顯示屏上，同時RGB轉(zhuǎn)HSV和detect模塊運(yùn)行;一旦detect模塊提取到車牌，LCD畫面將轉(zhuǎn)化為暫停的黑白畫面，緊接著運(yùn)行車牌分割和顯示的模塊image_pro和segment，然后是神經(jīng)網(wǎng)絡(luò)識別車牌，最后將結(jié)果顯示至LCD左側(cè)并且暫停。若想進(jìn)行第二次識別，則按下按鍵將會回到攝像頭捕捉畫面的狀態(tài)。

　　2 車牌檢測和圖像處理

　　2.1 HSV格式

　　從攝像頭獲得RGB565值的大小會隨著環(huán)境光線的變化而變化，直接利用RGB三個值進(jìn)行二值化是很困難的，我們采取將RGB格式轉(zhuǎn)換成HSV格式，再設(shè)置二值化相應(yīng)的閾值。HSV分別表示色相、飽和度和亮度。其中主要的二值化指標(biāo)是色度和飽和度，表示偏向某個顏色和偏向的尺度，通過判斷色相和飽和度，我們將車牌中藍(lán)色的部分提取出來供后面使用。

　　我們使用的閾值如下：飽和度大于30，色相大于200 且小于280，亮度大于30。

　　2.2 圖像檢測

　　提取出藍(lán)色部分后，利用算法找到車牌的四個頂點(diǎn)，通過四個頂點(diǎn)的相對位置，所表示的矩形的長寬比來檢測車牌是否被放在攝像頭正前方。

　　為了提取出車牌，我們需要分析車牌的特征。在畫面中，車牌占了一大部分，意味著連續(xù)的行和列都會呈現(xiàn)藍(lán)色，車牌的四個頂點(diǎn)分別位于左上、左下、右上、右下，所計(jì)算出的長寬比在1:3到1:4內(nèi)。檢測算法如下。

　　⑴一行一行地遍歷整幅圖。

　　⑵當(dāng)一行中檢測到連續(xù)的10個藍(lán)色點(diǎn)時，flag10賦值為1，視為檢測到車牌的初步狀態(tài)，當(dāng)連續(xù)的10個藍(lán)色點(diǎn)消失時，flag10賦值為0。

　　⑶當(dāng)flag10為1時，記錄連續(xù)點(diǎn)中的左頂點(diǎn)和右頂點(diǎn)。

　　⑷記錄車牌的左上、左下、右上、右下的坐標(biāo)，即每次的左右頂點(diǎn)分別計(jì)算x+y和x-y的最大最小值與所記錄的坐標(biāo)進(jìn)行比較。

　　⑸若存在連續(xù)的10行，flag10都被賦值為1，視為找到了一大塊藍(lán)色區(qū)域。

　　⑹當(dāng)遍歷完整幅圖并且找到了藍(lán)色區(qū)域之后，計(jì)算長寬比，達(dá)到要求后視為找到了車牌。

　　⑺MATLAB進(jìn)行的算法驗(yàn)證，如圖2所示。

　　2.3 圖像分割

　　在車牌檢測模塊是我們已經(jīng)提取出來了4個頂點(diǎn)的坐標(biāo)，通過其中的3個頂點(diǎn)，可以將車牌部分映射到大小為1687的圖片中，設(shè)新圖片中的點(diǎn)坐標(biāo)為，根據(jù)以下公式完成圖片映射。

　　圖形分割方法如下：按行和列將上圖分割成7個字符，每個字符出去最邊緣一行，再將上圖中紅色框內(nèi)的點(diǎn)出去，最終得到71410的字符存進(jìn)RAM中。

　　映射與圖形分割的效果如圖3。

　　3 神經(jīng)網(wǎng)絡(luò)與字符識別

　　3.1 神經(jīng)網(wǎng)絡(luò)算法

　　3.1.1 神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)

　　前文中，我們已經(jīng)將車牌上的字符提取了出來，每個字符都是一個1410的由0、1構(gòu)成的矩陣。已經(jīng)完成了卷積神經(jīng)網(wǎng)絡(luò)中類似池化的操作，我們不太需要更加復(fù)雜的CNN網(wǎng)絡(luò)，而可以使用最簡單的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

　　于是我們設(shè)計(jì)了如下的神經(jīng)網(wǎng)絡(luò)。

　?、耪麄€神經(jīng)網(wǎng)絡(luò)由3層感知機(jī)組成，輸入層、隱含層和輸出層。

　?、戚斎雽?40個神經(jīng)元，對應(yīng)1410中的每個像素點(diǎn);隱含層80個神經(jīng)元;輸出層34個神經(jīng)元，可分別對應(yīng)10個數(shù)字和24個除去I、O的字母(車牌中這兩個字母由于和1、0比較像，故不存在)，或34個省級行政區(qū)域。

　　⑶輸入層無激活函數(shù)，僅隱含層和輸出層含有激活函數(shù)sigmoid。

　　3.1.2 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練

　　神經(jīng)網(wǎng)絡(luò)的訓(xùn)練采用了梯度下降法，通過誤差反饋調(diào)整權(quán)值矩陣以減少誤差，使得神經(jīng)網(wǎng)絡(luò)的輸出逐漸收斂至我們想要的輸出^[3]。

　　3.2 FPGA實(shí)現(xiàn)模塊

　　神經(jīng)網(wǎng)絡(luò)中包含兩種運(yùn)算，分別是矩陣乘法和sigmoid函數(shù)映射的運(yùn)算，主要通過以下的模塊實(shí)現(xiàn)。

　　3.2.1 選擇累加模塊

　　本模塊神經(jīng)網(wǎng)絡(luò)的第一層計(jì)算，將輸入的1410的二值化像素點(diǎn)的向量和訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)權(quán)值矩陣W1相乘，得出結(jié)果，結(jié)果輸出至sigmoid模塊。因?yàn)閳D像點(diǎn)陣數(shù)據(jù)格式已二值化，僅含有數(shù)字0、1，所以做乘法時相當(dāng)于在做選擇，故采用選擇累加的方法計(jì)算向量與矩陣的乘積。

　　3.2.2 sigmoid模塊

　　Sigmoid函數(shù)是一個連續(xù)的函數(shù)，但是FPGA難以直接地計(jì)算該函數(shù)，于是我們通過通信中PCM編碼得到的靈感，找到斜率為2的冪次方的折線段的端點(diǎn)坐標(biāo)存入查找表，對輸入的x即可找到對應(yīng)區(qū)間，然后通過移位即可進(jìn)行對sigmoid曲線的線性逼近。

　　3.2.3 乘累加模塊

　　本模塊中，神經(jīng)網(wǎng)絡(luò)中第一層算出的80個結(jié)點(diǎn)為輸入，與訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)權(quán)值矩陣W2進(jìn)行矩陣運(yùn)算。模塊調(diào)用乘累加IP核，在模塊內(nèi)調(diào)用神經(jīng)網(wǎng)絡(luò)的權(quán)值矩陣rom2，與頂層的ram2讀取的80個結(jié)點(diǎn)數(shù)據(jù)進(jìn)行乘累加運(yùn)算，每次運(yùn)算完成后進(jìn)行數(shù)據(jù)的流水輸出至Sigmoid模塊，同時給出相應(yīng)ram寫入使能的控制。當(dāng)接收到開始信號有效，模塊開始工作，結(jié)束后輸出完成信號。

　　3.3 神經(jīng)網(wǎng)絡(luò)訓(xùn)練

　　神經(jīng)網(wǎng)絡(luò)的訓(xùn)練應(yīng)采用準(zhǔn)確的數(shù)據(jù)進(jìn)行訓(xùn)練，才可以達(dá)到完美的訓(xùn)練效果。于是我們在FPGA上實(shí)現(xiàn)了車牌的字符提取之后，編寫了一個串口通信模塊，將采集好的字符矩陣傳輸至電腦端，并以此作為訓(xùn)練數(shù)據(jù)。在MATLAB上將權(quán)值矩陣訓(xùn)練好以后，存儲進(jìn)FPGA的矩陣^[4]。

　　4 硬件實(shí)現(xiàn)結(jié)果

　　4.1 硬件實(shí)現(xiàn)

　　我們使用OV7725攝像頭和LCD作為外設(shè)，負(fù)責(zé)圖像的采集和輸出顯示，自行設(shè)計(jì)了PCB板，該外設(shè)可以通過插拔的簡單方式連接起來，上電后可以直接使用。

　　4.2 結(jié)果驗(yàn)證

　　圖4是系統(tǒng)實(shí)現(xiàn)的最終效果圖，我們的車牌對經(jīng)過輕度旋轉(zhuǎn)的圖像也有很好的處理效果，在做板級驗(yàn)證的時候，我們也測試了輕度旋轉(zhuǎn)的圖片識別，可以看出，該系統(tǒng)成功地識別出了車牌。

　　5 創(chuàng)新點(diǎn)

　　本作品利用FPGA可編程邏輯器件和簡單的系統(tǒng)設(shè)計(jì)，實(shí)現(xiàn)了準(zhǔn)確性較高的車牌識別系統(tǒng)，創(chuàng)新的采用HSV格式用作圖片二值化方法，獲得了很好的區(qū)分效果，能夠適應(yīng)光線變化的不同場景，圖像的提取和字符分割也取得了理想的效果，保證了車牌識別的正確率，實(shí)現(xiàn)了以神經(jīng)網(wǎng)絡(luò)為核心的專用FPGA圖像識別處理器及結(jié)構(gòu)，將神經(jīng)網(wǎng)絡(luò)和圖像處理模塊在FPGA芯片上實(shí)現(xiàn)。

　　參考文獻(xiàn)

　　[1]張靈芳.車牌識別系統(tǒng)相關(guān)算法研究與改進(jìn)[D].中南大學(xué), 2012.

　　[2]劉同焰.車牌識別系統(tǒng)的相關(guān)算法研究與實(shí)現(xiàn)[D].華南理工大學(xué), 2012.

　　[3]張坤艷,鐘宜亞,苗松池,等.一種基于全局閾值二值化方法的BP神經(jīng)網(wǎng)絡(luò)車牌字符識別系統(tǒng)[J].計(jì)算機(jī)工程與科學(xué), 2010, 32(2):88-89.

　　[4]楊凡,趙建民,朱信忠.一種基于BP神經(jīng)網(wǎng)絡(luò)的車牌字符分類識別方法[J].計(jì)算機(jī)科學(xué),2005,32(8):192-195.

　　作者簡介：

　　李鑫(1997- )，男，本科生，主要從事信號處理和數(shù)字邏輯的學(xué)習(xí)。

　　高佳皓(1997-)，男，本科生，主要從事信號與信息處理研究。

　　李金晟(1997- )，男，本科生，主要從事集成電路設(shè)計(jì)。

本文來源于科技期刊《電子產(chǎn)品世界》2019年第3期第77頁，歡迎您寫論文時引用，并注明出處