Xilinx Zynq All Programmable SoC:Smarter Vision的最明智選擇
您是否見(jiàn)識(shí)過(guò)奧迪非凡的自動(dòng)泊車(chē)功能?在沒(méi)有駕駛員的情況下,轎車(chē)能自動(dòng)找到車(chē)位并泊車(chē)入位;或者,您是否使用Kinect控制器玩過(guò)Xbox 360游戲,或是剛剛咬下一口您從本地水果店購(gòu)買(mǎi)的鮮香水果。如果是,那么您可以把自己看成是Smarter Vision系統(tǒng)時(shí)代到來(lái)的見(jiàn)證人。
本文引用地址:http://www.ex-cimer.com/article/201610/308596.htm從最尖端精密的電子系統(tǒng)到普普通通的蘋(píng)果,各種形式的產(chǎn)品都無(wú)不受到Smarter視頻技術(shù)的影響。雖然當(dāng)今Smarter Vision的運(yùn)用已足以讓人稱奇,但專家稱我們其實(shí)還什么都沒(méi)有看到。有人預(yù)測(cè)在10年時(shí)間里,從汽車(chē)到工廠自動(dòng)化、醫(yī)療、監(jiān)控、消費(fèi)類、航空航天和軍用產(chǎn)品等絕大多數(shù)電子系統(tǒng)都將包含功能更豐富、出眾的Smarter Vision技術(shù),極大地豐富人們的生活,乃至挽救生命。
Smarter Vision系統(tǒng)將迅速得到普及,而且隨著它們?cè)谖磥?lái)幾年將變得更加尖端復(fù)雜,我們很可能會(huì)乘坐自動(dòng)駕駛汽車(chē)盡情穿梭在高速公路網(wǎng)上。諸如Intuitive Surgical公司令人驚嘆的機(jī)器人輔助手術(shù)系統(tǒng)等醫(yī)療設(shè)備將進(jìn)一步得到發(fā)展,甚至能夠讓外科醫(yī)生遠(yuǎn)程執(zhí)行外科手術(shù)。電視和遠(yuǎn)程監(jiān)控系統(tǒng)讓人仿佛置身其中,達(dá)到前所未有的互操作水平,同時(shí)影院、家庭和店鋪屏幕上的內(nèi)容也將迎合每個(gè)不同消費(fèi)者的興趣,乃至情緒。
賽靈思All Programmable Smarter Vision解決方案正在引領(lǐng)這場(chǎng)變革創(chuàng)新。ZynqTM-7000 All Programmable SoC是業(yè)界首款在單個(gè)器件上將ARM雙核CortexTM-A9 MPCORETM、可編程邏輯及主要外設(shè)完美結(jié)合在一起的器件。賽靈思以其作為基礎(chǔ),已推出了配套基礎(chǔ)架構(gòu)(工具及SmartCORE IP組合),其將在開(kāi)發(fā)和加速這些出色的創(chuàng)新產(chǎn)品上市進(jìn)程中發(fā)揮至關(guān)重要的作用。該輔助基礎(chǔ)架構(gòu)包括VivadoTM HLS(高層次綜合)、最新IP Integrator工具、OpenCV(計(jì)算機(jī)視覺(jué))庫(kù)、SmartCORETM IP和專用開(kāi)發(fā)套件。
賽靈思企業(yè)戰(zhàn)略與市場(chǎng)營(yíng)銷高級(jí)副總裁Steve Glaser表示:“借助賽靈思All Programmable Smarter Vision解決方案,我們將幫助客戶率先推出新一代Smarter Vision系統(tǒng)。在過(guò)去10年中,客戶已充分利用我們的FPGA來(lái)為他們系統(tǒng)處理器中那些運(yùn)行速度不足的功能提速。對(duì)于Zynq-7000 All Programmable SoC而言,處理器和FPGA邏輯均位于同一芯片上,這意味著開(kāi)發(fā)人員現(xiàn)已擁有一款適用于Smarter Vision應(yīng)用的理想的芯片平臺(tái)。我們現(xiàn)在又推出了一款由Vivado HLS、最新IP Integrator工具、OpenCV庫(kù)、SmartCORE IP和開(kāi)發(fā)套件組成的穩(wěn)健可靠的開(kāi)發(fā)環(huán)境,進(jìn)一步完善了Zynq-7000 All Programmable SoC。借助這些Smarter Vision技術(shù),我們的客戶可以立即啟動(dòng)他們的新設(shè)計(jì),以更快的速度推出效率和系統(tǒng)性能更高、系統(tǒng)功耗和材料清單成本更低的創(chuàng)新產(chǎn)品,從而在提升盈利能力的同時(shí)豐富人們的生活,乃至挽救生命。”
從啞巴攝像機(jī)到Smarter Vision
Smarter Vision系統(tǒng)的根源在于嵌入式視覺(jué)。若您對(duì)嵌入式視覺(jué)知之甚少,那么就讓我們看看下面對(duì)這種技術(shù)及其演進(jìn)發(fā)展的介紹。
根據(jù)快速發(fā)展的行業(yè)組織“嵌入式視覺(jué)聯(lián)盟”(www.embedded-vision.com/)的定義,嵌入式視覺(jué)融合了兩種技術(shù):嵌入式系統(tǒng)(區(qū)別于使用處理器的計(jì)算機(jī)的任何電子系統(tǒng))和計(jì)算機(jī)視覺(jué)(有時(shí)也稱機(jī)器視覺(jué))。
嵌入式視覺(jué)聯(lián)盟創(chuàng)始人兼咨詢公司BDTI首席執(zhí)行官Jeff Bier表示,嵌入式視覺(jué)技術(shù)已經(jīng)給數(shù)個(gè)行業(yè)造成顯著的影響,因?yàn)樵摷夹g(shù)的發(fā)展已遠(yuǎn)遠(yuǎn)超越了以往的通過(guò)電機(jī)驅(qū)動(dòng)實(shí)現(xiàn)平移/傾斜/縮放(motorized pan-tilt-zoom)功能的模擬攝像系統(tǒng)時(shí)代。Bier表示:“我們已在數(shù)字時(shí)代生活了一段時(shí)間,看到嵌入式視覺(jué)從擅長(zhǎng)壓縮、存儲(chǔ)或增強(qiáng)攝像頭拍攝內(nèi)容觀感的早期數(shù)字系統(tǒng)迅速發(fā)展成為如今能知曉拍攝內(nèi)容的Smarter嵌入式視覺(jué)系統(tǒng)。”此外,先進(jìn)的嵌入式視覺(jué)系統(tǒng)或Smarter視覺(jué)系統(tǒng)不僅能增強(qiáng)和分析圖像,而且還能根據(jù)那些分析結(jié)果觸發(fā)行動(dòng)。由此,處理量和計(jì)算能力以及算法的復(fù)雜性都顯著增大。監(jiān)控市場(chǎng)的快速發(fā)展就是這種顯著演進(jìn)的最好例證之一。
20年前,監(jiān)控系統(tǒng)廠商競(jìng)相提供由機(jī)械系統(tǒng)強(qiáng)化的最佳透鏡,能夠執(zhí)行可實(shí)現(xiàn)更清晰、更寬廣拍攝視野的平移/傾斜/縮放功能。這些系統(tǒng)基本上由模擬攝像機(jī)、連接用同軸電纜、模擬監(jiān)控器和安保人員監(jiān)控的視頻錄制裝置組成。這些系統(tǒng)的清晰度、可靠性和有效性由光學(xué)組件和透鏡的質(zhì)量以及監(jiān)控?cái)z像頭播放內(nèi)容的安保人員的盡職程度決定。
嵌入式視覺(jué)技術(shù)的問(wèn)世使監(jiān)控設(shè)備公司能夠使用基于數(shù)字技術(shù)的較低成本攝像頭。此類數(shù)字處理能力可為其系統(tǒng)提供卓越的功能,在性能上超越模擬以及基于透鏡的保安系統(tǒng),在價(jià)格上則更低廉。
魚(yú)眼透鏡和采用各種視覺(jué)專用算法的嵌入式處理系統(tǒng)大幅增強(qiáng)了攝像頭生成的畫(huà)質(zhì)。這些技術(shù)針對(duì)光照條件進(jìn)行了校正,能夠改善對(duì)焦,增強(qiáng)色澤和數(shù)字縮放觀測(cè)區(qū)域,另外無(wú)需使用機(jī)械電機(jī)控制來(lái)執(zhí)行平移/傾斜/縮放,從而能夠進(jìn)一步提升系統(tǒng)可靠性。企業(yè)使用數(shù)字信號(hào)處理可提供視頻分辨率達(dá)到以及超過(guò)1080p的監(jiān)控系統(tǒng)。實(shí)際上,就無(wú)人機(jī)(UAV)和軍用衛(wèi)星而言,嵌入式視覺(jué)已能夠?qū)崿F(xiàn)前所未有的超高分辨率。若以此分辨率捕獲圖像,就需要處理大量的像素,而增強(qiáng)和操控這些圖像則需要甚至更高的處理能力。
但通過(guò)數(shù)字信號(hào)處理操縱圖像,增強(qiáng)其清晰度只是開(kāi)始。憑借先進(jìn)得多的像素處理功能,監(jiān)控系統(tǒng)制造商開(kāi)始創(chuàng)建更尖端的嵌入式視覺(jué)系統(tǒng),以便能在其數(shù)字系統(tǒng)所采集的高畫(huà)質(zhì)圖像上實(shí)時(shí)執(zhí)行分析功能。視覺(jué)系統(tǒng)設(shè)計(jì)人員每年都會(huì)推出一系列功能更為強(qiáng)大的高級(jí)算法,用于創(chuàng)建更為動(dòng)態(tài)的分析功能。這些嵌入式視覺(jué)系統(tǒng)的最早期類型只能檢測(cè)特定的色彩、形狀和移動(dòng)。這項(xiàng)功能迅速地發(fā)展為具有下列功能的算法:能夠檢測(cè)跨越攝像頭視野中虛擬柵欄的物體;判斷圖像中的對(duì)象是否是一個(gè)人;以及,鏈接至數(shù)據(jù)庫(kù)后甚至能識(shí)別特定的人。
最先進(jìn)的監(jiān)控系統(tǒng)所提供的分析功能能跟蹤受監(jiān)測(cè)的個(gè)人穿越安保網(wǎng)絡(luò)的視野范圍,即便在他們離開(kāi)攝像頭的視野后進(jìn)入盲點(diǎn),然后再進(jìn)入監(jiān)控網(wǎng)絡(luò)的另一部攝像頭的視野后也能追蹤。視覺(jué)設(shè)計(jì)人員已經(jīng)設(shè)計(jì)出某些此類系統(tǒng),用于檢測(cè)異?;蚩梢傻囊苿?dòng)。賽靈思工業(yè)、科學(xué)及醫(yī)療(ISM)事業(yè)部系統(tǒng)架構(gòu)師Mark Timmons表示:“分析功能是當(dāng)今監(jiān)控市場(chǎng)最大的發(fā)展趨勢(shì)。它可以克服人為錯(cuò)誤,甚至取代細(xì)致的人工觀察和決策??梢韵胂螅诨疖?chē)站和運(yùn)動(dòng)賽場(chǎng)等擁擠的環(huán)境中,監(jiān)控的難度極大。所以如果有分析功能可以發(fā)現(xiàn)過(guò)度擁擠的危險(xiǎn)情況或表現(xiàn)出危險(xiǎn)行為或過(guò)激動(dòng)作的個(gè)人,就會(huì)帶來(lái)非常明顯的優(yōu)勢(shì)。”
為了進(jìn)一步增強(qiáng)這種分析功能并提升此類系統(tǒng)的有效性,監(jiān)控及眾多其它使用Smarter Vision技術(shù)的市場(chǎng)越來(lái)越多地采用“融合”架構(gòu),將攝像頭和熱成像、雷達(dá)、聲納和LIDAR(光/激光探測(cè)和測(cè)距)等其它感測(cè)技術(shù)相結(jié)合。這樣Smarter視覺(jué)設(shè)計(jì)人員就可進(jìn)一步增強(qiáng)最終圖像,實(shí)現(xiàn)夜視、檢測(cè)熱溫/熱能影像或是拾取單憑攝像頭不能采集或無(wú)法看到的對(duì)象。這項(xiàng)功能能顯著地減少虛假檢測(cè),從而實(shí)現(xiàn)更準(zhǔn)確的分析。毫無(wú)疑問(wèn),技術(shù)融合以及之后分析融合技術(shù)采集的數(shù)據(jù)會(huì)帶來(lái)更大的復(fù)雜性,要求更為強(qiáng)大的分析處理能力。
Timmons提到,這個(gè)市場(chǎng)上的另一大趨勢(shì)是執(zhí)行所有這些類型的復(fù)雜分析系統(tǒng)都位于監(jiān)控系統(tǒng)網(wǎng)絡(luò)的“邊緣”,即位于每一部攝像頭中,而非由每一部攝像頭將自己的數(shù)據(jù)傳輸給中央大型機(jī)系統(tǒng),然后再由大型機(jī)根據(jù)多路饋入的數(shù)據(jù)進(jìn)行更精確的分析。分析功能的本地化為整體安全系統(tǒng)增加了靈活性,使得系統(tǒng)中的每個(gè)點(diǎn)都能更加迅速準(zhǔn)確地執(zhí)行檢測(cè),因而如果攝像頭能真正發(fā)現(xiàn)切實(shí)的威脅,就能更迅速地向操作人員發(fā)出告警。
分析功能本地化意味著每個(gè)單元不僅需要更強(qiáng)大的處理功能來(lái)強(qiáng)化和分析攝像頭采集的圖像,而且還必須足夠緊湊,能夠集成至高度集成的電子系統(tǒng)中。且由于每個(gè)單元都必須能夠可靠地與網(wǎng)絡(luò)的其余部分進(jìn)行通信,攝像頭還必須集成電子通信功能,進(jìn)一步增大計(jì)算復(fù)雜度。這些監(jiān)控單元逐漸通過(guò)無(wú)線網(wǎng)絡(luò)連接構(gòu)成更大型監(jiān)控系統(tǒng)的組成部分;而且這些監(jiān)控系統(tǒng)將不斷變成更大規(guī)模的企業(yè)網(wǎng)絡(luò)乃至更大規(guī)模的全球網(wǎng)絡(luò)的組成部分,正如美國(guó)軍方的全球信息網(wǎng)格(參見(jiàn)Xcell期刊第69期的封面介紹:http://china.xilinx.com/china/archives/xcell/Xcell69.pdf)。
這類高度復(fù)雜性有望出現(xiàn)在監(jiān)控等領(lǐng)域中,也正應(yīng)用于軍事和防務(wù)市場(chǎng)的各個(gè)方面,從步兵的頭盔到與中央司令部聯(lián)網(wǎng)的軍用衛(wèi)星等,無(wú)所不包??赡芨钊梭@嘆的是,Smarter Vision技術(shù)正快速進(jìn)入其它領(lǐng)域,以提高生活質(zhì)量,確保生命安全。
Smarter Vision 成就完美蘋(píng)果
現(xiàn)在以蘋(píng)果為例。有沒(méi)有想過(guò)一個(gè)好蘋(píng)果是怎么進(jìn)入您的雜貨店的?賽靈思工業(yè)科學(xué)和醫(yī)療業(yè)務(wù)部的架構(gòu)師Giulio Corradi說(shuō),今天食品公司正在把最新Smarter Vision系統(tǒng)用于食品檢驗(yàn)生產(chǎn)線,將壞蘋(píng)果從好蘋(píng)果中篩選出來(lái)。Corradi表示,高速食品檢驗(yàn)生產(chǎn)線上使用的第一代嵌入式視覺(jué)系統(tǒng)通常使用一個(gè)或者多個(gè)攝像頭來(lái)發(fā)現(xiàn)蘋(píng)果或者其它農(nóng)產(chǎn)品表面上的瑕疵。如果嵌入式視覺(jué)系統(tǒng)發(fā)現(xiàn)有非正常的色澤,該蘋(píng)果就會(huì)被打上標(biāo)記/篩選出來(lái)進(jìn)行進(jìn)一步檢測(cè),或者扔掉。
但是如果在此之前的某個(gè)時(shí)候水果曾掉落過(guò),但傷痕難以察覺(jué)會(huì)怎么樣呢?Corradi表示“在某些情況下,掉落造成的傷痕可能難以被攝像頭發(fā)現(xiàn),只能用肉眼查看。傷痕可能實(shí)際上位于蘋(píng)果的果肉中。所以一些Smarter Vision系統(tǒng)在攝像頭上集成了紅外傳感器。這樣這種更加高級(jí)的Smarter Vision系統(tǒng)就可以檢測(cè)到蘋(píng)果表皮之下的傷痕,觸發(fā)機(jī)械分揀機(jī)將蘋(píng)果推出生產(chǎn)線,以免被包裝發(fā)往雜貨店。”如果沒(méi)有Smarter融合視覺(jué)系統(tǒng)的幫助,有傷痕的蘋(píng)果會(huì)通過(guò)檢測(cè),而傷痕會(huì)在蘋(píng)果擺放到雜貨店貨架上時(shí)變得明顯,這樣就可能不得不把它扔掉。一個(gè)壞蘋(píng)果會(huì)糟蹋一堆蘋(píng)果。
此外,分析功能還可以幫助食品公司判斷有傷痕的蘋(píng)果狀態(tài)是否足夠良好,可以轉(zhuǎn)入新的生產(chǎn)線,由另一個(gè)Smarter Vision系統(tǒng)判斷它是否適用于其它用途,比如制作蘋(píng)果醬、果脯或者如果狀態(tài)太差,用于制作肥料。
Corradi表示,Smarter Vision技術(shù)正在被應(yīng)用于工廠車(chē)間,以幫助保護(hù)工人。越來(lái)越多的工廠今天都已完成自動(dòng)化,使用機(jī)器人輔助技術(shù)或者完全自動(dòng)化的機(jī)器人生產(chǎn)線。Corradi表示,最早的這些自動(dòng)化工廠中,每部機(jī)器人只執(zhí)行生產(chǎn)產(chǎn)品的一小部分任務(wù),然后將其傳送給生產(chǎn)線上的另一部機(jī)器人。由于這些機(jī)器人完成的是一系列可預(yù)測(cè)的工作,它們的活動(dòng)范圍也可以預(yù)測(cè)。因此,為保護(hù)在這些機(jī)器人生產(chǎn)線附近操作、維護(hù)或者工作的工人,許多設(shè)施在機(jī)器人周?chē)ㄓ斜Wo(hù)籠。
然而在現(xiàn)代化工廠中,制造商正在越來(lái)越多地使用更加靈活的機(jī)器人生產(chǎn)線按需生產(chǎn)更多數(shù)量的產(chǎn)品,而且可以重新裝備這些機(jī)器人生產(chǎn)線,用于制造未來(lái)的產(chǎn)品。為此,工廠為機(jī)器人提供更大的泊位,因其移動(dòng)范圍可能會(huì)發(fā)生顯著的變化。對(duì)于需要制造不同產(chǎn)品系列的機(jī)器人來(lái)說(shuō),安全籠顯得限制過(guò)多(或者過(guò)小),無(wú)法適應(yīng)機(jī)器人的移動(dòng)范圍。
因此,為了保護(hù)工人的安全,同時(shí)避免制約自動(dòng)化工廠生產(chǎn)線的活動(dòng)范圍,企業(yè)正在使用Smarter Vision技術(shù)創(chuàng)建安全系統(tǒng)。攝像頭和激光會(huì)豎立“虛擬柵欄或者屏障”,如果工作人員(和安全監(jiān)測(cè)人員)在產(chǎn)品正在生產(chǎn)時(shí)過(guò)于靠近工廠生產(chǎn)線,會(huì)以聲音發(fā)出告警。部分裝置包含多相虛擬屏障系統(tǒng),可以在有人跨越外部屏障時(shí)發(fā)出聲響報(bào)警,然后在這個(gè)人跨越第二道屏障、接近機(jī)器人時(shí)自動(dòng)關(guān)閉整條生產(chǎn)線,以避免發(fā)生傷害事故。嵌入式視覺(jué)聯(lián)盟的Bier提到,這種類型的虛擬屏障技術(shù)正在越來(lái)越多地廣泛應(yīng)用到有人員在具有潛在危險(xiǎn)性設(shè)備和化學(xué)品周?chē)ぷ鞯钠渌鼞?yīng)用中。Bier說(shuō):“這對(duì)于降低工廠中的事故數(shù)量能起到明顯的作用,不過(guò)為什么不能在游樂(lè)場(chǎng)、或在我們家中的游泳池周?chē)?、轎車(chē)上也安裝虛擬屏障呢?我想我們將很快看到我們?nèi)粘I钪性絹?lái)越多的虛擬屏障系統(tǒng)。”
Smarter Vision帶來(lái)完美駕駛體驗(yàn)
為實(shí)現(xiàn)更輕松、更安全的駕駛體驗(yàn),汽車(chē)是另一個(gè)充分采用Smarter Vision技術(shù)的市場(chǎng)。賽靈思汽車(chē)業(yè)務(wù)部的系統(tǒng)架構(gòu)師Paul Zoratti表示,在汽車(chē)市場(chǎng)中,高級(jí)駕駛員輔助系統(tǒng)(ADAS)就是關(guān)于使用包括Smarter Vision在內(nèi)的遠(yuǎn)程傳感技術(shù),從而在駕駛過(guò)程中為駕駛員提供幫助(即讓駕駛員的駕駛水平提高)(參見(jiàn)賽靈思雜志第66期的封面報(bào)道,http://china.xilinx.com/publications/archives/xcell/Xcell66.pdf)。
在過(guò)去十年中,汽車(chē)制造商已經(jīng)開(kāi)始將一系列Smarter Vision技術(shù)支持的駕駛員輔助功能應(yīng)用到各種高端車(chē)型中。每年他們都會(huì)在其豪車(chē)產(chǎn)品線上推出更強(qiáng)大的駕駛員輔助功能,同時(shí)在其運(yùn)動(dòng)車(chē)型和標(biāo)準(zhǔn)車(chē)型產(chǎn)品線上引入越來(lái)越多的駕駛員輔助功能。
這些功能包括盲點(diǎn)檢測(cè)、變道輔助、行人和標(biāo)牌檢測(cè)等,會(huì)在感知到潛在危險(xiǎn)情況時(shí)向駕駛員發(fā)出警告。汽車(chē)制造商最近推出的車(chē)型甚至還可提供更高級(jí)的自動(dòng)緊急制動(dòng)和車(chē)道保持系統(tǒng)。它們不僅會(huì)監(jiān)測(cè)車(chē)輛環(huán)境,發(fā)現(xiàn)潛在問(wèn)題,還會(huì)輔助駕駛員采取糾正措施,避免事故發(fā)生或者降低其嚴(yán)重性。
Zoratti指出,現(xiàn)在的某些新型轎車(chē)裝配有四個(gè)攝像頭,分別位于車(chē)身兩側(cè)、車(chē)前和車(chē)尾,為駕駛員提供車(chē)輛周?chē)h(huán)境的連續(xù)360度視角。雖然第一代環(huán)視系統(tǒng)只是使用這些攝像頭為駕駛員提供圖像,而未來(lái)的系統(tǒng)會(huì)融入更多的駕駛員輔助功能。使用相同的四個(gè)攝像頭和圖像處理分析功能,新一代系統(tǒng)可同時(shí)生成汽車(chē)的鳥(niǎo)瞰圖,還能在遇到行人時(shí)警告潛在危險(xiǎn)。此外,當(dāng)汽車(chē)以更高速度行駛時(shí),汽車(chē)可使用車(chē)身側(cè)面和后面的攝像頭,用于盲點(diǎn)檢測(cè)、變道輔助和車(chē)道偏離警示等功能。在擋風(fēng)玻璃后增加一個(gè)前視攝像頭,可以支持交通標(biāo)識(shí)識(shí)別和正向碰撞告警功能。最后,當(dāng)駕駛員抵達(dá)自己的目的地時(shí),可啟動(dòng)自動(dòng)停車(chē)功能。在這些攝像頭和其它傳感器的共同配合下,系統(tǒng)將幫助汽車(chē)半自動(dòng)地駛?cè)胪\?chē)位。
Zoratti重點(diǎn)指出,實(shí)時(shí)完成所有這些工作需要大量的處理功能,這恰好是并行硬件計(jì)算的優(yōu)勢(shì)所在。這就是為什么許多早期系統(tǒng)將獨(dú)立的微處理器和FPGA搭配使用,由FPGA處理大多數(shù)的并行計(jì)算,而微處理器則處理串行決策。
與監(jiān)控等需要使用多個(gè)攝像頭的其它市場(chǎng)不同,它會(huì)給汽車(chē)帶來(lái)成本壓力,促使分析功能不是在每個(gè)攝像頭,而是在中央計(jì)算中心中完成。這樣做可以最大限度地降低每部攝像頭傳感器的成本,乃至最終整個(gè)系統(tǒng)的成本。但是這也意味著中央單元的處理平臺(tái)需要具備極高的性能和帶寬,才能支持同時(shí)處理四路、五路乃至六路實(shí)時(shí)視頻輸入。
Smarter Vision 創(chuàng)造生命奇跡
另一個(gè)被Smarter Vision技術(shù)顯著改變的領(lǐng)域是醫(yī)療電子行業(yè)。Smarter Vision技術(shù)在各種醫(yī)療成像技術(shù)中得到廣泛應(yīng)用,包括內(nèi)窺鏡和圖像掃描儀(CT、MRI等)、機(jī)器人外科手術(shù)系統(tǒng)(如Intuitive Surgical公司的Da Vinci(達(dá)芬奇))等。詳細(xì)介紹參見(jiàn)賽靈思中國(guó)通訊雜志第42期(http://issuu.com/xilinxdoc/docs/cn_xcell_42)。
在達(dá)芬奇眾多值得稱道的嵌入式系統(tǒng)中,最高級(jí)的應(yīng)該是3D視覺(jué)系統(tǒng),它能夠讓外科醫(yī)生以極高的精度、流暢性和觸覺(jué)敏感性操作機(jī)器人外科儀器,完成一系列精細(xì)而又錯(cuò)綜復(fù)雜的外科手術(shù)過(guò)程。每誕生一代新系統(tǒng),外科醫(yī)生就能夠執(zhí)行更多數(shù)量和種類的外科手術(shù),確保更好的治療效果和更短的恢復(fù)時(shí)間。控制和協(xié)調(diào)手術(shù)過(guò)程的技術(shù)精密程度令人嘆為觀止,需要高度依賴處理能力和邏輯的完美結(jié)合。因此,每一代新技術(shù)都將從處理器和邏輯的更高集成度中獲益。
Smarter Vision帶來(lái)身臨其境的視覺(jué)體驗(yàn)
Smarter Vision在讓我們保持聯(lián)系方面也取得了重大進(jìn)步。如果您在現(xiàn)代辦公樓工作,您的公司很可能至少有一個(gè)裝有高級(jí)遠(yuǎn)程呈現(xiàn)會(huì)議系統(tǒng)的會(huì)議室。這不僅便于您與世界各地的參會(huì)者對(duì)話,而且還能親眼看到他們,就如同在身邊面對(duì)面交流一樣。這些視頻會(huì)議系統(tǒng)的精密程度在不斷提高,以至于能夠感知在桌邊或者會(huì)議中發(fā)言的人是誰(shuí),然后自動(dòng)將鏡頭拉近并對(duì)準(zhǔn)這個(gè)人,用更高畫(huà)質(zhì)的逼真視頻顯示。
賽靈思廣播及消費(fèi)市場(chǎng)營(yíng)銷總監(jiān)Ben Runyan表示,開(kāi)發(fā)遠(yuǎn)程呈現(xiàn)技術(shù)的企業(yè)正在探尋如何為用戶創(chuàng)造更佳的浸入式體驗(yàn)。Runyan稱:“這樣做的目的是讓用戶感覺(jué)他們同處一間會(huì)議室,但實(shí)際上他們可能身處地球兩端。要實(shí)現(xiàn)這個(gè)目的,需要高級(jí)的攝像頭和顯示技術(shù),以及高級(jí)的圖像處理功能。技術(shù)的不斷進(jìn)步會(huì)帶來(lái)更加逼真的體驗(yàn),這會(huì)讓協(xié)作變得更加簡(jiǎn)單,使企業(yè)的工作效率進(jìn)一步提高,同時(shí)減少差旅需求和費(fèi)用。”
Smarter網(wǎng)絡(luò)
大部分Smarter Vision系統(tǒng)都是局域網(wǎng)的組成部分,同時(shí)越來(lái)越多的這種系統(tǒng)依次連接到更大型的外部網(wǎng)絡(luò)。例如在汽車(chē)應(yīng)用中,嵌入式視覺(jué)系統(tǒng)通過(guò)CAN總線、LIN和FlexRay等標(biāo)準(zhǔn)協(xié)議進(jìn)行通信。此外,通用汽車(chē)還為客戶提供OnStar無(wú)線導(dǎo)航、安全和車(chē)輛診斷服務(wù),以便OnStar操作人員能夠接入車(chē)輛系統(tǒng),診斷問(wèn)題。
與此形成鮮明對(duì)比的是,工業(yè)制造領(lǐng)域的每家廠商似乎都已開(kāi)發(fā)出自己的專有協(xié)議。但是在越來(lái)越多的行業(yè)中,客戶呼吁制造商提供的系統(tǒng)要能兼容標(biāo)準(zhǔn)因特網(wǎng)協(xié)議網(wǎng)絡(luò)或以太網(wǎng)網(wǎng)絡(luò)。使用通過(guò)標(biāo)準(zhǔn)網(wǎng)絡(luò)連接和通信的系統(tǒng),客戶便可更加方便地將新系統(tǒng)集成到自己的企業(yè)中,不必搭配和匹配多家廠商的系統(tǒng),從而獲得更大的定價(jià)優(yōu)勢(shì)。但是加強(qiáng)網(wǎng)絡(luò)兼容性會(huì)使嵌入式視覺(jué)設(shè)計(jì)進(jìn)一步復(fù)雜化,因?yàn)橐曈X(jué)系統(tǒng)現(xiàn)在必須集成更加復(fù)雜的網(wǎng)絡(luò)技術(shù)、高速I(mǎi)/O,并能在協(xié)議變化或者新協(xié)議出現(xiàn)時(shí)更新系統(tǒng)。軟件可編程解決方案往往無(wú)法直接滿足這類變化提出的性能要求,迫使客戶必須從其它廠商購(gòu)買(mǎi)新的系統(tǒng)。因此嵌入式視覺(jué)系統(tǒng)必須擁有足夠的I/O靈活性,才能跟上網(wǎng)絡(luò)技術(shù)的快速發(fā)展變化。
賽靈思:為Smarter Vision而全力打造的All-Programmable
要全面快速推進(jìn)Smarter Vision技術(shù)的發(fā)展,滿足新市場(chǎng)的需求,就必須擁有一款極為靈活的處理平臺(tái)、豐富的資源組合以及致力于推進(jìn)Smarter Vision技術(shù)發(fā)展的可靠的生態(tài)系統(tǒng)。過(guò)去10年來(lái),賽靈思器件在幫助有關(guān)公司推進(jìn)這些視覺(jué)系統(tǒng)創(chuàng)新方面一直發(fā)揮著重大作用。今天,賽靈思經(jīng)過(guò)長(zhǎng)達(dá)5年的開(kāi)發(fā),成功推出了一款完整的解決方案,將力助Smarter Vision應(yīng)用開(kāi)發(fā)商快速推出新一代創(chuàng)新技術(shù)。
10多年來(lái),嵌入式視覺(jué)技術(shù)設(shè)計(jì)人員一直充分利用賽靈思FPGA的可編程性、并行計(jì)算功能和快速I(mǎi)/O功能,滿足一系列嵌入式視覺(jué)系統(tǒng)的需求。過(guò)去,設(shè)計(jì)人員用FPGA加速系統(tǒng)中可能拖慢主處理器的功能,或者用FPGA來(lái)運(yùn)行僅靠處理器不能執(zhí)行的并行計(jì)算任務(wù)。而現(xiàn)在,利用Zynq-7000 All Programmable SoC,嵌入式視覺(jué)技術(shù)開(kāi)發(fā)人員擁有了一款全面可編程的器件,非常適合開(kāi)發(fā)新一代Smarter Vision應(yīng)用。
賽靈思公司視頻技術(shù)工程設(shè)計(jì)總監(jiān)Jose Alvarez指出:“Smarter Vision技術(shù)能在同一開(kāi)發(fā)板上互聯(lián)傳輸?shù)牟煌幚砥骱虵PGA中實(shí)現(xiàn),而Zynq-7000 All Programmable SoC為電子產(chǎn)業(yè)帶來(lái)了前所未有的高集成度?,F(xiàn)在,我們能通過(guò)同一芯片上處理器和邏輯之間3,000個(gè)高性能連接以芯片速度而不是板級(jí)速度在智能處理器和FPGA邏輯之間交換信息。”
下圖顯示出Zynq-7000 All Programmable SoC在多功能汽車(chē)駕駛員輔助系統(tǒng)創(chuàng)建中相對(duì)于采用傳統(tǒng)多攝像頭多芯片架構(gòu)的優(yōu)勢(shì)。在賽靈思架構(gòu)(見(jiàn)圖中左下方),將一組攝像頭連接到一個(gè)Zynq-7000 All Programmable SoC,能支持盲區(qū)檢測(cè)、360度環(huán)繞視圖、車(chē)道偏移報(bào)警和行人檢測(cè)等功能捆綁。相反,現(xiàn)有的多功能DA系統(tǒng)需要多個(gè)芯片和多個(gè)攝像頭,這就會(huì)讓集成更復(fù)雜化,對(duì)性能和系統(tǒng)功耗造成不利影響,也提高了BOM成本。
一些芯片廠商提供的ASSP將ARM處理器與DSP或GPU搭配一起使用,但這種器件過(guò)于僵化,而且針對(duì)今天許多Smarter Vision應(yīng)用而言計(jì)算性能也不夠高。基于這種器件的解決方案往往需要添加獨(dú)立的FPGA來(lái)彌補(bǔ)自身的不足。
Zynq-7000 All Programmable SoC相對(duì)于以GPU和DSP為中心的SoC而言,其主要優(yōu)勢(shì)就是具有的可編程性和高性能。ARM處理系統(tǒng)具有軟件可編程性,F(xiàn)PGA邏輯可通過(guò)HDL或C++編程,甚至I/O也是全面可編程的。這樣,客戶就能創(chuàng)建出適合其特定的應(yīng)用極高性能Smarter Vision系統(tǒng),并讓其系統(tǒng)從競(jìng)爭(zhēng)產(chǎn)品中脫穎而出。
下圖詳細(xì)給出了Smarter Vision系統(tǒng)的一般信號(hào)流程,從中可以看出Zynq All Programmable SoC相對(duì)于基于ARM和DSP以及基于ARM和GPU的ASSP解決方案的優(yōu)勢(shì)。
流程中的第一個(gè)信號(hào)處理模塊(綠色)是連接器件到攝像頭感應(yīng)器的輸入。在Zynq-7000 All Programmable SoC中,開(kāi)發(fā)人員可讓多種不同I/O信號(hào)適應(yīng)于客戶連接的任何攝像頭需要。下一個(gè)信號(hào)處理模塊執(zhí)行像素級(jí)處理或視頻處理工作(具體取決于應(yīng)用是面向圖形處理還是顯示)。再下一個(gè)模塊執(zhí)行圖像分析功能,這是一個(gè)計(jì)算密集型任務(wù),通常需要并行計(jì)算,而這則是FPGA最擅長(zhǎng)的任務(wù)。接下來(lái)3個(gè)模塊(紅色)分別代表處理系統(tǒng)獲得分析所得的元數(shù)據(jù)結(jié)果、創(chuàng)建圖形化結(jié)果表達(dá)(在圖像步驟顯示),以及對(duì)結(jié)果進(jìn)行編碼用于傳輸。在Zynq-7000 All Programmable SoC中,處理子系統(tǒng)和FPGA邏輯協(xié)同工作。如果需要壓縮,F(xiàn)PGA邏輯會(huì)直接采用適當(dāng)?shù)木幗獯a器。在接下來(lái)最后一個(gè)信號(hào)處理模塊(標(biāo)為“輸出”)中,Zynq-7000 SoC的可編程I/O可讓開(kāi)發(fā)人員滿足多種不同通信協(xié)議和視頻傳輸標(biāo)準(zhǔn)的要求,有的是廠商專有標(biāo)準(zhǔn),有的是特定市場(chǎng)標(biāo)準(zhǔn),還有的則是業(yè)界標(biāo)準(zhǔn)IP協(xié)議。與此形成對(duì)比的是,當(dāng)開(kāi)發(fā)人員采用以DSP和GPU為中心的SoC開(kāi)發(fā)算法時(shí),可能ASSP中的DSP或GPU難以提供所需的性能。為了彌補(bǔ)這種性能不足,開(kāi)發(fā)人員往往還要在系統(tǒng)中采用獨(dú)立的FPGA。
Zynq-7000 All Programmable SoC顯然是開(kāi)發(fā)Smarter視覺(jué)系統(tǒng)的最佳芯片選擇,而賽靈思在該器件開(kāi)發(fā)的早期階段就認(rèn)識(shí)到,應(yīng)當(dāng)對(duì)編程進(jìn)行優(yōu)化,特別是對(duì)那些比較習(xí)慣用C和C++開(kāi)發(fā)視覺(jué)算法的設(shè)計(jì)人員來(lái)說(shuō)更應(yīng)該優(yōu)化編程方法。為此,賽靈思于2012年6月向客戶推出了一款最先進(jìn)的軟件環(huán)境:Vivado設(shè)計(jì)套件,其包含有業(yè)界一流的高層次綜合等多項(xiàng)技術(shù)。賽靈思于2011年1月收購(gòu)AutoESL獲得了這種高層次綜合技術(shù)。Vivado HLS特別適用于嵌入式視覺(jué)應(yīng)用。比方說(shuō),如果視覺(jué)系統(tǒng)開(kāi)發(fā)人員用Zynq-7000 All Programmable SoC開(kāi)發(fā)的C或C++語(yǔ)言算法運(yùn)行速度不夠快,或者給處理系統(tǒng)帶來(lái)過(guò)重負(fù)擔(dān),那么這些開(kāi)發(fā)人員就能把C算法提交給Vivado HLS,并將這些算法綜合成Verilog或VHDL,然后在器件的FPGA邏輯中運(yùn)行。這就能將Zynq-7000 All Programmable SoC上的處理子系統(tǒng)解放出來(lái),讓它從事更適合自己的任務(wù),從而加速整體系統(tǒng)性能。賽靈思還推出了OpenCV(CV就是計(jì)算機(jī)視覺(jué)的縮寫(xiě))庫(kù),讓進(jìn)一步完善了Smarter Vision技術(shù)。
OpenCV是一款具有行業(yè)標(biāo)準(zhǔn)、包含OpenCV.org算法的開(kāi)源庫(kù),能幫助嵌入式視覺(jué)開(kāi)發(fā)人員快速創(chuàng)建視覺(jué)系統(tǒng)。全球嵌入式視覺(jué)開(kāi)發(fā)人員積極地為這款開(kāi)源庫(kù)開(kāi)發(fā)新的算法,目前已經(jīng)包含了2500多款使用C、C++、Java和Python語(yǔ)言編寫(xiě)的算法。庫(kù)中的算法具有各種不同的復(fù)雜程度,有的可執(zhí)行圖形濾波器等簡(jiǎn)單功能,有的則能執(zhí)行運(yùn)動(dòng)檢測(cè)等更高級(jí)的分析功能。賽靈思的視頻技術(shù)設(shè)計(jì)總監(jiān)Alvarez表示,這些OpenCV算法可用于微處理器和DSP等處理器的實(shí)現(xiàn),支持Intel、ARM、Nvidia、MIPS/Imagination Technologies、TI等不同廠商的產(chǎn)品。由于Zynq-7000 All Programmable SoC采用ARM處理系統(tǒng),因此用戶能在Zynq-7000 All Programmable SoC的處理器上實(shí)現(xiàn)這些采用C++語(yǔ)言編寫(xiě)的算法。
Alvarez指出,有了Vivado HLS,用戶可以用C或C++語(yǔ)言編寫(xiě)這些算法,將函數(shù)調(diào)用從OpenCV改為HLS,并使用Vivado HLS將這些算法綜合或編譯到RTL代碼,從而針對(duì)Zynq-7000 All Programmable SoC邏輯部分的實(shí)現(xiàn)進(jìn)行優(yōu)化。Vivado環(huán)境中提供OpenCV,能讓Smarter視覺(jué)架構(gòu)設(shè)計(jì)人員方便地比較設(shè)計(jì)方案中的給定算法到底是在處理器還是Zynq-7000 All Programmable SoC的FPGA邏輯部分運(yùn)行效率最佳。賽靈思開(kāi)源庫(kù)的推出可為客戶提供一個(gè)良好的設(shè)計(jì)開(kāi)端。就Vivado HLS而言,賽靈思已經(jīng)編譯了OpenCV庫(kù)中30多種最常用的嵌入式視覺(jué)算法??蛻艨稍谙到y(tǒng)級(jí)快速權(quán)衡處理器與邏輯,而且能立即在Zynq-7000 All Programmable SoC上運(yùn)行,確保給定應(yīng)用實(shí)現(xiàn)最佳的系統(tǒng)效果。
賽靈思及其聯(lián)盟成員還將積極從OpenCV庫(kù)持續(xù)進(jìn)行功能移植,每個(gè)季度都將向賽靈思不斷擴(kuò)展的用戶群提供新的功能。由于開(kāi)發(fā)人員能在幾乎任何商業(yè)處理器上運(yùn)行OpenCV庫(kù),因此視覺(jué)設(shè)計(jì)人員能比較各種芯片器件上運(yùn)行的不同算法的性能,甚至明確性能基準(zhǔn)。賽靈思堅(jiān)信,廣大客戶必將發(fā)現(xiàn)Zynq All Programmable SoC的明顯優(yōu)勢(shì)。事實(shí)上,您也可在本演示中見(jiàn)證Zynq-7000 All Programmable SoC和賽靈思Smarter Vision技術(shù)的強(qiáng)大實(shí)力。賽靈思杰出工程師Kees Vissers在演示中將介紹如何使用OpenCV算法,并配合使用Vivado HLS快速在Zynq-7000 All Programmable SoC的FPGA邏輯部分實(shí)現(xiàn)這些算法,而相對(duì)于在ARM A4處理子系統(tǒng)中實(shí)現(xiàn)相同功能而言性能可提升50倍到100倍之多。
賽靈思的SMARTCore IP產(chǎn)品系列能充分滿足各種不同細(xì)分市場(chǎng)對(duì)于高級(jí)Smarter Vision系統(tǒng)的必要要求。
作為Smarter Vision計(jì)劃的一部分,賽靈思還推出了SmartCORE IP組合,以滿足各種細(xì)分市場(chǎng)的Smarter視覺(jué)設(shè)計(jì)要求,為新一代產(chǎn)品帶來(lái)Smarter視覺(jué)功能??蛻裟芡ㄟ^(guò)使用賽靈思新推出的IP Integrator工具在其設(shè)計(jì)中快速實(shí)現(xiàn)SmartCORE IP組合的內(nèi)核以及OpenCV庫(kù)的算法。這款新工具是一種新型即插即用IP環(huán)境,能幫助用戶在原理圖環(huán)境中工作,或者如果需要的話也支持在命令行環(huán)境中工作。
Alvarez指出,自Vivado設(shè)計(jì)套件誕生后,賽靈思讓該套件的設(shè)計(jì)具有器件意識(shí),這樣就能充分發(fā)揮每款器件的功能。Alvarez稱,有了IP Integrator,Vivado設(shè)計(jì)套件不僅具有器件意識(shí),現(xiàn)在還具有目標(biāo)平臺(tái)意識(shí),支持所有Zynq All Programmable SoC和7系列FPGA開(kāi)發(fā)板以及套件。具有目標(biāo)平臺(tái)意識(shí),就意味著Vivado設(shè)計(jì)套件現(xiàn)在能配置和應(yīng)用特定開(kāi)發(fā)板的設(shè)計(jì)規(guī)則檢查,從而確保快速推出切實(shí)可行的系統(tǒng)。
舉例來(lái)說(shuō),當(dāng)設(shè)計(jì)人員選擇賽靈思 Zynq-7000 SoC視頻及成像套件,并在IP Integrator中實(shí)例化Zynq-7000 All Programmable SoC處理系統(tǒng)時(shí),Vivado設(shè)計(jì)套件則會(huì)用正確的外設(shè)、驅(qū)動(dòng)程序和存儲(chǔ)器映射對(duì)處理系統(tǒng)進(jìn)行預(yù)配置,從而為開(kāi)發(fā)板提供支持。嵌入式設(shè)計(jì)團(tuán)隊(duì)現(xiàn)在能面向雙核ARM處理系統(tǒng)和高性能FPGA邏輯更迅速地識(shí)別、重用并集成IP軟/硬核。
用戶可通過(guò)一系列對(duì)話框指定處理系統(tǒng)及其邏輯之間的接口。IP Integrator隨后自動(dòng)生成RTL并針對(duì)性能或占用面積進(jìn)行優(yōu)化。接下來(lái)用戶能添加自己的定制邏輯,或用Vivado IP目錄完成設(shè)計(jì)。
我們非常高興看到賽靈思的客戶迄今為止使用賽靈思FPGA推出了那么多出色的Smarter Vision系統(tǒng)。賽靈思更加期待看到客戶使用Zynq-7000 All Programmable SoC和強(qiáng)大的Smarter Vision環(huán)境推出更出色的產(chǎn)品。鑒于過(guò)去大家已經(jīng)取得的出色成績(jī),我們相信未來(lái)一定會(huì)更加美好!
評(píng)論