Arm/FPGA聯(lián)手發(fā)威　研華生產(chǎn)線大步邁入AI時代

　　人工智能(Artificial Intelligence, AI)無疑是近一兩年來科技產(chǎn)業(yè)內(nèi)最熱門的話題，除了科技業(yè)巨頭無不大力投入之外，金融等服務(wù)業(yè)者對導(dǎo)入人工智能，也展現(xiàn)出強烈興趣。制造業(yè)對AI技術(shù)的關(guān)注，也不在話下，并且在相關(guān)關(guān)鍵技術(shù)逐漸到位的情況下，已開始有實際導(dǎo)入動作。

　　倡導(dǎo)智能制造不遺余力的研華科技，除了為各行各業(yè)提供對應(yīng)的先進解決方案外，在自家生產(chǎn)在線也開始逐步導(dǎo)入人工智能要素。比如機臺設(shè)備的狀態(tài)偵測/診斷、原物料/能源的使用狀況，乃至產(chǎn)品的品管流程等，均已逐步導(dǎo)入人工智能。安謀(Arm)的硅智財(IP)與SoC及賽靈思(Xilinx)的現(xiàn)場可編程門陣列(FPGA)技術(shù)，則是研華推動生產(chǎn)線AI化的兩大得力幫手。

　　研華IoT.SENSE采訪研華技術(shù)長楊瑞祥與總廠長林東杰，探討研華在AI、IoT、智能制造等創(chuàng)新浪潮下的解決對策，以下為專訪摘要：

　　AI進化速度驚人 商業(yè)應(yīng)用價值可觀

　　研華科技技術(shù)長楊瑞祥表示，人工智能在學(xué)術(shù)研究領(lǐng)域并非新題目，近兩三年來之所以引發(fā)社會大眾與各行各業(yè)的廣泛矚目，主要原因在于其進化速度實在太過驚人，并已能創(chuàng)造出龐大的商業(yè)價值，不再只是個學(xué)術(shù)研究的題目。

　　除了針對特殊領(lǐng)域外，AI技術(shù)也在追求更高的泛用性。Deepmind最新的棋類程序已經(jīng)把Go(圍棋)拿掉，稱為Alpha。因為該程序也懂得下日本將棋等其他棋類，并且接連打敗其他世界頂尖的專用棋類程序。這無疑是人工智能泛用性發(fā)展的一個重要里程碑。

　　在快速演化與蘊藏龐大商業(yè)價值的情況下，人工智能成為當前最受矚目的科技議題，其實不令人意外。但討論歸討論，如何在各行各業(yè)導(dǎo)入人工智能，實現(xiàn)產(chǎn)業(yè)的智能化，還是有很多細節(jié)問題要克服。

　　人工智能增添智能制造動能

　　以制造業(yè)來說，不管最終制造的產(chǎn)品為何，制造業(yè)總是脫離不了「人、機、料、法」這四個元素。人是指員工，機則泛指各種工具機臺，料是指各種原物料及能源，法則是制程方法。自工業(yè)革命以來，不管制造業(yè)的產(chǎn)品如何演變，都脫離不了這四個元素。如何最優(yōu)化地管理好這四個元素，則是制造業(yè)者每天都要面對的課題。

　　楊瑞祥分析，導(dǎo)入人工智能，最重要的四個KPI，就是要展現(xiàn)在人工料法的優(yōu)化與改善上。以人來說，如何將老師傅的經(jīng)驗變成可量化的參數(shù)，進而把人的經(jīng)驗復(fù)制、擴散，就是導(dǎo)入AI的一個重要目標。

　　不過，要實現(xiàn)上述四大優(yōu)化，最重要的還是業(yè)者對AI的理解程度，以及所搜集到的數(shù)據(jù)集質(zhì)量好壞。首先，制造業(yè)者必須要對AI有正確的認識，知道AI適合用來處理的問題為何，應(yīng)用上又有何限制。其次，AI推論模型的訓(xùn)練成果，除了模型本身的設(shè)計外，訓(xùn)練數(shù)據(jù)的質(zhì)量也很重要。如果用質(zhì)量有問題的數(shù)據(jù)來訓(xùn)練模型，AI推論的結(jié)果會跟現(xiàn)實狀況出現(xiàn)落差。

　　最后，組織文化也得有所調(diào)整。在導(dǎo)入AI之前，生產(chǎn)在線的所有決策者都是人，依靠的是過往的經(jīng)驗;導(dǎo)入AI后，握有最終決定權(quán)的雖然還是人，但不再只憑主觀的感覺或經(jīng)驗來判斷，而是相對客觀的統(tǒng)計科學(xué)。人跟機器之間的信賴關(guān)系，需要一段時間提升。當然，AI本身也要持續(xù)進化，提升其預(yù)測的可靠度跟準確度。

　　不同處理器各有所長 Arm架構(gòu)適合推論運算

　　楊瑞祥進一步解釋，人工智能可以分成模型訓(xùn)練(Training)與推論(Inference)兩個部分。對生產(chǎn)現(xiàn)場應(yīng)用來說，大多是采用已經(jīng)訓(xùn)練好的模型來執(zhí)行各種推論應(yīng)用，不會直接在邊緣進行模型訓(xùn)練，因為模型訓(xùn)練需要強大的運算效能跟大量數(shù)據(jù)集，較適合在數(shù)據(jù)中心或云端上進行。

　　也因為推論對運算效能的需求較低，因此市面上有許多現(xiàn)成的處理器解決方案均能勝任，例如x86 CPU、GPU與基于Arm架構(gòu)的SoC處理器，都可以執(zhí)行相關(guān)運算任務(wù)，差別只在于成本、耗電量與散熱是否能滿足現(xiàn)場設(shè)備的規(guī)格限制。

　　就技術(shù)角度而言，GPU是目前最適合用來進行模型訓(xùn)練的處理器架構(gòu)，以其執(zhí)行模型推論任務(wù)當然也是綽綽有余，但GPU的成本、功耗跟隨之而來的散熱問題，卻是這類處理器在邊緣節(jié)點或現(xiàn)場設(shè)備應(yīng)用上最大的限制。x86 CPU也有很強大的運算效能，但由于其架構(gòu)設(shè)計的目標是滿足各種運算/控制應(yīng)用，因此在執(zhí)行AI算法時，效率不如GPU。

　　楊瑞祥分析，這個問題跟AI的本質(zhì)有關(guān)。AI通常只會用少數(shù)幾種指令，甚至單一指令來處理大量數(shù)據(jù)。例如深度學(xué)習(xí)跟卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network, CNN)，就數(shù)學(xué)的觀點來說就是矩陣運算，跟繪圖運算十分類似，因此GPU自然在這方面有先天優(yōu)勢。x86 CPU則長于應(yīng)對多指令流多數(shù)據(jù)流(Multiple Instruction, Multiple Data, MIMD)的運算情境，但遇到數(shù)據(jù)量太過龐大的情況時，就必須靠拉高頻率，或是以多核心及多線程架構(gòu)來應(yīng)對。

　　采用精簡指令集(RISC)的Arm處理器，先天特性則介于GPU跟x86 CPU之間，加上近幾年Arm處理器的單一指令多數(shù)據(jù)流(Single Instruction, Multiple Data, SIMD)效能不斷強化，因此在執(zhí)行AI運算時，更加得心應(yīng)手。雖然目前要以Arm處理器來做模型訓(xùn)練，在效率上還是不能跟GPU相比，但在執(zhí)行推論任務(wù)時，卻是功耗、成本跟效能三者最平衡的方案。

　　楊瑞祥透露，近幾年研華跟安謀密切合作，對安謀的產(chǎn)品發(fā)展藍圖也有一定的掌握。未來安謀將會針對AI運算需求推出更特化，效率更好的處理器核心跟周邊IP。這對于推動邊緣運算跟AI應(yīng)用的普及，將會是很大的助力。研華也會跟安謀繼續(xù)保持密切合作的伙伴關(guān)系。

　　邊緣運算進展神速 人工智能進駐制造現(xiàn)場

　　緊抓人工料法四大要素，研華已經(jīng)開始以Arm架構(gòu)的SoC跟賽靈思的FPGA模塊為硬件基礎(chǔ)，在自家的生產(chǎn)在線逐漸導(dǎo)入人工智能。

　　研華科技總廠長林東杰表示，目前研華在生產(chǎn)在線導(dǎo)入AI，已經(jīng)進入用AI來協(xié)助判讀原始資料的階段。在工業(yè)物聯(lián)網(wǎng)的時代，不只個別生產(chǎn)在線的機臺會產(chǎn)生大量數(shù)據(jù)，廠區(qū)的基礎(chǔ)建設(shè)也會生成可觀的數(shù)據(jù)數(shù)據(jù)量。要用人工來判讀這些數(shù)據(jù)數(shù)據(jù)，分析其背后的意義，是沒有時效性且效益有限的做法。

　　最后，由于研華所處的環(huán)境是典型的少量多樣、接單生產(chǎn)型態(tài)，跟一般消費性產(chǎn)品規(guī)格單一，大量生產(chǎn)有很大的不同，因此生產(chǎn)線的管理也相對復(fù)雜。這也是研華在導(dǎo)入人工智能時，希望能解決的痛點之一。

　　林東杰表示，由于技術(shù)上的限制，目前還無法實現(xiàn)全面由系統(tǒng)判讀原始數(shù)據(jù)的終極目標，但這是研華未來努力的方向。

　　更具體來說，未來研華的智能制造希望能實現(xiàn)三大目標：一、生產(chǎn)設(shè)備的現(xiàn)代化，希望所有的機臺設(shè)備都可以支持工業(yè)4.0;二、實現(xiàn)數(shù)據(jù)采集與軟件的介接，主要是將數(shù)據(jù)介接到制造執(zhí)行系統(tǒng)(MES)、產(chǎn)品生命周期管理(PLM)等系統(tǒng);三、將機器視覺與深度學(xué)習(xí)進一步擴大應(yīng)用在品管環(huán)節(jié)中。

　　針對第一點，林東杰不諱言，現(xiàn)有機臺的升級跟改造通常要價不低，特別是在需要原廠提供支持或授權(quán)，不能自己動手改的情況下。不過，在某些情況下，現(xiàn)有機臺透過外掛研華自家開發(fā)的數(shù)據(jù)采集模塊，就已經(jīng)能獲得足夠的參數(shù)數(shù)據(jù)。

　　至于在機器視覺跟深度學(xué)習(xí)的擴大導(dǎo)入上，目前研華是與中研院合作，開發(fā)出可檢測各種不同產(chǎn)品的機器視覺系統(tǒng)。事實上，研華使用光學(xué)自動檢測(AOI)已經(jīng)有很長的一段時間，但現(xiàn)有的AOI系統(tǒng)僅適用于主板、電路板上細微組件的檢測，不適合用來檢測終端成品或更大的零部件。

　　另一方面，研華產(chǎn)品少量多樣的特性，也使得目前市面上的機器視覺方案要應(yīng)用在研華的產(chǎn)線，遇到相當大的困難。目前市面上的機器視覺方案多半是為了大量產(chǎn)品的檢測需求而設(shè)計，但研華的需求是能夠自動適應(yīng)各種產(chǎn)品型態(tài)的機器視覺檢測方案。因此，研華決定與中研院合作，開發(fā)出客制化的深度學(xué)習(xí)算法，以便讓機器視覺系統(tǒng)能更聰明地適應(yīng)不同型態(tài)的產(chǎn)品。

　　FPGA模塊實現(xiàn)機器視覺算法加速

　　而機器視覺正是FPGA模塊大展身手的舞臺，也是研華FPGA應(yīng)用發(fā)展團隊已經(jīng)做出具體成果的項目之一。透過FPGA模塊，研華可以自由決定哪些影像辨識的環(huán)節(jié)需要用硬件加速，以提升視覺檢測系統(tǒng)的運作效能。

　　楊瑞祥指出，除了CPU跟GPU外，使用專用的硬件加速芯片來提升AI系統(tǒng)效能，理論上也是一條可行的路。不過，目前AI算法還在快速演進中，如果采用ASIC，很可能會追不上技術(shù)發(fā)展的腳步。而FPGA則是效能與彈性的折衷，其運算單元的結(jié)構(gòu)可以客制化，來滿足特定算法加速的需求，又因為具備可編程性，當算法需要修改或更新的時候，不用重新開一顆芯片，只要修改設(shè)計程序代碼即可。

　　因此，現(xiàn)階段來看，F(xiàn)PGA是用來實現(xiàn)AI算法加速的理想方案之一，研華內(nèi)部也已經(jīng)有相當成熟的FPGA應(yīng)用開發(fā)團隊，未來會繼續(xù)投資在這項技術(shù)上。

　　Advantech Embedded DTOS FPGA Capability

　　據(jù)悉，目前研華科技已有應(yīng)用案例完成合作，更多詳情可咨詢研華服務(wù)專線“400-001-9088”。