盤點在使用openvino過程中遇到的一些問題，如何解決的-第4篇

OpenVINO是英特爾基于自身現(xiàn)有的硬件平臺開發(fā)的一種可以加快高性能計算機視覺和深度學(xué)習(xí)視覺應(yīng)用開發(fā)速度工具套件，支持各種英特爾平臺的硬件加速器上進行深度學(xué)習(xí)，并且允許直接異構(gòu)執(zhí)行。 支持在Windows與Linux系統(tǒng)，Python/C++語言。

主要特點：

在Intel平臺上提升計算機視覺相關(guān)深度學(xué)習(xí)性能達19倍以上

解除CNN-based的網(wǎng)絡(luò)在邊緣設(shè)備的性能瓶頸

對OpenCV，OpenXV*視覺庫的傳統(tǒng)API實現(xiàn)加速與優(yōu)化

基于通用API接口在CPU、GPU、FPGA等設(shè)備上運行加上

OpenVINO工具包(ToolKit)主要包括兩個核心組件，模型優(yōu)化器(Model Optimizer)和（Model Optimizer）

在這里盤點一些在使用中遇到的問題及怎么解決的。這是第4篇，之前3篇請見：

盤點在使用openvino過程中遇到的一些問題,如何解決的-第1篇

http://www.ex-cimer.com/article/202203/432548.htm

盤點在使用openvino過程中遇到的一些問題，如何解決的-第2篇

http://www.ex-cimer.com/article/202204/432865.htm

盤點在使用openvino過程中遇到的一些問題，如何解決的-第3篇

http://www.ex-cimer.com/article/202204/433278.htm

1.問：我在安裝openvino2021.2的時候，測試的時候出現(xiàn)了錯誤。我查過了，這個文件是存在的，但是打不開。visual版本是2019，cmake版本是3.23，python版本是3.7.9，可以請教一下這個問題怎么解決嗎？

答: 中文換掉呢？

2.問：有做過openvino  + OPENCV  c++ 預(yù)測的大佬么？我在安裝配置好后，感覺速度沒有提升，是哪里出了問題呢？有可以幫忙配置openvino  c+的朋友么？

答：說速度沒有提升，跟tfserving相比么

回復(fù)：cpu

答：這是編譯openvino? 沒搞過，只用openvino 轉(zhuǎn)換過模型， 利用ovms 來做推理

回復(fù)：不用，網(wǎng)上下載的，也配置了，但是編譯不過

答：編譯是費勁， 直接用ovms唄，docker鏡像

3.問：為什么這里沒有 r1i 的節(jié)點，我轉(zhuǎn)化的模型上明明有 r1i

答：openvino換2022試下，我之前也有個onnx節(jié)點不行 換2022就success了

回復(fù)：我查到我這個節(jié)點是動態(tài)節(jié)點，好像是這個原因

答：我vs用openvino也是和其他一樣 include頭文件+鏈接庫路徑+添加庫就行了。把2021卸了吧，2022他包的結(jié)構(gòu)變化蠻大的，可以試下

4.問：哪位遇到過這個問題??？包含這個文件后，編譯報錯

答：你vs里面是怎么報錯的呀

回復(fù)：看后面這張圖

答：我覺得這個error，好像也沾點版本的問題

回復(fù)：安裝過程沒問題，運行demo也運行起來了，按照教程弄的包含目錄和庫目錄，但是最后包含文件以后，就編譯不了。你是用的什么版本的vs

答：2019

回復(fù)：專業(yè)版？我用的15，我也是在擔心是不是版本的問題

答：就是免費的 社區(qū)版吧是，我意思是openvino的版本

回復(fù)：官網(wǎng)下的，官網(wǎng)主頁最低的版本2020.3吧，demo運行正確，py應(yīng)該是沒有問題的，所以懷疑是vs的版本不對

5.問：定義的時候報內(nèi)存錯誤，請問有遇到過的朋友么？

答：你檢查一下程序目錄是否有plugin.xml文件，我之前是因為缺少這個碰到過

回復(fù)：這個文件在哪里找呢？

答：建議try catch一下，看是否能獲取到有效的錯誤信息

回復(fù)：確實沒有

    try {

    }
    // -*- error -*- //

    catch (std::bad_alloc& e) {
        std::cerr << "BAD ALLOC Exception : " << e.what() << std::endl;
        return EXIT_FAILURE;
    }

    catch (const std::exception& e) {
        std::cerr << "Error: " << e.what() << std::endl;
        return EXIT_FAILURE;
    }

    catch (...) {
        std::cerr << "unknown exception" << std::endl;
        return EXIT_FAILURE;
    }

答：安裝目錄那里應(yīng)該有吧

回復(fù)：是這個原因，謝謝

6.問：執(zhí)行到這一行報錯，有朋友遇到過么？

答：環(huán)境配置問題或者模型格式和路徑問題

回復(fù)：有訓(xùn)練好的模型么？可以傳一份確定可以加載的模型排除一下問題么？

問：為啥是onnx文件路徑，onnx文件不是應(yīng)該轉(zhuǎn)換成bin和xml文件嗎

答：都可以

回復(fù)：onnx是可以的吧

答：release運行

回復(fù)：

答：那就是模型有問題

回復(fù)：用cv的dnn是可以加載的，有可以加載的模型么？

答：dnn和openvino用的格式不同，導(dǎo)出模型opset設(shè)置成10

回復(fù)：在轉(zhuǎn)換成onnx的代碼里面設(shè)置么？

6.問：openvino 支持哪些模型，可以在哪里查到，最好是官方發(fā)布的，百度上面的感覺不全面

答：可以參考這兩個列表：

https://docs.openvino.ai/latest/model_zoo.html

https://docs.openvino.ai/cn/latest/omz_models_group_public.html
文檔中也有關(guān)于這些模型支持任務(wù)的分類

7.問：樹莓派用python調(diào)用opencv打開攝像頭會報錯有沒有大佬能指點一下

答：500×700有點大，可以根據(jù)模型輸入大小調(diào)整下格式

8.問：這。。。。。按的算opencv還是openvino。。。。

答：現(xiàn)在openvino也支持arm了？，他們不應(yīng)該主要支持X86架構(gòu)嗎？

回復(fù)：arm是社區(qū)支持的 不是官方

9.問：有大神遇到這個報錯嗎

答：環(huán)境沒配好

答：你這個加載環(huán)境變量了嗎？官方demo可以跑成功嗎

10.問：openvino  能在集成顯卡上跑嗎

答：可以

回復(fù)：在集成顯卡上跑和cpu上跑差別大嗎

問：openvino  哪里設(shè)置集成顯卡跑

答：GPU

11.問：這個GNA  是集成顯卡嗎

答：不是，這個是Intel的神經(jīng)網(wǎng)絡(luò)加速棒

12.問：怎么用FP16做推理呢

這兩個地方改了不行，檢測的時候失敗了

是不是這個地方還要改呀，還是說模型需要轉(zhuǎn)換成FP16的

答：是的，你的模型要轉(zhuǎn)換為FP16格式?，F(xiàn)在模型是什么格式？FP32嗎？你用openvino的模型優(yōu)化器轉(zhuǎn)成fp16就可以啦

13.問：請問有沒有人將PB轉(zhuǎn)IR模型的時候，遇到這個問題

答：檢查一下安裝了模型優(yōu)化器的requirements.txt了嗎

14.問：運行Gpu加速識別的圖片時不時是這種花的是怎么回事呢

答：做訓(xùn)練還是推理呢？什么模型應(yīng)用呢？可以詳細描述一下嗎

回復(fù)：問題已經(jīng)解決了，是調(diào)用流程問題，圖片數(shù)據(jù)有錯亂

15.問：請教一下大家，CPU和核顯的速度差距大不大（電腦沒有核顯，YOLOv5s模型）

答：這個要看具體問題具體分析，不同代不同系列的cpu帶的核顯性能也不一樣