OpenVINO問(wèn)題集之二

一. 如何在使用Model Optimizer轉(zhuǎn)模型的時(shí)候截取子網(wǎng)絡(luò)？

運(yùn)行mo.py腳本時(shí)指定 –input和--output參數(shù)為要截取的網(wǎng)絡(luò)的輸入和輸出節(jié)點(diǎn)即可，請(qǐng)參考：鏈接

二. OpenVINO能轉(zhuǎn)換Tensorflow2.0的模型嗎？

從2020.4開(kāi)始支持Tensorflow2.2.0。

三. 模型優(yōu)化器可以將模型轉(zhuǎn)換成INT8精度嗎？

不可以，INT8量化可以使用OpenVINO中的Post Training Optimization Toolkit，參考：鏈接

四. 模型優(yōu)化器對(duì)模型做了哪些優(yōu)化？

請(qǐng)參考： 鏈接

五. 模型優(yōu)化器如何轉(zhuǎn)換Tensorflow Object Detection API模型？

請(qǐng)參考： 鏈接

六. 在OPENVINO中如何將Caffe開(kāi)源框架訓(xùn)練出來(lái)的模型轉(zhuǎn)為IR格式？

請(qǐng)參考： 鏈接

七. 自己訓(xùn)練的Bert模型轉(zhuǎn)換成功，但是使用Inference Engine加載模型時(shí)出錯(cuò)：

模型轉(zhuǎn)換命令：
python mo_tf.py
--input_model xxx.pb
--disable_nhwc_to_nchw
--input IteratorGetNext:0,IteratorGetNext:1,IteratorGetNext:4
--input_shape [1,128],[1,128],[1,128]

原因調(diào)查：從PB文件中可以查看到OneHot的Indices輸入是Reshape2，該節(jié)點(diǎn)在pb中是int32，轉(zhuǎn)換以后變成float32

解決方案：轉(zhuǎn)換模型時(shí)添加數(shù)據(jù)類型信息
python mo_tf.py
--input_model xxx.pb
--disable_nhwc_to_nchw
--input IteratorGetNext:0{i32},IteratorGetNext:1{i32},IteratorGetNext:4{i32}
--input_shape [1,128],[1,128],[1,128]
參考鏈接：鏈接

八. PyTorch轉(zhuǎn)ONNX，再轉(zhuǎn)IR時(shí)，Unsample操作轉(zhuǎn)不了

解決方案：Pytorch轉(zhuǎn)ONNX時(shí)，指定opset_version=10是可以的。（2020.3之前版本中測(cè)試通過(guò)）