下载快手极速版最新版本2020领现金,快手极速版下载2022年最新版免费如何领钱

蓝字关注快手极速版下载2022年最新版免费如何领钱我们

微信公众号：OpenCV学堂

关注获取更多计算机视觉与深度学习知识

ONNXRUNTIME

一直使用快手极速版下载2022年最新版免费如何领钱的是ONNXRUNTIME1.7.0版本做推理测试快手极速版下载2022年最新版免费如何领钱，周末有空就把ONNXRUNTIME版本从1.7.0升级到1.13.1版本快手极速版下载2022年最新版免费如何领钱了。

升级导致的问题

发现C++部分的代码没有什么变化，有个获取输入输入层名称跟输出层名称的函数没有啦，之前1.7.1对应的获取输入层跟输出层的函数方法如下：

session_.GetInputName(i, allocator);

session_.GetOutputName(i, allocator);

升级到1.13.1版本之后，上面的函数没快手极速版下载2022年最新版免费如何领钱了，只有下面的函数：

session_.GetInputNameAllocated(i, allocator);

session_.GetOutputNameAllocated(i, allocator);

修改之后，我依然跟之前一样把输入名称跟输出名称保存在两个全局的std::vector里面，然后推理的时候直接作为参数传入，然后我就一直遇到推理错误，一直报input node is empty 或者invalid input node，程序直接崩溃了。 以YOLOv5模型为例，错误信息如下：

错误分析

没升级之前的代码是这样的

std::vectoroutput_bad_names;

for( inti = 0; i < numOutputNodes; i++) {

autoout_name = session_. GetOutputName (i, allocator);

output_bad_names.push_back(out_name.get);

}

正常工作没错误！升级之后代码是这样的

std::vectoroutput_bad_names;

for( inti = 0; i < numOutputNodes; i++) {

autoout_name = session_.GetOutputNameAllocated(i, allocator);

output_bad_names.push_back(out_name.get);

}

然后我在推理之前打印了一下这个output_bad_names这个数组，打印代码如下：

for( autoitem : output_bad_names) {

std:: cout<< "output node:"<< item << std:: endl;

}

输出的结果如下：

而且我还注意到并不是每次打印输出的结果并不一致，相当随机。有时候会正确推理一次。多数时候都直接挂了。所以我很怀疑

autoout_name = session_.GetOutputNameAllocated(i, allocator);

获取的AllocatedStringPtr指针是个临时变量，过了for循环之后会随机释放掉，然后我定义了一个全局的变量来测试一下，

constchar*ddd = "Hello World";

for( inti = 0; i < numOutputNodes; i++) {

auto out_name = session_.GetOutputNameAllocated(i, allocator);

ddd = out_name. get;

output_bad_names.push_back(out_name. get);

}

运行一下，输出结果如下：

看来GetOutputNameAllocated返回的必须作为全局变量才行，Bug捉到了！

代码修改与测试

解决的方法很简单就是把查询到这些节点名称全部复制一份到一个全局的std::vector对象中去，这样就算返回的临时变量被复写或者或者变化了，不会影响到保存好的全局变量。先初始化一下定义的std::vector的输入与输出节点数组：

size_tnumInputNodes = session_.GetInputCount;

size_tnumOutputNodes =session_.GetOutputCount;

for( inti = 0; i < numInputNodes; i++) {

input_node_names.push_back( std:: string( ""));

}

for( inti = 0; i < numOutputNodes; i++) {

output_node_names.push_back( std:: string( ""));

}

然后读取输出节点保存一下：

for( inti = 0; i < numOutputNodes; i++) {

autoout_name = session_.GetOutputNameAllocated(i, allocator);

output_node_names[i].append(out_name.get);

}

然后在推理之前创建临时变量就好啦：

conststd::arrayinputNames = { input_node_names[ 0].c_str };

conststd::arrayoutNames = { output_node_names[ 0].c_str, output_node_names[ 1].c_str, output_node_names[ 2].c_str, output_node_names[ 3].c_str };

然后就可以直接推理了：

std::vectorort_outputs = session_.Run(Ort::RunOptions{ nullptr}, inputNames.data, &input_tensor_, 1, outNames.data, outNames.size);

启动ONNXRUNTIEM推理可以运行了， KeyPointRCNN+ONNXRUNTIEM C++ 的推理演示如下：

CPU与GPU推理

我下载了ONNXRUNTIEM1.13.1的GPU版本，然后使用CPU推理，发现速度比Python版本快了那么一点点，显示如下：

启动GPU选项之后的推理速度：

GPU版本如何启动

关于ONNXRUNTIEM1.13.1 GPU版本如何启动下载GPU版本下面有三个dll支持

onnxruntime.dll

onnxruntime_providers_cuda.dll

onnxruntime_providers_shared.dll

onnxruntime.dll是核心依赖库。

onnxruntime_providers_cuda.dll是跟版本匹配 CUDA加速才启作用。

onnxruntime_providers_shared.dll表示支持兼容低版本 CUDA比。

ONNXRUNTIEM1.13.1 GPU官方支持的是11.6版本，而我自己安装的版本是11.3，必须把上述三个dll文件放到项目文件夹下或者把路径配置到环境变量中去。启动GPU添加下面的代码：

this->session_options.SetGraphOptimizationLevel(ORT_ENABLE_BASIC);

OrtSessionOptionsAppendExecutionProvider_CPU( this->session_options, 0);

这样就可以启用GPU运行了，当没有GPU它会自动转到CPU模式去推理，真的很开发者友好。

扫码查看OpenCV+OpenVIO+Pytorch系统化学习路线图

CV全栈开发者说 - 从传统算法到深度学习怎么修炼

2022入坑深度学习，我选择Pytorch框架！

Pytorch轻松实现经典视觉任务

教程推荐 | Pytorch框架CV开发-从入门到实战

OpenCV4 C++学习 必备基础语法知识三

OpenCV4 C++学习 必备基础语法知识二

OpenCV4.5.4 人脸检测+五点landmark新功能测试

OpenCV二值图象分析之Blob分析找圆

OpenCV4.5.x DNN + YOLOv5 C++推理

OpenCV4.5.4 直接支持YOLOv5 6.1版本模型推理

OpenVINO2021.4+YOLOX目标检测模型部署测试

比YOLOv5还厉害的YOLOX来了，官方支持OpenVINO推理