ncnn 推理框架安装；onnx转ncnn

参考：
https://zhuanlan.zhihu.com/p/394762128

1、安装（ubuntu测试、安装opencv对应包libopencv-dev）

参考：https://github.com/Tencent/ncnn/wiki/how-to-build#build-for-linux

## 前置关联包安装（如果安装过程有错误，可以 sudo apt-get update后再运行）
sudo apt install build-essential git cmake libprotobuf-dev protobuf-compiler libvulkan-dev vulkan-utils libopencv-dev

## 下载git项目
git clone https://github.com/Tencent/ncnn.git

## 编译
cd ncnn 
mkdir build 
cd build 
​

cmake -DCMAKE_BUILD_TYPE=Release ..  ###这步运行如果OpenCV没安好，一些案例后面会用不了，索引需要重新去安装OpenCV后再来cmake编译，参考https://blog.csdn.net/sinat_29957455/article/details/108830085


make -j32

测试（这个如果前面OpenCV没安装好编译后这个案例会运行不了报错）

cd ../examples 
​
../build/examples/squeezenet ../images/256-ncnn.png

性能测试

cd ../benchmark 
​
## 第四个参数是 GPU deive index 
## 若要使用 CPU，设置第五个参数为 -1  
../build/benchmark/benchncnn 10 32 0 0 

2、onnx转ncnn（用编译后的转换工具）

进入ncnn/build/tools/onnx下

./onnx2ncnn /data/loong/triton_test/model_repository/clip_onnx/1/model.onnx model.param model.bin