Tony 发布的文章
随笔

pytorch迁移学习基准测试

pytorch提供多种预训练模型可以用于图像分类任务中的训练和测试，下面提供它的训练和测试代码：

注意训练所用的图像目录结构必须是： data/train/a b .. data/val/a b .. ，a b 为不同类别的文件目录

阅读全文
2019-05-03 995 次浏览
随笔

使用C++调用并部署pytorch模型（一）

首先简述一下整体思路：

目的：使用C++及多线程可以加快模型预测速度

关于模型训练有两种方法，一种是直接使用C++编写训练代码，可以做到搭建完整的网络模型，但是无法使用迁移学习，而迁移学习是目前训练样本几乎都会用到的方法，另一种是使用python代码训练好，模型，并使用JIT技术,将python模型导出为C++可调用的模型，这里具体介绍第二种。

阅读全文
2019-03-23 4058 次浏览
机器学习

TensorRT4.0 Aanconda3.6安装使用(一)

　　TensorRT是Nvdia推出的专门针对部署阶段进行加速的驱动，可用于加速模型推断，提供C++和Python接口，支持tensorflow和caffe框架，目前最新版本是4.0。

  1. 安装

　　我的环境是ubuntu Server 16 , anaconda3.6(官方推荐的python版本是2.7或3.5)，CUDA9.0+cuDNN7.1（必要）。

　　首先下载TensorRT4.0的安装包，我选择的是基于cuda9.0的tar格式安装包。

　　解压文件：

 tar -xzvf TensorRT-4.0.1.6.Ubuntu-16.04.4.x86_64-gnu.cuda-9.0.cudnn7.1.tar.gz

修改本地环境变量：

 vim ~/.bashrc

　　添加 :

export LD_LIBRARY_PATH="$LD_LIBRARY_PATH:~/TensorRT-4.0.1.6/lib:/usr/local/cuda-9.0/lib64"

刷新生效：

 source ~/.bashrc

　　然后安装python库：

cd ~/TensorRT-4.0.0.16/python 
pip install tensorrt-4.0.0.16-cp35-cp35mu-linux_x86_64.whl

　　如果无法安装，请把文件名修改为:tensorrt-4.0.0.16-cp36-cp36mu-linux_x86_64.whl

　　用同样的方法安装UFF，graphsurgeon的python安装包

   cd ~/TensorRT-4.0.1.6/uff
   cd ~/TensorRT-4.0.1.6/graphsurgeon

　　import tensorrt as trt 测试python版本安装是否正确。由于是python3.6版本的，所以会无法导入某些包。我的处理办法是修改库目录的.so文件名：

cd ~/anaconda3/lib/python3.6/site-packages/tensorrt

　　搜索.so文件，将例如_nv_utils_bindings.cpython-35m-x86_64-linux-gnu.so修改为_nv_utils_bindings.cpython-36m-x86_64-linux-gnu.so即可解决问题。

　　最后测试C++接口：

cd ~/TensorRT-4.0.1.6/targets/x86_64-linux-gnu/samples/sampleMNIST
make CUDA_INSTALL_DIR=/usr/local/cuda
cd ~/TensorRT-4.0.0.16/bin
./sample_mnist

　　输出：

捕获.JPG

　　到此TensorRT安装成功。

官方文档：https://docs.nvidia.com/deeplearning/sdk/tensorrt-developer-guide/index.html

阅读全文
2018-07-03 4562 次浏览