（原）Ubuntu安装TensorRT

潇湘竹 發表於 2019-7-3 22:20:00

转载请注明出处：
https://www.cnblogs.com/darkknightzh/p/11129472.html
参考网址：
https://docs.nvidia.com/deeplearning/sdk/tensorrt-install-guide/index.html
https://arleyzhang.github.io/articles/7f4b25ce/
https://docs.nvidia.com/deeplearning/sdk/cudnn-install/index.html
<h1>1 说明</h1>
1.1 直接使用deb安装的。不过不记得之前cuda驱动是如何安装的了。网上说cuda驱动和TensorRTF都是deb安装的才行。。。
1.2 安装环境是ubuntu 16.04.1+anaconda（python3.6.8）+cuda9.0+cudnn7.5
<h1>2 安装步骤</h1>
2.1 sudo dpkg -i nv-tensorrt-repo-ubuntu1604-cuda9.0-trt5.1.5.0-ga-20190427_1-1_amd64.deb
2.2 sudo apt-key -add /var/nv-tensorrt-repo-cuda9.0-trt5.1.5.0-ga-20190427/7fa2af80.pub
<img src="https://img2018.cnblogs.com/blog/682463/201907/682463-20190703221421508-2113183792.png" alt="">
2.3 sudo apt-get update
2.4 sudo apt-get install tensorrt
至此，TensorRTF安装完成。
2.5 通过下面命令检查一下是否安装成功：
<div class="cnblogs_code">
<pre>dpkg -l | grep TensorRT</pre>
</div>
<img src="https://img2018.cnblogs.com/blog/682463/201907/682463-20190703221440856-1267528097.png" alt="">
2.6 通过下面命令安装（不知道是啥，反正安装就对了）：
<div class="cnblogs_code">
<pre>sudo apt-get install python3-libnvinfer-dev</pre>
</div>
<img src="https://img2018.cnblogs.com/blog/682463/201907/682463-20190703221452317-2079461425.png" alt="">
2.7 到上面，python里面无法import tensorrt。直接使用ubuntu自带的archive manager打开nv-tensorrt-repo-ubuntu1604-cuda9.0-trt5.1.5.0-ga-20190427_1-1_amd64.deb文件，可以看到里面有python3.6的XXX。通过下面命令安装该whl文件。
<div class="cnblogs_code">
<pre>pip install tensorrt-5.1.5.0-cp36-none-linux_x86_64.whl</pre>
</div>
<img src="https://img2018.cnblogs.com/blog/682463/201907/682463-20190703221509892-98220158.png" alt="">
<img src="https://img2018.cnblogs.com/blog/682463/201907/682463-20190703221525904-1028622323.png" alt="">
2.8 验证python能否导入tensorrt（此处成功）：
<img src="https://img2018.cnblogs.com/blog/682463/201907/682463-20190703221545199-1088529574.png" alt="">
2.9 安装PyCUDA。
PyCUDA允许python直接访问CUDA的API。
首先保证nvcc在PATH路径中。而后输入：
<div class="cnblogs_code">
<pre>pip install 'pycuda>=2017.1.1'</pre>
</div>
2.10 验证程序能否运行（见下面网址）
https://arleyzhang.github.io/articles/7f4b25ce/
可以把 tensorrt 文件夹拷贝到用户目录下，方便自己修改测试例程中的代码。
进入 samples 文件夹直接 make，会在 bin 目录中生成可执行文件，可以一一进行测试学习。
运行了sample_mnist，结果如下：
<img src="https://img2018.cnblogs.com/blog/682463/201907/682463-20190703221617426-2060555616.png" alt="">
<h1>3 卸载</h1>
具体见网址：
https://docs.nvidia.com/deeplearning/sdk/tensorrt-install-guide/index.html#uninstalling
<div class="cnblogs_code">
<pre>sudo apt-get purge "libnvinfer*"
pip uninstall tensorrt</pre>
</div>
<h1>4 其他</h1>
4.1 cudnn使用deb安装：
说明：不建议使用这种方式安装。
Navigate to your <cudnnpath> directory containing cuDNN Debian file.
Install the runtime library, for example:
<div class="cnblogs_code">
<pre>sudo dpkg -i libcudnn7_7.0.3.11-1+cuda9.0_amd64.deb</pre>
</div>
Install the developer library, for example:
<div class="cnblogs_code">
<pre>sudo dpkg -i libcudnn7-devel_7.0.3.11-1+cuda9.0_amd64.deb</pre>
</div>
Install the code samples and the cuDNN Library User Guide, for example:
<div class="cnblogs_code">
<pre>sudo dpkg -i libcudnn7-doc_7.0.3.11-1+cuda9.0_amd64.deb</pre>
</div>
4.2 使用tar文件安装 
Navigate to your <cudnnpath> directory containing the cuDNN Tar file.
Unzip the cuDNN package.
<div class="cnblogs_code">
<pre>tar -xzvf cudnn-9.0-linux-x64-v7.tgz</pre>
</div>
Copy the following files into the CUDA Toolkit directory, and change the file permissions.
<div class="cnblogs_code">
<pre>sudo cp cuda/include/cudnn.h /usr/local/cuda/include
sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64
sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn*</pre>
</div>
4.3 测试cudnn是否安装成功
1）/usr/src/cudnn_samples_v7放到home文件夹下。
2）cd mnistCUDNN/
3）make
<img src="https://img2018.cnblogs.com/blog/682463/201907/682463-20190703221852003-1181697583.png" alt="">
4）./mnistCUDNN
<img src="https://img2018.cnblogs.com/blog/682463/201907/682463-20190703221909650-1874400492.png" alt="">
出错了。。。
原因是之前/usr/local/cuda中cudnn用的是7.4.2版本的。替换为7.5之后，运行成功。（实际上在/usr/lib/x86_64-linux-gnu中有刚刚使用deb装上的7.5版本的cudnn，但是程序未能找到。不知道目前有两套相同版本的cudnn，以后会不会出问题吧。。。所以不建议使用deb安装，位置不可控）
<img src="https://img2018.cnblogs.com/blog/682463/201907/682463-20190703221933390-897046453.png" alt=""> 
来源：https://www.cnblogs.com/darkknightzh/p/11129472.html

頁: [1]

琼殿技术论坛's Archiver

（原）Ubuntu安装TensorRT