详解Windows系统安装TensorRT

news/2024/11/3 22:47:34/

目录

  • 下载TensorRT
  • 安装TensorRT
  • 测试

TensorRT 是 NVIDIA 推出的一款高性能神经网络部署引擎.Windows系统下TensorRT目前不能简单直接通过pip指令自动下载安装, 安装之前还需要提前安装好 CUDACUDNN.

CUDA和CUDNN安装可参考:

  • 详解 Windows系统下安装 CUDA 与 CUDNN. 😢 准备中…
  • 超详细Windows安装PyTorch步骤. 🚀虽然这篇博客讲的是安装PyTorch, 但已经包含了所有的Windows系统下安装 CUDA 与 CUDNN步骤.

下载TensorRT

  1. 进入NVIDIA的TensorRT页面: https://developer.nvidia.com/tensorrt. 点击Download now, 进入TensorRT下载页面. PS: TensorRT页面需要先登录NVIDIA账号, 才会有下载选项.

在这里插入图片描述

  1. 选择版本, 这里博主选择最新的TensorRT 8.
    在这里插入图片描述
  2. 勾选"I Agree To the Terms of the NVIDIA TensorRT License Agreement"
    在这里插入图片描述
  3. 选择具体版本, 这里博主选择的是TensorRT 8.5 GA Update 2.
    在这里插入图片描述
  4. 选择Zip Packages for Windows下面和自己CUDA版本匹配的ZIP, 点击即可下载.
    在这里插入图片描述

安装TensorRT

  1. 解压下载的ZIP文件, 如下:
    在这里插入图片描述
  2. 从解压好的文件夹中复制文件到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6, 对应复制路径. PS: 此处的复制需要管理员权限. 此处CUDA的版本v11.6需要根据自身安装的情况而定.
序号所需复制文件来源目标
1…\TensorRT-8.5.3.1\bin\trtexec.exe…\TensorRT-8.5.3.1\binC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\bin
2…\TensorRT-8.5.3.1\include下的所有文件…\TensorRT-8.5.3.1\includeC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\include
3🌟…\TensorRT-8.5.3.1\lib下的所有lib文件…\TensorRT-8.5.3.1\libC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\lib\x64
4🌟…\TensorRT-8.5.3.1\lib下的所有dll文件…\TensorRT-8.5.3.1\libC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\lib
  1. 安装whl文件. 进入文件所在目录, 打开终端, 调用指令安装. PS: 安装时一定要注意whl文件的安装路径. 建议直接使用cd命令, 使终端进入到对应文件目录, 再使用 pip install *.whl 安装.
序号待安装whl文件所在文件夹安装指令
1graphsurgeon-0.4.6-py2.py3-none-any.whl…\TensorRT-8.5.3.1\graphsurgeonpip install graphsurgeon-0.4.6-py2.py3-none-any.whl
2onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl…\TensorRT-8.5.3.1\onnx_graphsurgeonpip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl
3uff-0.6.9-py2.py3-none-any.whl…\TensorRT-8.5.3.1\uffpip install uff-0.6.9-py2.py3-none-any.whl
4🌟tensorrt-8.5.3.1-cp38-none-win_amd64.whl 需根据自身python版本选择对应的文件…\TensorRT-8.5.3.1\pythonpip install tensorrt-8.5.3.1-cp38-none-win_amd64.whl

测试

在这里插入图片描述


⭐️👍🚀


http://www.ppmy.cn/news/76014.html

相关文章

使用Python中PDB模块中的命令来调试Python代码的教程

这篇文章主要介绍了使用Python中PDB模块中的命令来调试Python代码的教程,包括设置断点来修改代码等、对于Python团队项目工作有一定帮助,需要的朋友可以参考下 你有多少次陷入不得不更改别人代码的境地?如果你是一个开发团队的一员,那么你遇…

Qt Quick系列(2)—核心元素类型(1)

🚀作者:CAccept 🎂专栏:Qt Quick 文章目录 前言ItemRectangleTextImageMouseArea 总结 前言 Qt Quick的元素分为 1、视觉元素(如Rectangle)具有几何属性 2、非视觉元素(如Timer)提…

微波基础介绍

1、什么是微波 大家在高中物理中都学过电磁波,可见光、微波都是电磁波波段,如下图所示,可见光谱只占有宽广的电磁波谱的一小部分: 而我们这次的主角微波,是频率范围300MHz到3THz的电磁波(1THz1000GHz&…

AI人工智能预处理数据的方法和技术有哪些?

AI人工智能 预处理数据 在人工智能(Artificial Intelligence,简称AI)领域中,数据预处理是非常重要的一环。它是在将数据输入到模型之前对数据进行处理和清洗的过程。数据预处理可以提高模型的准确性、可靠性和可解释性。 本文将…

python+django植物园性毒源成分管理系统

在Internet高速发展的今天,我们生活的各个领域都涉及到计算机的应用,其中包括植物性毒源成分管理系统的网络应用,在外国植物性毒源成分管理系统已经是很普遍的方式,不过国内的植物性毒源成分管理可能还处于起步阶段。植物性毒源成…

YOLO NAS note 1

Git Hub: https://github.com/Deci-AI/super-gradients Yolo-Nas 的代码比YOLO v8 还恐怖。之前的YOLO数据可以通过: coco_detection_yolo_format_train, 和 coco_detection_yolo_format_val 自动转。 这里写目录标题 Train数据获取数据增强训练criteri…

js中的类

1、构造函数与类 class Person{// 构造函数// 构造函数在调用类,实例化对象时调用constructor(name,age){console.log(构造器被调用了!);console.log(name,age);// 在构造函数中,this表示当前所创建的对象// this.name对象的属性&#xff0c…

软件设计和架构设计

软件设计和架构设计 1.软件设计 1.1设计 设计是从架构 构件 接口以及系统其他特征定义的过程。 软件设计的结果必须描述系统的架构,系统如何分解和组织构件。 描述构件间的接口。 描述构件必须详细到可进一步构造的程度。 设计是把分析模型转换成设计模型的过…