英伟达

前言：很多小伙伴在选择CUDA版本和cudnn版本上有疑问，这里简短的说一下，希望能帮到各位小伙伴，我在网上看到有人说，要根据自己的显卡来选择CUDA，其实是错误的，你可以下载自己所需要的CUDA版本,这只是个驱动而已。CUDA的版本和cundd的版本要对应，不然可能会有不兼容报错。CUDA是显卡驱动程序，cundd是用来加速深度学习训练的库，在训练网络时，使用GPU加速，会调CUDA驱动和cudnn库，安装时两者要联系起来，本文的第二步，就是做这个事。 系统环境：windows10 64位 显卡：GTX1060 CUDA版本:cuda_9.0.176_win10（配套的cudnn一定要是7版本） 下载地址： https://developer.nvidia.com/cuda-90-download-archive CUDNN版本:cudnn-9.0-windows10-x64-v7（7版本的） 下载地址： https://developer.nvidia.com/cudnn TensorFlow-gpu版本：TensorFlow1.7（1.6和1.5也支持） 1.下载CUDA, https://developer.nvidia.com/cuda-90-download-archive 按照自己机器的信息选择，下图是我自己机器信息： 下载完之后直接点击运行，会自行安装

0. 综述 电脑型号：R720 Ubuntu版本：16 显卡型号：1050ti 目前，知道3种安装N卡驱动的方法： 1. PPA源：最简便，但未必有最新驱动（亲测），或可能遇到问题（风闻）。 sudo add-apt-repository ppa:xorg-edgers/ppa #添加ppa源 sudo add-apt-repository ppa:graphics-drivers/ppa #添加ppa源 sudo apt-get update #更新apt-get 然后进入：系统设置->软件和更新->附件驱动，选择更新的显卡驱动。 2. 安装CUDA时，顺便安装驱动：但未必是最新驱动（亲测）。 3. 去官网下载最新驱动，然后本地安装（本文用runfile）。 1. 先卸载原有N卡驱动 #for case1: original driver installed by apt-get: sudo apt-get remove --purge nvidia* #for case2: original driver installed by runfile: sudo chmod +x *.run sudo ./NVIDIA-Linux-x86_64-384.59.run --uninstall 如果原驱动是用apt-get安装的，就用第1种方法卸载。 如果原驱动是用runfile安装的

1 、什么是CUDA CUDA(ComputeUnified Device Architecture)，是显卡厂商NVIDIA推出的运算平台。 CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。 2 、什么是CUDNN NVIDIA cuDNN是用于深度神经网络的GPU加速库。它强调性能、易用性和低内存开销。NVIDIA cuDNN可以集成到更高级别的机器学习框架中，如谷歌的Tensorflow、加州大学伯克利分校的流行caffe软件。简单的 插入式设计 可以让开发人员专注于设计和实现神经网络模型，而不是简单调整性能，同时还可以在GPU上实现高性能现代并行计算。 3、CUDA与CUDNN的关系 CUDA看作是一个工作台 ，上面配有很多工具，如锤子、螺丝刀等。 cuDNN是基于CUDA的深度学习GPU加速库 ，有了它才能在GPU上完成深度学习的计算。它就相当于工作的工具，比如它就是个扳手。但是CUDA这个工作台买来的时候，并没有送扳手。想要在CUDA上运行深度神经网络，就要安装cuDNN，就像你想要拧个螺帽就要把扳手买回来。这样才能使GPU进行深度神经网络的工作，工作速度相较CPU快很多。 cuDNN是一个SDK，是一个专门用于神经网络的加速包，注意， 它跟我们的CUDA没有一一对应的关系

　　Nvidia 在苏州举行的 GTC 大会中，CEO 黄仁勋除了带来花费 4 年、耗资数十亿美元打造的重磅新产品：<strong>自动驾驶和机器人芯片 Orin </strong>外，更是妙语如珠地回答了所有媒体想知道的问题。 　　值得注意的是，<strong>黄仁勋在媒体会后独家对问芯 Voice 解答了之前市场上传言沸腾的下一代 7nm 芯片上，台积电和三星的代工订单之争。</strong> 　　<strong>黄仁勋对问芯 Voice 表示，下一代 7nm 订单绝大多数都会交给台积电操刀，只有非常非常非常小的订单比例是给三星，这样的分配是基于一些技术蓝图进程的考虑，基本上，在 7nm 芯片订单的分配上，绝对是台积电独大。</strong> 　　外传 Nvidia 在下一代 7nm 工艺芯片上，除了台积电，也将三星纳入作为代工来源，也是因为与黄仁勋 “情同父子” 的台积电创办人张忠谋退休后，可以较 “无顾虑” 地增加更多代工厂，以获得比较好的代工价格。 　　黄仁勋对问芯 Voice 表示，绝对不是如此，因为<strong>他与 C.C.（台积电总裁魏哲家）和Ｍark（台积电董事长刘德音）都是非常好的朋友，彼此合作关系非常紧密，可以说，没有台积电，Nvidia 不会这么成功，台积电是 Nvidia 非常重要的合作伙伴。</strong> 　　<strong>Nvidia 下一代

在黄仁勋看来，随着摩尔定律消亡，GPU加速才是撬动未来高性能计算发展的有力杠杆。有数据显示，目前NVIDIA已经销售了超过15亿块GPU，而这些GPU由于采用了同一架构，均能兼容CUDA。 不仅仅如此，身着经典皮衣的黄教主更认为硬件的“登峰造极”不仅仅局限于芯片，只有软件得到相应性能的完整优化，未来的多GPU才能彰显最出色的处理能力。 基于此，NVIDIA在CUDA平台上配置了相当丰富的软件库，并且选择在去年一整年推出了超过500个相应的SDK以及库来不断改进NVIDIA的软件栈。有数据显示，通过这些专门的SKU，NVIDIA的产品在过去三年的深度学习性能提升了4倍，而深度学习推理性能也相应提升了2倍。 列举如此多样的软件升级，要说目前实在硬核的NVIDIA软件创新，当属最新一代推理软件开发套件NVIDIA TensorRT 7编译器的推出。 晶少了解到，TensorRT作为一种计算图优化编译器能够优化推理实现实时AI会话，将TensorFlow的输出结果进行优化，简单理解位可以高效寻找计算途中可以融合的节点，从而减少计算和内容的访问来进行CUDA码的优化，值得提及的是可以运行在任何GPU上。 “去年我们在中国发布了TensorRT 5，可以处理CNN，而且是在图形的同一层将边缘与节点融合；此外还支持自动检测以及自动低精度推理，将FP32模型转换成FP16或INT8模型

本文为作者原创，转载请注明出处（http://www.cnblogs.com/mar-q/）by 负赑屃 写在前面： 　　请参考之前的文章安装好CentOS、NVIDIA相关驱动及软件、docker及加速镜像。 　　主机运行环境 $ uname -a Linux CentOS 3.10.0-514.26.2.el7.x86_64 #1 SMP Tue Jul 4 15:04:05 UTC 2017 x86_64 x86_64 x86_64 GNU/Linux $ cat /usr/local/cuda/version.txt CUDA Version 8.0.61 $ cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2 #define CUDNN_MAJOR 6 #define CUDNN_MINOR 0 #define CUDNN_PATCHLEVEL 21 #define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL) #include "driver_types.h" # NVIDIA 1080ti 一、关于GPU的挂载 1. 在docker运行时指定device挂载 　　先查看一下有哪些相关设备 $ ls

Ubuntu 18.04 + NVIDIA Driver 418 + CUDA 10.0 + cuDNN 7.6 之前安装了 NVIDIA-Linux-x86_64-440.36.run ，之后发现440驱动只能安装cuda10.2，但是TensorFlow和pytorch都仅支持到10.1，不得不重装。。。还是老版本的好。 硬件及系统环境 NVIDIA GeForce RTX 2080 Ti * 4 Ubuntu 18.04 NVIDIA Driver 418 CUDA Toolkit 10.0 CuDNN 7.6 安装NVIDIA Driver 418 如果之前像我一样一件安装过驱动，需要卸载显卡驱动 sudo apt-get remove --purge nvidia-\* 安装gcc和g++ sudo apt-get install gcc g++ make 添加NVIDIA软件包存储库 wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-repo-ubuntu1804_10.0.130-1_amd64.deb sudo dpkg -i cuda-repo-ubuntu1804_10.0.130-1_amd64.deb sudo apt-key adv -

https://wiki.debian.org/zh_CN/NvidiaGraphicsDrivers#config-manual 还是看官方文档做吧 https://pkgs.org/download/nvidia-prime 得切换 nvidia卡 prime-select nvidia This operation requires root privileges admin@debian:~$ sudo prime-select nvidia [sudo] admin 的密码： Info: the nvidia profile is already set glxinfo | grep OpenGL bash: glxinfo：未找到命令 sudo apt-get install mesa-utils 驱动安装完以后，x进不去。我试试把xorg.conf做了备份，然后删掉，反正这个文件是安装驱动的时候创建的，debian本来就没有，桌面能进去了。 nvidia-smi Sun Dec 22 09:28:53 2019 +-----------------------------------------------------------------------------+ | NVIDIA-SMI 440.44 Driver Version: 440.44 CUDA

导读 不出意外的，Nvidia在其举行的Supercomputing 19大会上公布了很多新闻，这些我们将稍后提到。但被忽略的一条或许是其中最有趣的：一张更快、功耗更低的新一代图形加速卡。 多名与会者与多个新闻站点发现了这点，Nvidia 向我证实这确实是一张新卡。Nvidia的“Volta” 这代 Tesla GPU 加速卡在 2017 年就已淘汰，因此升级工作应该早已过期。 V100S 目前仅提供 PCI Express 3 接口，但有望最终支持 Nvidia 的 SXM2 接口。SXM 是 Nvidia 的双插槽卡设计，与 PCIe 卡不同，它不需要连接电源。SXM2 允许 GPU 通过 Nvidia 的 NVLink（一种高带宽、节能的互连）相互之间或与 CPU 进行通信，其数据传输速度比 PCIe 快十倍。 借助此卡，Nvidia 声称拥有单精度 16.4 TFLOPS，双精度 8.2 TFLOPS 并且 Tensor Core 性能高达 130 TFLOPS。这仅比 V100 SXM2 设计提高了 4％ 至 5％，但比 PCIe V100 变体提高了 16％ 至 17％。 内存容量保持在 32 GB，但 Nvidia 添加了 High Bandwidth Memory 2（HBM2），以将内存性能提高到 1,134 GB/s，这比 PCIe 和 SXM2 都提高了 26

最近因为安装了CUDA跑了程序，可能更改了显卡的设置，导致每次开机后，没有任何操作NVIDIA Container 这个程序也会一直在任务管理器中运行，很占用内存和CPU。因此在网上找到了一些方法来解决这个问题。 1： 更新最新版本的显卡驱动 。 这个暂时我怕出现不兼容问题就没有使用。因为之前有次更新了驱动，发现电脑打开黑屏了。。。可能我比较菜吧。- _ - 2： 禁用NVDisplay.Container.exe 。 右键 " 我的电脑 "-->" 管理 "-->" 服务和应用程序 "-->" 服务 "。打开 windows 系统的"服务"页面后，向下找到" NVIDIA Display Container LS "，双击打开，" 启动类型 "改为" 手动 "，然后点击" 停止 "，停止后点击" 确定 "即可，这个服务的自动启动将被关闭。 来源： CSDN 作者： ZB1139 链接： https://blog.csdn.net/qq_42110350/article/details/103657141