Win配置tensorflow_gpu

夏天老师

发表文章数:534

首页 » 安装包 » 正文

概述

在深度学习中,小伙伴们会感觉CPU不够用,听说GPU很厉害,但不知道怎么厉害?
下面就对怎么厉害做个简述:不看概述可以直接跳转到安装

0. CPU和GPU的区别

CPU 需要很强的通用性
为了处理各种不同的数据类型,同时又要逻辑判断又会引入大量的分支跳转和中断的处理。这些都使得CPU的内部结构异常复杂。

GPU 面对的是类型高度统一的、互相无依赖的大规模数据和不需要被打断的纯净的计算环境
于是乎:CPU和GPU就呈现出非常不同的架构(看图)

Win配置tensorflow_gpu

  • 鲜绿色:计算单元ALU(Arithmetic Logic Unit)
  • 橙红色:存储单元(cache)
  • 橙黄色:控制单元(control)

GPU:数量众多的计算单元和超长的流水线,只有简单的控制逻辑并省去了Cache
CPU:被Cache占据了大量空间,而且还有有复杂的控制逻辑和诸多优化电路

有一个例子说的很好

GPU的工作大部分就是这样,计算量大,而且要重复很多很多次。就像你有个工作需要算几亿次一百以内加减乘除一样,最好的办法就是雇上几十个小学生一起算,一人算一部分

CPU就像老教授,积分微分都会算,就是工资高,一个老教授资顶二十个小学生,你要是富士康你雇哪个

  • CPU和GPU因为最初用来处理的任务就不同,所以设计上有不小的区别,而某些任务和GPU最初用来解决的问题比较相似,所以用GPU来算了
  • GPU的运算速度取决于雇了多少小学生,CPU的运算速度取决于请了多么厉害的教授。教授处理复杂任务的能力是碾压小学生的,但是对于没那么复杂的任务,还是顶不住人多。
  • 当然现在的GPU也能做一些稍微复杂的工作了,相当于升级成初中生高中生的水平。但还需要CPU来把数据喂到嘴边才能开始干活,究竟还是靠CPU来管的。

再不济了,大家可以参考下面的视频,更方便理解。(如果视频无法播放,点击视频链接),

安装

NVIDIA的显卡驱动CUDA完全是两种不同概念,没有任何交集!

NVIDIA的显卡驱动可以帮助系统正确的识别NVIDIA的图形显示卡,进行2D/3D渲染,发挥显卡应有的效果。

CUDA是用于在NVIDIA推出的自家GPU的并行计算框架,即CUDA只能在NVIDIA的显卡驱动运行,并在解决的计算问题在大量并行计算的时候可以发挥CUDA的作用。

NVIDIA的显卡驱动程序和CUDA完全是两个不同的概念哦!CUDA是NVIDIA推出的用于自家GPU的并行计算框架,也就是说CUDA只能在NVIDIA的GPU上运行,而且只有当要解决的计算问题是可以大量并行计算的时候才能发挥CUDA的作用。

CUDA的本质是一个工具包(ToolKit);但是二者虽然不一样的。

cuDNN是用于深度神经网络的GPU加速库。它强调性能、易用性和低内存开销。NVIDIA cuDNN可以集成到更高级别的机器学习框架中,如tensorflow等,可以让开发人员专注于设计和实现神经网络模型,而不是简单调整性能,同时还可以在GPU上实现高性能现代并行计算。


备注
cuDNN不会对CUDA造成影响
因为从官方安装指南可以看出,只要把cuDNN文件复制到CUDA的对应文件夹里就可以,即是所谓插入式设计,把cuDNN数据库添加CUDA里,cuDNN是CUDA的扩展计算库,不会对CUDA造成其他影响。

1. 检查算力

对于N卡,要求CUDA Compute Capability的算力不低于3.0(否则无法安装)
跳转链接https://developer.nvidia.com/zh-cn/cuda-gpus

a. Win查看显卡的配置信息

  • Win的方法1:使用终端黑窗口

    1. 使用快捷键Win+R打开运行命令窗口
    2. 输入dxdiag并点击【确定】按钮,若有窗口弹出请选择“否”。
    3. 切换到“显示”,就能查看显卡的芯片型号、显存大小(1024MB=1GB)等配置信息。
      Win配置tensorflow_gpu
      Win配置tensorflow_gpu
      Win配置tensorflow_gpu
  • Win的方法2:通过设备管理器

    1. 右键此电脑图标,选择管理
    2. 在左边的菜单选择设备管理器,在右边的菜单选择显示适配器,就能看到显卡信息了

b. Mac查看显卡的配置信息

  • 点击关于本机,在图形卡中,有对应的显卡信息
    Win配置tensorflow_gpu

c. 查看算力

比如,我查看Mac的显卡是NVIDIA GeForce GT 750M 2 GB
然后打开链接,找到自己显卡对应的产品并点击进去

再根据自己对应的显卡信息,查看对应的计算能力,只要是大于3即可。

这有个NVIDIA显卡对应的算力关系表,可供参考(主要是支持 CUDA 的 台式机和笔记本产品

台式机的GPU 计算能力 笔记本电脑的GPU 计算能力
GeForce RTX 3090 8.6 GeForce RTX 2080 7.5
GeForce RTX 3080 8.6 GeForce RTX 2070 7.5
GeForce RTX 3070 8.6 GeForce RTX 2060 7.5
NVIDIA TITAN RTX 7.5 GeForce GTX 1080 6.1
GeForce RTX 2080 Ti 7.5 GeForce GTX 1070 6.1
GeForce RTX 2080 7.5 GeForce GTX 1060 6.1
GeForce RTX 2070 7.5 GeForce GTX 980 5.2
GeForce RTX 2060 7.5 GeForce GTX 980M 5.2
NVIDIA TITAN V 7 GeForce GTX 970M 5.2
NVIDIA TITAN Xp 6.1 GeForce GTX 965M 5.2
NVIDIA TITAN X 6.1 GeForce GTX 960M 5
GeForce GTX 1080 Ti 6.1 GeForce GTX 950M 5
GeForce GTX 1080 6.1 GeForce 940M 5
GeForce GTX 1070 6.1 GeForce 930M 5
GeForce GTX 1060 6.1 GeForce 920M 3.5
GeForce GTX 1050 6.1 GeForce 910M 5.2
GeForce GTX TITAN X 5.2 GeForce GTX 880M 3
GeForce GTX TITAN Z 3.5 GeForce GTX 870M 3
GeForce GTX TITAN Black 3.5 GeForce GTX 860M 3.0/5.0(**)
GeForce GTX TITAN 3.5 GeForce GTX 850M 5
GeForce GTX 980 Ti 5.2 GeForce 840M 5
GeForce GTX 980 5.2 GeForce 830M 5
GeForce GTX 970 5.2 GeForce 820M 2.1
GeForce GTX 960 5.2 GeForce 800M 2.1
GeForce GTX 950 5.2 GeForce GTX 780M 3
GeForce GTX 780 Ti 3.5 GeForce GTX 770M 3
GeForce GTX 780 3.5 GeForce GTX 765M 3
GeForce GTX 770 3 GeForce GTX 760M 3
GeForce GTX 760 3 GeForce GTX 680MX 3
GeForce GTX 750 Ti 5 GeForce GTX 680M 3
GeForce GTX 750 5 GeForce GTX 675MX 3
GeForce GTX 690 3 GeForce GTX 675M 2.1
GeForce GTX 680 3 GeForce GTX 670MX 3
GeForce GTX 670 3 GeForce GTX 670M 2.1
GeForce GTX 660 Ti 3 GeForce GTX 660M 3
GeForce GTX 660 3 GeForce GT 755M 3
GeForce GTX 650 Ti BOOST 3 GeForce GT 750M 3
GeForce GTX 650 Ti 3 GeForce GT 650M 3
GeForce GTX 650 3 GeForce GT 745M 3
GeForce GTX 560 Ti 2.1 GeForce GT 645M 3
GeForce GTX 550 Ti 2.1 GeForce GT 740M 3
GeForce GTX 460 2.1 GeForce GT 730M 3
GeForce GTS 450 2.1 GeForce GT 640M 3
GeForce GTS 450* 2.1 GeForce GT 640M LE 3
GeForce GTX 590 2 GeForce GT 735M 3
GeForce GTX 580 2 GeForce GT 635M 2.1
GeForce GTX 570 2 GeForce GT 730M 3
GeForce GTX 480 2 GeForce GT 630M 2.1
GeForce GTX 470 2 GeForce GT 625M 2.1
GeForce GTX 465 2 GeForce GT 720M 2.1
GeForce GT 740 3 GeForce GT 620M 2.1
GeForce GT 730 3.5 GeForce 710M 2.1
GeForce GT 730 DDR3,128 位 2.1 GeForce 705M 2.1
GeForce GT 720 3.5 GeForce 610M 2.1
GeForce GT 705* 3.5 GeForce GTX 580M 2.1
GeForce GT 640 (GDDR5) 3.5 GeForce GTX 570M 2.1
GeForce GT 640 (GDDR3) 2.1 GeForce GTX 560M 2.1
GeForce GT 630 2.1 GeForce GT 555M 2.1
GeForce GT 620 2.1 GeForce GT 550M 2.1
GeForce GT 610 2.1 GeForce GT 540M 2.1
GeForce GT 520 2.1 GeForce GT 525M 2.1
GeForce GT 440 2.1 GeForce GT 520MX 2.1
GeForce GT 440* 2.1 GeForce GT 520M 2.1
GeForce GT 430 2.1 GeForce GTX 485M 2.1
GeForce GT 430* 2.1 GeForce GTX 470M 2.1
GeForce GTX 460M 2.1
GeForce GT 445M 2.1
GeForce GT 435M 2.1
GeForce GT 420M 2.1
GeForce GT 415M 2.1
GeForce GTX 480M 2
GeForce 710M 2.1
GeForce 410M 2.1

2. 下载

a. 下载显卡驱动

在刚刚查看算力的界面中,点击匹配自己电脑的显卡

选择对应自己的种类,型号系统等,然后点击SEARCH并下载(大致500M左右)

N卡驱动需要410.x及以上才可以安装tf2.0(NVIDIA-SMI)

b. 下载CUDA

一定要先确认自己要下载的tensorflow的版本,再下载CUDA和cuDNN

tensorflow,CUDA和cuDNN的版本对应关系。可以通过下表查看(Win系统),也可以通过官方链接查看

版本 Python cuDNN CUDA
tensorflow_gpu-2.6.0 3.6-3.9 8.1 11.2
tensorflow_gpu-2.5.0 3.6-3.9 8.1 11.2
tensorflow_gpu-2.4.0 3.6-3.8 8.0 11.0
tensorflow_gpu-2.3.0 3.5-3.8 7.6 10.1
tensorflow_gpu-2.2.0 3.5-3.8 7.6 10.1
tensorflow_gpu-2.1.0 3.5-3.7 7.6 10.1
tensorflow_gpu-2.0.0 3.5-3.7 7.4 10
tensorflow_gpu-1.15.0 3.5-3.7 7.4 10
tensorflow_gpu-1.14.0 3.5-3.7 7.4 10
tensorflow_gpu-1.13.0 3.5-3.7 7.4 10
tensorflow_gpu-1.12.0 3.5-3.6 7.2 9
tensorflow_gpu-1.11.0 3.5-3.6 7 9
tensorflow_gpu-1.10.0 3.5-3.6 7 9
tensorflow_gpu-1.9.0 3.5-3.6 7 9
tensorflow_gpu-1.8.0 3.5-3.6 7 9
tensorflow_gpu-1.7.0 3.5-3.6 7 9
tensorflow_gpu-1.6.0 3.5-3.6 7 9
tensorflow_gpu-1.5.0 3.5-3.6 7 9
tensorflow_gpu-1.4.0 3.5-3.6 6 8
tensorflow_gpu-1.3.0 3.5-3.6 6 8
tensorflow_gpu-1.2.0 3.5-3.6 5.1 8
tensorflow_gpu-1.1.0 3.5 5.1 8
tensorflow_gpu-1.0.0 3.5 5.1 8

确定好版本后,点击CUDA的下载链接进行下载

如果大家要安装tensorflow-gpu2.1,强烈建议大家的版本选择如下
cuda的选择 -> win + x86_64 + 10 + exe --> 2.4G
cudann的选择 -> Download cuDNN v7.6.4 (September 27, 2019), for CUDA 10.1

  1. 选择自己所需要的版本
    Win配置tensorflow_gpu
  2. 下载后会有个解压文件,解压后再进行安装文件
  3. 解压文件,双击刚刚下载的程序
    Win配置tensorflow_gpu
  4. 安装CUDA
    Win配置tensorflow_gpu
    Win配置tensorflow_gpu
    Win配置tensorflow_gpu
  5. 安装完成,配置环境变量(新版的CUDA会自动添加环境变量,没有的话需要自己手动添加)
    a. 查看
    b. 点击查看详情
    Win配置tensorflow_gpu
    c. 添加系统变量后如下图所示:
    Win配置tensorflow_gpu
  6. 测试CUDA以及环境变量的配置成功
    nvcc -V
    nvcc --version
    Win配置tensorflow_gpu

c. 下载cuDNN

点击跳转官方下载链接

  1. 选择自己对应的cuDNN版本进行下载
  2. 安装cuDNN(其实就是将解压后的文件替换之前的文件即可:就是替换原文件的bin,include,lib)
    Win配置tensorflow_gpu

如果安装的是2.3,那么就不是直接替换文件夹了,而是将cudnn里的文件替换cuda里的文件(因为新的cudnn里只有需要新增的文件,而不是所文件)

d. 下载tensorflow_gpu

在安装tensorflow的时候,建议先配置下国内镜像,避免出现网络超时,无法下载的尴尬

备注:安装tf1.15之前,需要tensorflow和tensorflow-gpu分别下载

添加清华镜像
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
添加中科大镜像
conda config –-add channels https://mirrors.ustc.edu.cn/anaconda/pkgs/free/
清华:
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/

在安装tensorflow有的小伙伴可能需要将其安装到虚拟环境中

  1. 如果不需要虚拟环境

直接输入命令

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple/ --upgrade tensorflow-gpu==2.0
  1. 如果需要虚拟环境
    a. 创建虚拟环境:conda create -n tf2 python=3.6

    • tf2是虚拟环境的名字
    • python=3.6是创建python3.6的环境

    b. 激活/进入到虚拟环境

    • Win的命令: activate tf2
    • Mac/Linux的命令: source activate tf2

    c. 执行下载命令

    d. 退出虚拟环境

    • Win的命令: deactivate tf2
    • Mac/Linux的命令: source deactivate tf2

    e. 查看都有哪些虚拟环境

    • conda info -e

3. 检查是否安装成功

新建python文件或者打开交互式界面,输入代码

import tensorflow as tf
tf.__version__
==> 2.0.0
tf.test.is_gpu_available()
==> True

如果为True,则说明我们已经配置成功!

报错总结

1. Cannot uninstall wrapt

解决方案:
pip install wrapt --ignore-installed


参考文档
cuda安装教程+cudnn安装教程
cuda,cudnn和tensorflow的版本对饮关系
tensorflow各个版本的CUDA以及Cudnn版本对应关系

文件下载

附件:cuda+cudnn

文件大小:2.5G

更新时间:2021-05-24

本站大部分下载资源收集于网络,只做学习和交流使用,版权归原作者所有,若为付费资源,请在下载后24小时之内自觉删除,若作商业用途,请到原网站购买,由于未及时购买和付费发生的侵权行为,与本站无关。本站发布的内容若侵犯到您的权益,请联系本站删除,我们将及时处理!

未经允许不得转载:作者:夏天老师, 转载或复制请以 超链接形式 并注明出处 拜师资源博客
原文地址:《Win配置tensorflow_gpu》 发布于2020-11-24

分享到:
赞(0) 打赏

评论 抢沙发

评论前必须登录!

  注册



长按图片转发给朋友

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

Vieu3.3主题
专业打造轻量级个人企业风格博客主题!专注于前端开发,全站响应式布局自适应模板。

登录

忘记密码 ?

您也可以使用第三方帐号快捷登录

Q Q 登 录
微 博 登 录