GPU介绍

GPU介绍 什么是GPU 并行计算,计算机一个核只能干一件事,使用多核&#xff0…

GPU介绍

在这里插入图片描述

什么是GPU

并行计算,计算机一个核只能干一件事,使用多核,核相互不打扰,就可以达到并行计算的效果。GPU的核心比CPU多很多。

GPU核多而单核的计算能力弱。

GPU核心计算时,只能从显存获取数据,需要指明从显存到内存的拷贝。总线传输速度和带宽成为计算任务的瓶颈。

CPU和GPU分开,CPU和主存被称为Host,GPU被称为Device。

GPU架构

每代产品背后有一个架构代号,物理学家的名字

Turing 图灵

Volta 伏特

Telsa V100

Pascal 帕斯卡

多个小核心组成一个Streaming Multiprocessor (SM)

一张GPU有多个SM。以SM为运算和调度的基本单元。

在这里插入图片描述

一个SM包含:

  • 针对不同计算的小核心,(绿色格子)
  • 计算核心直接从寄存器中读写数据
  • 调度和分发器
  • L0和L1级缓存

软件生态

CUDA编程模型,cuBLAS线性代数库,cuFFT快速傅里叶变换库。cuDNN深度神经网络加速库。

GPU编程可以直接使用CUDA的C/C++版本,也可以使用Numba库调用cuda

本文来自网络,不代表软粉网立场,转载请注明出处:https://www.rfff.net/p/1190.html

作者: HUI

发表评论

您的电子邮箱地址不会被公开。

返回顶部