大家好,这里是乱七八糟什么都学的小咩(不是)。
研究需要,正在快速补习pytorch以便快速赶上组里前辈们的脚步,于是我又又又要更新一系列的学习笔记了。
今天我们就从pytorch的张量开始讲起。
本文大约分为以下四个部分:
1、Tensor概念
2、Tensor创建一:直接创建
3、Tensor创建二:依据数值创建
4、Tensor创建三:依据概率创建

1、Tensor概念

什么是张量?

What is Tensor?我的朋友,你是否有很多问号。
张量是一个多维数组,它是标量(0维),向量(1维),矩阵(2维)的高维扩展 。
例如一个三维数组就可称为三维张量。比如我们常用的RGB数组。

Tensor与Variable

Variable是torch.autograd中的数据类型,主要用于封装Tensor,进行自动求导
Variable在最新pytorch的如今已经被并入Tensor。

pytorch0.4.0后的Tensor

  • data:被封装的Tensor
  • grad:data的梯度
  • grad_fn:创建Tensor的Function,自动求导的关键
  • requires_grad:指示是否需要梯度
  • is_leaf:指示是否是叶子节点
  • dtype:张量的数据类型
  • shape:张量的形状,比如(64,3,224,224)
  • device:张量所在设备,gpu/cpu,是加速的关键
    如下图所示:
    image.png

2、Tensor创建一:直接创建

torch.tensor()

功能:从data创建tensor。
image.png
效果类似于这样:
image.png
image.png

torch.from_numpy(ndarray)

功能:从numpy创建tensor
注意:此时的tensor与ndarray共享内存,修改其中一个,另一个也会改变。

3、Tensor创建二:依据数值创建

torch.zeros()

功能:依size创建全0张量
image.png
效果类似这样:
image.png
image.png
这里就可以看出来两者确实共享内存

torch.ones()

功能:与zeros类似,依size创建全1张量

torch.full()

功能:依size和value创建张量
image.png
效果类似这样:
image.png
image.png

torch.arange()

功能:创建等差的1维张量
注意事项:范围为[start,end)
image.png

torch.linespace()

功能:创建均分的1维向量
注意事项:与前一个不同,范围为[start,end]
image.png

torch.logspace()

功能:创建对数均分的1维向量
image.png

torch.eye()

功能:创建单位对角矩阵(二维张量)
image.png

4、Tensor创建三:依据概率创建

torch.normal()

功能:依据正态分布创建张量

torch.randn()

功能:依据标准正态分布创建张量

torch.rand()

功能:在[0,1)上生成均匀分布

torch.randint()

功能:在[low,high)上生成均匀分布

torch.randperm()

功能:生成0到n-1的随机分布
###torch.bernoulli()
功能:以input为概率,生成伯努利分布