深入浅出PyTorch task01 打卡

task01 PyTorch安装与基础知识

一、PyTorch的安装

​ 之前已经在Anaconda下创建了虚拟环境并安装了PyTorch,并能在Pycharm集成开发环境下创建并运行PyTorch项目。

二、PyTorch的基础知识

1. 张量 Tensor

​ 张量即对向量和矩阵的更高维推广,可看做多维的数组,向量和矩阵也可看做一维和二维的张量。

1.1 创建张量

​​ 可以通过各种方法构造一般或特殊的张量。

1.2 张量操作
  • 索引操作 类似numpy
  • 纬度变换 torch.view(); torch.reshape()
  • 各种数学操作
  • 张量的广播机制 不同大小的张量计算时会扩展形状

2. 自动求导

​ PyTorch模型训练损失函数反向传播需要计算导数,PyTorch基于Tensor数据结构进行自动求导。

2.1 数学基础
  • 多元函数求导–雅克比矩阵
  • 复合函数求导–链式法则
2.2 动态计算图

​ 张量和运算可以构成一张有向无环图

2.3 实例
  • .backward()进行反向求导
  • .requires_grad代表是否跟踪求导
  • .grad查看导数,导数每次反向求导会积累

3. 并行计算

​ 使用cuda进行并行计算

浙ICP备19012682号