强大的PyTorch:10分钟让你了解深度学习领域新流行的框架

  • 时间:
  • 浏览:0

2.torch数组取代了numpy ndarray - >在GPU支持下提供线性代数

PyTorch由要是 主要包装组成:

第另一个特色是autograd包,其提供了定义计算图的能力,以便当想要们都 都时需自动计算渐变梯度。在计算图中,要是 节点是要是 数组,边(edge)是on数组的要是 操作。要做要是 计算图,当想要们都 时需在(torch.aurograd.Variable())函数中通过包装数组来创建要是 节点。那末当想要们都 在你这个节点上所做的所有操作都将被定义为边,它们将是计算图中新的节点。图中的每个节点全是要是 (node.data)属性,它是另要是 维数组和要是 (node.grad)属性,这是相对于随后 标量值的渐变(node.grad也是要是 .Variable()) 。在定义计算图随后,当想要们都 都时需使用单个命令(loss.backward())来计算图中所有节点的损耗梯度。

文章原标题《Understand PyTorch code in 10 minutes》,

希望上述的介绍能够帮你更好的阅读PyTorch代码。  

5.torch.optim也都时需做优化—>

1.导入工具

让人要是 导入PyTorch:

更多深度文章,请关注:https://yq.aliyun.com/cloud

当想要们都 还都时需通过子类(torch.nn.Module)定义自定义层,并实现接受(Variable())作为输入的(forward())函数,并产生(Variable())作为输出。当想要们都 也都时需通过定义要是 时间变化的层来做要是 动态网络。

其作用是能够构建神经网络计算图,而不需要手动操纵张量和参数,减少未必要的麻烦。

本文由北邮@爱可可-爱生活老师推荐,阿里云云栖社区组织翻译。

4.torch.nn蕴藏各种NN层(张量行的线性映射)+(非线性)-->

当想要们都 都时需另一方比较 Torch和numpy ,从而发现当想要们都 的优缺点。

从下面的代码中,当想要们都 都时需发现,PyTorch提供的你这个包的功能都时需将当想要们都 常用的二维数组变成GPU都时需正确处理的三维数组。这极大的提高了GPU的利用下行数率 ,提升了计算下行数率 。

第要是 特色是高级神经网络库(torch.nn),其抽象出了神经网络层中的所有参数正确处理,以便于在通过有十几个 命令(累似 于torch.nn.conv)就很容易地定义NN。你这个包也蕴藏流行的损失函数的功能(累似 于torch.nn.MSEloss)。当想要们都 首先定义要是 模型容器,累似 于使用(torch.nn.Sequential)的层序列的模型,随后 在序列中列出当想要们都 期望的层。你这个高级神经网络库也都时需正确处理随后 的事情,当想要们都 都时需使用(model.parameters())访问参数(Variable())

作者:Hamidreza Saghir机器学习研究员 - 多伦多大学博士生 译者:袁虎 审阅:阿福

当想要们都 使用torch.nn构建要是 nn计算图,使用torch.autograd来计算梯度,随后 将它们提供给torch.optim来更新网络参数。

PyTorch可能性使用了强大的GPU加速的Tensor计算(累似 于numpy)和基于tape的autograd系统的深度神经网络。这使得今年一月份被开源的PyTorch成为了深度学习领域新流行框架,随后 新的论文在发表过程中都加入了大多数人不理解的PyTorch代码。这篇文章当想要们都 就来讲述一下我对PyTorch代码的理解,希望能帮助你阅读PyTorch代码。整个过程是基于贾斯汀·约翰逊的伟大教程。可能性你想了解更多可能性有超过10分钟的时间,建议你去读下整篇代码。

建立神经网络很容易,随后 咋样协同工作未必容易。这是要是 示例显示咋样协同工作:

3.torch.autograd都时需生成要是 计算图 - >自动计算梯度

文章为简译,更为完全的内容,请查看原文

第另一个特色是与NN库并肩工作的优化软件包(torch.optim)。该库蕴藏多样化的优化器,如AdamRMSprop等。当想要们都 定义要是 优化器并传递网络参数和学习率(opt = torch.optim.Adammodel.parameters(),lr = learning_rate)),随后 当想要们都 调用(opt.step())对当想要们都 的参数进行近一步更新。

第要是 特色,PyTorch提供了要是 像Numpy数组一样的多维数组,当数据类型被转换为(torch.cuda.TensorFloat)时,都时需在GPU上进行正确处理。你这个数组和它的关联函数是一般的科学计算工具。