Pytorch中的View, Reshape, Permute
Main takeaway 逻辑存储与内存存储 (Contiguous); Stride和Size View, Reshape 和 Permute ⭐: 本文是我最近写代码时的思考, 如果存在不合理或者更好的说明方式欢迎评论区提出. 一些小...
torch
torch.nn.parallel.DistributedDataParallel: 快速上手
0. 前言 Node: 一个节点, 可以理解为一台电脑. Device: 工作设备, 可以简单理解为一张卡, 即一个GPU. Process: 一个进程, 可以简单理解为一个Python程序. Threading: 一个...