PyTorch 1.7来了:支持Windows上的分布式训练,还有大波API袭来
点击上方 “ AI算法与图像处理 ”,选择加"星标"或“置顶” 重磅干货,第一时间送达 编译 | 蒋宝尚 来源:AI科技评论 据Facebook 官方博客公告,PyTorch1.7版本已经于昨日正式发布,相比于以往的 PyTorch 版本,此次更新除了增加了更多的API,还能够支持 NumPy兼容下的傅里叶变换、性能分析工具,以及对基于分布式数据并行(DDP)和远程过程调用(RPC)的分布式训练。 此外,原有的一些功能也转移到了稳定版,包括自定义C++ -> 类(Classes)、内存分析器、通过自定义张量类对象进行的扩展、RPC中的用户异步功能以及Torch.Distributed中的许多其他功能,如Per-RPC超时、DDP动态分组(bucketing)和RRef助手。 其中一些亮点包括: 1、PyTorch.org上提供的二进制文件现在正式支持CUDA 11 2、对Autograd分析器中的RPC、TorchScript和堆栈跟踪的分析和性能进行了更新和添加。 3、(测试版)通过torch.fft支持NumPy兼容的快速傅立叶变换(FFT)。 4、(原型)支持NVIDIA A100 GPU和本地的TF32格式。 5、(原型)支持Windows上的分布式训练 6、torchvision (稳定)变换现在支持张量输入、批处理计算、GPU和TorchScript (稳定