cupy

如何将Numpy加速700倍？用 CuPy 呀 作为 Python 语言的一个扩展程序库，Numpy 支持大量的维度数组与矩阵运算，为 Python 社区带来了很多帮助。借助于 Numpy，数据科学家、机器学习实践者和统计学家能够以一种简单高效的方式处理大量的矩阵数据。那么 Numpy 速度还能提升吗？本文介绍了如何利用 CuPy 库来加速 Numpy 运算速度。 选自towardsdatascience，作者：George Seif，机器之心编译，参与：杜伟、张倩。 就其自身来说，Numpy 的速度已经较 Python 有了很大的提升。当你发现 Python 代码运行较慢，尤其出现大量的 for-loops 循环时，通常可以将数据处理移入 Numpy 并实现其向量化最高速度处理。 但有一点，上述 Numpy 加速只是在 CPU 上实现的。由于消费级 CPU 通常只有 8 个核心或更少，所以并行处理数量以及可以实现的加速是有限的。 这就催生了新的加速工具——CuPy 库。 何为 CuPy？ CuPy 是一个借助 CUDA GPU 库在英伟达 GPU 上实现 Numpy 数组的库。基于 Numpy 数组的实现，GPU 自身具有的多个 CUDA 核心可以促成更好的并行加速。 CuPy 接口是 Numpy 的一个镜像，并且在大多情况下，它可以直接替换 Numpy 使用。只要用兼容的

问题 随着机器学习对模型运算速度的需求越来越强烈， 一直想进行GPU编程，但一直以来这些都是c++的专利 一想到c++里的各种坑，就提不起劲来，毕竟这样来来回回填坑的投入产出，生产效率就会大打折扣 解决方案 让人欣喜的是，随着Python阵营的不断发展壮大，使用python进行GPU编程也越来越便捷了 那么具体有些什么样的包，能针对GPU做些啥事呢？ 看看一些具体的代码，就能大概明白： 首先是pycuda，这是它的一个例子： mod = SourceModule(""" __global__ void multiply_them(float *dest, float *a, float *b) { const int i = threadIdx.x; dest[i] = a[i] * b[i]; } """) 由上面的代码我们可以看出，pycuda将调用gpu的c++代码做了包装，可以在python里直接使用 再看看numba： @cuda.jit def increment_by_one(an_array): pos = cuda.grid(1) if pos < an_array.size: an_array[pos] += 1 我们可以发现，numba更进一步，直接使用装饰器的办法让调用GPU的过程更简洁方便 再看看cupy： import numpy as np