MXNet

深度学习框架mxnet的安装： 放在前面，我终于成功了 C:\ProgramData\Anaconda3>python . exe - c "import mxnet as mx; print(mx.nd.zeros((1,2), ctx=mx.gpu()) + 1)" [ [ 1 . 1 . ] ] <NDArray 1x2 @gpu ( 0 ) > 根据各方提示，我先是去NVIDIA的控制面板查看自己需要安装的CUDA 的版本，显示我可以安的是cuda10.2，去官网，失败了N天以后，学会了百度下有没有好心人的国内资源。。。。 成功安好CUDA10.2，本身已经有了Anacoda,所以就剩下安装Mxnet了，然后按照教程进行了下面的操作： D: / / PortableProgram / Anaconda3 / python . exe - m pip install -- pre mxnet - cu102 - f https: / / dist . mxnet . io / python / cu102 果不其然的，失败了好多天，每天尝试一次，每天失败一次，网络上各种说法都有，每天试一试，心情特别好。。。。。 解决方案： 最终在今天，我决定放弃所谓的最适合的版本，卸载了CUDA10.2，重新安装了cuda10.1 再回到教程，进行安装： D: / /

本节中，我们直接按照 softmax 运算的数学定义来实现 softmax 函数。这可能会造成什么问题？ 答：参考知乎一位的回答， https://zhuanlan.zhihu.com/p/27223959 . 当exp()中的数过大，会导致计算溢出。所以可以给exp（x）中的数加一个常数F，F = -max(a1,a2,...an),保证指数函数的定义域在0附近。 本节中的cross_entropy函数是按照交叉熵损失函数的数学定义实现的。这样的实现方式可能有什么问题？（提示：思考一下对数函数的定义域。） 答：对数函数的定义域是（0.+&），当无限接近于0 .可能导致结果过大为nan. 来源： oschina 链接： https://my.oschina.net/u/3127014/blog/2875071

1.softmax从零实现 from mxnet.gluon import data as gdata from sklearn import datasets from mxnet import nd,autograd # 加载数据集 digits = datasets.load_digits() features,labels = nd.array(digits['data']),nd.array(digits['target']) print(features.shape,labels.shape) labels_onehot = nd.one_hot(labels,10) print(labels_onehot.shape) (1797, 64) (1797,) (1797, 10) class softmaxClassifier: def __init__(self,inputs,outputs): self.inputs = inputs self.outputs = outputs self.weight = nd.random.normal(scale=0.01,shape=(inputs,outputs)) self.bias = nd.zeros(shape=(1,outputs)) self.weight.attach_grad() self.bias

使用GPU，并行计算和编译优化加速numpy矩阵运算（相关材料整理） v1(主要针对numpy运算的加速) 2020/12/16 总结：基于GPU加速numpy：cupy 和 minpy ​ 基于编译的优化加速numpy：numba ​ 基于并行计算加速numpy：Mars ​ 既可以并行又可以用GPU：Mars 文章目录 使用GPU，并行计算和编译优化加速numpy矩阵运算（相关材料整理） cupy minpy和MXnet mars jit和numba RAPIDS numpy学习网址： https://numpy.net/ ​ https://www.numpy.org.cn/ ​ http://cs231n.stanford.edu/syllabus.html cupy cupy支持使用GPU来加速Numpy。 cupy documents：https://docs.cupy.dev/en/stable/ 如果已经安装好cuda，安装cupy只需要（ 安装之前一定要保证pip更新到最新的版本 ） $ pip install cupy 也可以使用下面这个方法安装， #根据自己安装的cuda版本是哪一个，然后直接下载安装适合的版本，实测这个方法比较快 #然后进行安装命令 # CUDA 8.0 pip install cupy-cuda80 # CUDA 9.0 pip

哇！今天挺开心的，30天的时间，19篇文章，2459人阅读，5313人次阅读！今天开通的原创标识，恩！除了激动，就是非常感谢大家的支持！ 感谢大家的支持！ 大家的支持！ 的 支持！ 支持！ 持！我会继续努力的！我们一起进步！(./鞠躬！） ***** ** *** *** *****分割线 ********** *** ** *** 在学习TensorFlow之前，先给大家安利一波其他的几个库，主要有caffe，CNTK，keras，Theano，Torch，MaxNet。 总的来说，Caffe，CNTK这类是基于配置文件来定义模型，而Torch，Theano，Keras，TensorFlow是基于语言来定义模型。其中Torch是基于lua，一个比较小众的语言，不过也有了Python版。基于Python的有Theano，TensorFlow，Keras。Theano是和TensorFlow最像的一个，应该说TensorFlow是受到了Theano的启发而开发的，他们都是利用了tensor张量的思想。但是Theano是由LISA lab基于学术目的而开发的一套底层算法库，而TensorFlow是由google支持的。他俩主要区别还在于TensorFlow支持分布式编程。 下面有些网址可能打不开，这不是说链接无效~，而是需要“翻墙”，我觉得肯定有人不知道怎么办，就像我刚听说的时候