MXNet

simple example of mxnet model parallelism

百般思念 提交于 2019-12-08 03:34:28
The simple examples in the Guon tutorial for mxnet are very helpful to those of us who are just getting started with mxnet. As yet, there is not a simple example for model parallelism. I see the model parallelism example code for LSTM , but I am new to mxnet and it would help me (and perhaps others) to have a more streamlined example. So, I have created a model parallelism example by working off the regression example in the gluon tutorial, and by mixing in some code from mxnet.gluon.Trainer . However, I am clearly getting something wrong. The gradients do not seem to be updated. Can anyone

Simple gradient descent using mxnet

我只是一个虾纸丫 提交于 2019-12-07 10:24:57
问题 I'm trying to use MXNet's gradient descent optimizers to minimize a function. The equivalent example in Tensorflow would be: import tensorflow as tf x = tf.Variable(2, name='x', dtype=tf.float32) log_x = tf.log(x) log_x_squared = tf.square(log_x) optimizer = tf.train.GradientDescentOptimizer(0.5) train = optimizer.minimize(log_x_squared) init = tf.initialize_all_variables() def optimize(): with tf.Session() as session: session.run(init) print("starting at", "x:", session.run(x), "log(x)^2:",

人工智能如何快速入门?这10个开源AI项目真太香!

大憨熊 提交于 2019-12-07 04:06:42
在过去的几年中,机器学习在许多行业中开辟了新的视野,出现了一些高级用例:Facebook的面部识别,Netflix推荐的电影,PrismaAI的图像样式转换,Siri的语音识别,Google Allo的自然语言处理, 而这样的例子不胜枚举。 GitHub上有大量精彩的开源机器学习项目。以下是最受开发者们欢迎的项目列表。我希望通过这些项目能让你学到一些新东西,并激发自己的开发项目灵感。 1、TensorFlow TensorFlow是一个用于研究和生产的开源机器学习库。 TensorFlow为初学者和专家提供了针对桌面、移动端,Web和云开发的API。TensorFlow最初由Google Brain团队开发,供内部Google使用,并于2015年11月9日根据Apache 2.0开源许可发布。TensorFlow的最新版本支持Keras,这是高级神经网络API,使用Python编写,并且能够在TensorFlow,CNTK或Theano之上运行。 还有用于Javascript和Swift的接口。 2、Scikit-learn Scikit-learn最初由David Cournapeau在Summer of Code的Google活动中撰写。 它的名称或多或少地引用了SciPy Toolkit。 Scikit-learn具有基于NumPy

人工智能如何快速入门?这10个开源AI项目真太香!

瘦欲@ 提交于 2019-12-06 16:42:32
在过去的几年中,机器学习在许多行业中开辟了新的视野,出现了一些高级用例:Facebook的面部识别,Netflix推荐的电影,PrismaAI的图像样式转换,Siri的语音识别,Google Allo的自然语言处理, 而这样的例子不胜枚举。 GitHub上有大量精彩的开源机器学习项目。以下是最受开发者们欢迎的项目列表。我希望通过这些项目能让你学到一些新东西,并激发自己的开发项目灵感。 1、TensorFlow TensorFlow是一个用于研究和生产的开源机器学习库。 TensorFlow为初学者和专家提供了针对桌面、移动端,Web和云开发的API。TensorFlow最初由Google Brain团队开发,供内部Google使用,并于2015年11月9日根据Apache 2.0开源许可发布。TensorFlow的最新版本支持Keras,这是高级神经网络API,使用Python编写,并且能够在TensorFlow,CNTK或Theano之上运行。 还有用于Javascript和Swift的接口。 2、Scikit-learn Scikit-learn最初由David Cournapeau在Summer of Code的Google活动中撰写。 它的名称或多或少地引用了SciPy Toolkit。 Scikit-learn具有基于NumPy

Issue in installation of mxnet package in R

吃可爱长大的小学妹 提交于 2019-12-06 12:07:11
问题 mxnet package is not installing in r (on windows 10) when I follow the steps given in its documentation. install.packages("drat", repos="https://cran.rstudio.com") drat:::addRepo("dmlc") install.packages("mxnet") It gives the following result Installing package into ‘C:/Users/Ashish/Documents/R/win-library/3.3’ (as ‘lib’ is unspecified) Warning in install.packages : cannot open URL 'http://dmlc.github.io/drat/bin/windows/contrib/3.3/PACKAGES.gz': HTTP status was '404 Not Found' Warning in

Mxnet Scala Package 学习笔记 一

谁都会走 提交于 2019-12-05 22:16:41
前言 从刚开始接触Mxnet这个框架到现在已经大概四个月了。Mxnet最吸引我的地方就是它提供了 很多语言的接口,其中有Scala(my favorite),这是我从Caffe转过来的原因之一。 Mxnet是我第一个参与的开源项目,可以说这四个月来我学到了很多东西。 本文的其中目的在于介绍一下如何用 Mxnet Scala 包来开发自己的 deep learning 的应用,有 哪些坑需要注意的,最后就是安利一下Mxnet 这个框架了。 然后,还有就是Mxnet Scala Package已经开始 Spark了,有兴趣可以尝试一下。 正文 Eclipse配置Mxnet scala的开发环境 这里我是直接用ScalaIDE来开发。下面介绍如何配置开发环境,过程很简单,就是有些小细 节需要注意。 编译Mxnet Scala 包 首先要做的就是要编译出Mxnet的jar包了,环境配置具体可以看官方网站上的流程,这里就 不重复了, https://mxnet.readthedocs.io/en/latest/how_to/build.html ,在 Ubuntu的配置按照流 程来的话一般没什么问题,CentOs的话就有点麻烦,但还是可以的。 我的环境是 atlas + cuda 7.5 + cudnn v4 + opencv 3.0 。atlas + cuda 8.0 + opencv 3

Simple gradient descent using mxnet

流过昼夜 提交于 2019-12-05 15:59:44
I'm trying to use MXNet's gradient descent optimizers to minimize a function. The equivalent example in Tensorflow would be: import tensorflow as tf x = tf.Variable(2, name='x', dtype=tf.float32) log_x = tf.log(x) log_x_squared = tf.square(log_x) optimizer = tf.train.GradientDescentOptimizer(0.5) train = optimizer.minimize(log_x_squared) init = tf.initialize_all_variables() def optimize(): with tf.Session() as session: session.run(init) print("starting at", "x:", session.run(x), "log(x)^2:", session.run(log_x_squared)) for step in range(10): session.run(train) print("step", step, "x:", session

人脸识别之insightface开源代码使用——自定义数据集制作

两盒软妹~` 提交于 2019-12-05 01:52:09
人脸识别简介 简单来讲,人脸识别这个问题,就是给定两个人脸,然后判定他们是不是同一个人,这是它最原始的定义。它有很多应用场景,比如银行柜台、海关、手机解锁、酒店入住、网吧认证,会查身份证跟你是不是同一个人。 关于人脸识别的内容,网上资料很多,这里推荐一篇综述,详细介绍了一些人脸识别的背景和目前的相关研究,以及常用的人脸识别模型: http://www.elecfans.com/d/709424.html 好了,直接进入主题,今天的重点: insightface论文: https://arxiv.org/abs/1801.07698 insightface github项目: https://github.com/deepinsight/insightface 制作数据集 一、环境配置 官方提供的项目是基于mxnet框架的 因此首先需要配置好这些环境,这里假设已经安装好cuda等 mxnet的安装相对来说比较简单(相对于caffe) (1)查询自己cuda的版本 # 输入 nvcc -V # 输出结果 nvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2017 NVIDIA Corporation Built on Fri_Sep__1_21:08:03_CDT_2017 Cuda compilation tools,

Issue in installation of mxnet package in R

心已入冬 提交于 2019-12-04 17:27:17
mxnet package is not installing in r (on windows 10) when I follow the steps given in its documentation. install.packages("drat", repos="https://cran.rstudio.com") drat:::addRepo("dmlc") install.packages("mxnet") It gives the following result Installing package into ‘C:/Users/Ashish/Documents/R/win-library/3.3’ (as ‘lib’ is unspecified) Warning in install.packages : cannot open URL ' http://dmlc.github.io/drat/bin/windows/contrib/3.3/PACKAGES.gz ': HTTP status was '404 Not Found' Warning in install.packages : cannot open URL ' http://dmlc.github.io/drat/bin/windows/contrib/3.3/PACKAGES ': HTTP

mxnet gradient descent for linear regression, variable types error

限于喜欢 提交于 2019-12-02 16:09:51
问题 I'm trying to implement a simple gradient descent for linear regression. It works normally if I compute the gradient manually (by using the analytical expression), but now i was trying to implement it with autograd from the mxnet module. This is the code from mxnet import autograd, np, npx npx.set_np() def main(): # learning algorithm parameters nr_epochs = 1000 alpha = 0.01 # read data, insert column of ones (to include bias with other parameters) data = pd.read_csv("dataset.txt", header=0,