吴恩达

2018年在学习的道路上走走停停，停停走走，始终没有坚持下来。非常惭愧。 通过自己发给自己微信小号的聊天记录，大概归纳一下2018年学习了些什么东西 3月 主要看了一些大学的MOOC课程 吉林大学人工智能公开课看到了第9讲左右，后来发现它和中国大学MOOC上北大王敏文的《 人工智能原理 》课程比较相似，于是放弃了吉大公开课，继续看北大版的 网易公开课上的麻省理工学院的Patrick教授的 人工智能 基础课在本月看到了第16集 腾讯课堂上找了一门人工智能（机器学习）实践课看了大概3集左右，最后一集是朴素贝叶斯之垃圾邮件过滤实战 3.26大概是去哪面试了失败了（写着今日铩羽而归），晚上重拾selenium的学习，搞到了27号凌晨1:45 3.29却到新到单位上班了，还用微信记录了从单位到家的公交上下车时间，那前面的铩羽而归又是什么意思？ 本月有记录的学习日：16、17、18、20、21、23、26、27 共8天 4月 4月主要在看北大版的人工智能MOOC与MIT的人工智能课 8号晚上刷了很久的抖音 本月可能已经看完MIT的课程了，最后的记录是第18集已看完 本月有记录的学习日：5、7、15、18、30 共5天 5月 5月主要在学的课程是北大版的人工智能原理，另外看了一些《意志力》这本书中的内容 本月有记录的学习日：5、8、13、20、23、25、27、28、（24、29两天在读《意志力

文章目录 课程摘要 What is neural network Simple neural network Multiple neural network Supervised leaning for Nenural Network Structured and Unstructured data Why is Deep Learning taking off 深度学习过程 课程摘要 从这门课中我们可以学到： 神经网络和深度学习 提高神经网络：超参数调整，正则化，优化 构建你的机器学习项目 卷积神经网络 自然语言处理：建立RNN What is neural network 神经网络是由人类大脑启发的学习算法 下面通过房屋预测来了解神经网络 Simple neural network 房地产市场中， 当给定房屋的大小 ，想要通过一种 适合的函数 来 预测价格 这是一个线性回归(linear regression)问题，因为价格随着房屋大小的函数连续输出 价格不会是负数，所以使用一种叫做ReLU(Rectified Linear Unit)的函数，起点为0。 这个函数就是一个神经元(neural)。 这个神经网络构建如下。 一个简单的神经网络有三个要素： 输入：size 神经元：ReLU函数 输出：price 利用这个神经网络，给定一个输入 x ，即可得到一个输出 y。

吴恩达深度学习第二周作业 终于把吴sir的代码从头到尾弄通了，由于pyplot版本更新问题，绘制scatter图时要求参数c 必须为一维数组，也就是y值要squeeze一下，在导入的planar_utils模块直接修改plot_boundary函数，修改后还要重新启动一下，消除之前的内存。。。否则还是不成功。 来源： CSDN 作者： weixin_45316967 链接： https://blog.csdn.net/weixin_45316967/article/details/104064699

本文总结了吴恩达在斯坦福大学CS230深度学习课程在YouTube上的演讲： 对职业发展的一些建议以及阅读研究论文的方法 Andrew提出的主要建议： 重视论文阅读：这是非常重要的技巧。当他试图在深度学习中掌握一个新主题时，他就会阅读科研论文。 具体的步骤是： 编写一份论文列表：尝试创建一份论文列表、包括你拥有的任何文本或学习资源。 过一遍列表：以一种并行的方式阅读论文，也就是同时处理多篇论文。具体地说，试着快速浏览并理解每一篇文章，而不是全部读完。也许你读了每一篇文章的10-20%，但这足以让你对手头的文章有一个高水平的理解。在那之后，你可能会决定删除其中的一些论文，或者只是浏览一两篇论文，把它们通读一遍。 他还提到，如果你读到： 5-20篇论文 (在选择的领域，比如语音识别)=>这可能是足够的知识，你可以实现一个语音识别系统，但可能不够研究或让你处于前沿。 50-100篇论文 =>你可能会对这个领域的应用(比如语音识别)有很好的理解。 如何读论文？ 不要从头读到尾。相反，需要多次遍历论文，下面是具体如何做的： 阅读文章标题、摘要和图 ：通过阅读文章标题、摘要、关键网络架构图，或许还有实验部分，你将能够对论文的概念有一个大致的了解。在深度学习中，有很多研究论文都是将整篇论文总结成一两个图形，而不需要费力地通读全文。 读介绍+结论+图+略过其他 ：介绍

RNN 首先思考这样一个问题：在处理序列学习问题时，为什么不使用标准的神经网络（建立多个隐藏层得到最终的输出）解决，而是提出了RNN这一新概念？ 标准神经网络如下图所示： 标准神经网络在解决序列问题时，存在两个问题： 难以解决每个训练样例子输入输出长度不同的情况，因为序列的长度代表着输入层、输出层的维度，不可能每训练一个样例就改变一次网络结构。 标准的神经网络不能共享从文本不同位置上学到的特征。举例说明：如果Harry作为人名位于一个训练例子中的第一个位置，而当Harry出现在其他例子的不同位置时，我们希望模型依然能识别其为人名，而不是只能识别位于第一个位置的Harry。 前向传播 以NLP中“命名实体识别“任务为例，序列中每一个输入字符对应一个输出，即 \(T_y=T_x\) ： \(a^{<0>}\) 是初始的隐状态，一般置为零向量。 \(a^{<i>}\) 代表输入序列中第 \(i\) 个输入所隐含的信息，即时间步 \(i\) 的激活值。 \(x^{<i>}\) 代表输入序列中第i个字符，输入序列的长度为 \(T_x\) 。 \(\hat{y}^{<i>}\) 代表与 \(x^{<i>}\) 相对应的输出值。 RNN在进行前向传播时，不光考虑当前时刻的输入 \(x^{<i>}​\) ，也会考虑包含上一时刻的信息（激活值 \(a^{<i-1>}​\) ）。计算公式如下： \[a

1.1 欢迎 深度学习改变了传统的互联网业务，例如网络搜索和广告。但是深度学习同时也使得许多产品和企业以很多方式帮助人们。从获得更好的健康关注：深度学习读取x光图像，到生活中的个性化教育，到精准化农业甚至到驾驶汽车和其他方面。如果你想用深度学习来做这些令人窒息的操作，我（吴老师）将帮助你做到这一点。学完这套课程之后，你将能更加自信的继续深度学习之路。AI让我们在接下来的十年中创造更好的社会和时代。 AI是最新的电力，在几百年前，我们社会的电气化改变了每个行业（医疗，交通等）。AI领域发展最为迅速的就是深度学习了。因此，现在深度学习是广受欢迎的一种技巧。这个课程会帮你获得这种技能。 这门课程中你会学到： 第一门课，神经网络和深度学习，第一部门中将会学习如何建立神经网络，包含一个深度神经网络，以及如何在数据上训练他们。最后，将会用神经网络辨认喵星人。 第二门课，深度学习方面的实践，提升你的深度学习网络。学习构建深度学习网络以及如何让他表现良好。将会学到：超参数调整，正则化，诊断偏差，方差以及一些高级优化算法（如momentum，adam）。 第三门课，将会用2周的时间，学习如何结构化你的机器学习工程，构建机器学习的策略改变了深度学习的错误。举个例子：分割数据的方式，分割为训练集，比较集或改变的验证集以及测试集合，在深度学习中贡献不同，影响很大，应该如何处理呢？如果你听说过

文章目录 Lesson13 13-2 k-means算法 13-3 优化目标 13-4 随机初始化 13-5选取聚类的数量 Lesson13 K：聚类的数量 c (i) :样本点x (i) 被分到的聚类的索引值 μ k :第k个聚类中心的位置 13-2 k-means算法 1.聚类算法：把无标记（non-label）的数据分成一簇一簇的算法 2.k-means算法： 我的另一篇博客 3.k-means算法也可以分类那些数据比较集中的数据集，比如像这样： 4.这里需要注意一点，大写K用来表示聚类/簇的数量，小写k用来表示1~K区间里的某一个数 13-3 优化目标 1.优化目标： c i :第i个点被分类到的聚类的索引 J(c (1) ,c (2) ,…c (m) ,μ 1 ，…,μ k )= 1 m \frac{1}{m} m 1 ​ ∑ i = 1 m x i 到 x i 被 分 类 到 的 聚 类 中 心 点 的 平 方 \sum_{i=1}^m{xi到xi被分类到的聚类中心点的平方} ∑ i = 1 m ​ x i 到 x i 被 分 类 到 的 聚 类 中 心 点 的 平 方 我们就是要找到这一套c和μ，使得上述J最小。K-means算法的第一步就是在找这套c，第二步就是找这套μ 13-4 随机初始化 1.首先需要注意，应该使K<m 2.随机选取聚类中心的方法

主要是对吴恩达机器学习的视频来学习，学习了线性回归内容，总体进行复盘总结； 1、一元线性回归 回归模型是表示输入变量到输出变量之间映射的函数，回归问题等价于函数拟合，回归函数的求解最常用的代价函数是平方损失函数，平方损失函数可以用最小二乘法进行解决，本例中使用梯度下降法进行处理； 梯度下降法：优点：可以处理复杂的目标函数 缺点：如果代价函数不是凸函数，则容易得到局部最优解 学习率的选择，过小导致收敛速度慢，过大则会造成震荡 方法一：自己编写python代码实现 x = [ 1 , 2 , 3 , 4 , 5 , 6 ] y = [ 7 , 8 , 9 , 10 , 11 , 12 ] #x,y,数据,a 学习率,m迭代轮数 def linerRegre ( x , y , a , m ) : theta0 = 0 theta1 = 0 diff = [ 0 , 0 ] l = len ( x ) while m > 0 : for i in range ( l ) : diff [ 0 ] += theta0 + theta1 * x [ i ] - y [ i ] diff [ 1 ] += theta0 * x [ i ] + theta1 * x [ i ] * x [ i ] - x [ i ] * y [ i ] theta0 = theta0 - a / l *

相关链接： 斯坦福大学2014机器学习课程地址：https://www.coursera.org/course/ml 黄海广机器学习笔记：https://www.zhihu.com/people/fengdu78/activities 来源： CSDN 作者： Lonficer 链接： https://blog.csdn.net/Lonficer/article/details/104001267

想自学机器学习和深度学习?不妨边看专家讲解视频边自学。不仅能感受世界各地专家的熏陶，也能快速获取知识，一举两得。这篇文章整理了一个 YouTube 视频列表，供希望在该领域学习的朋友使用。 　　视频观看建议 　　我将视频分为三类：机器学习、神经网络、深度学习。为方便起见，你可以使用我创建的列表按顺序学习。特别推荐初学者根据顺序学习，以更好地理解视频。 　　这套参考视频集需要时间消化，若觉得视频太多请根据需要调节每次的学习时长。视频长度从几分钟到几小时不等。我已写出每个视频的摘要，供读者查阅。 　　一、机器学习相关视频 　　1. 机器人和人工智能的未来(斯坦福大学，吴恩达) 　　原标题：The Future of Robotics and Artificial Intelligence 　　链接：https://www.youtube.com/watch?v=AY4ajbu_G3k&feature=youtu.be 　　时长：16 分钟 26 秒 　　总结：开启机器学习之旅最好的方法就是，莫过于听全世界最好的老师和专家讲课。斯坦福大学 的吴恩达在此讲述了自己幼时的梦想，创造一个可以像人类一样思考和工作的机器人，并改善千万人的生活。另外，他还探讨了人类大脑和使机器行为更类人的软件之间的相似性。 　　2. 吴恩达机器学习讲座系列 　　原标题：Lecture Collection |