人工智能，机器学习，神经网络，深度学习的相互关系
机器学习
强化学习 也称为增强学习，通过与环境进行交互来学习解决问题的策略的一类算法。与有监督、无监督学习不同，强化学习问题并没有明确的“正确的”动作监督信号，算法需要与环境进行交互，获取环境反馈的滞后的奖励信号，因此并不能通过计算动作与“正确动作”之间的误差来优化网络。常见的强化学习算法有 DQN，PPO 等。
神经网络发展史
| 浪潮 | 代表人物 | 代表技术 | 进入低谷的原因 |
|---|---|---|---|
| 第一次 | Warrent McCulloch,Walter Pitts | MP神经元模型 | 无法解决XOR问题 |
| 43-69 | Frank Rosenblatt | Mark1 感知机 | |
| 第二次 | John Hopfild | Hopfild 网络 | 神经网络缺乏完备的理论支持，效果又不如SVM |
| 82-95 | David Rumelhart 和 Geoffrey Hinton | CNN,RNN,BP算法 | |
| Yann LeCun | BP算法应用于图像识别 | ||
| Jürgen Schmidhuber | LSTM | ||
| 第三次 | Geoffrey Hinton | 多层神经网络/deep learning | 兴起的原因：数据量和算力的提高 |
| 06- | Xavier Glorot | ReLU激活函数 | |
| Alex Krizhevsky | AlexNet/Dropout | ||
| 牛津大学Oxford Visual Geometry Group | VGG | ||
| GooLeNet | |||
| HeKaiMing | ResNet | ||
| Gao Huang，Zhuang Liu | DenseNet | ||
| Ian Goodfellow | GAN | ||
| DeepMind | DQN | ||
| BERT |
浅层神经网络的时间发展线
深层神经网络的时间发展线
TensorFlow 深度学习框架的 3 大核心功能
a) 加速计算 ，充分利用GPU
b) 自动梯度
c) 常用神经网络接口
来源：https://www.cnblogs.com/Alexkk/p/12335256.html