OpenRes 0: 从头开始研究Deep Reasoning

帅比萌擦擦* 提交于 2020-04-16 15:49:45

【推荐阅读】微服务还能火多久?>>>

2020真的是不太平的一年,Covid-19全球肆虐,百年一遇,真希望2020能够重新开始。虽然如此,不能停止对通用人工智能AGI的探索呀!

2020年对于通用人工智能的研究来说也是很不一样的一年,需要改变。2019年Deep Reinforcement Learning进一步大爆发,Deepmind和OpenAI在星际,Dota,机器手上都展现了突破性的进展,然而DRL的通用性,泛化性上却仍然是一个很大的难题。

Yoshua Bengio和Yann Lecun在最近的Neurips和AAAI会议上为大家指出了Deep Learning新的研究方向,即从System 1到System 2:

System 2 按Bengio的话来说有很多种,我们可以简化的讲就是去解决人也需要思考一下的任务。我比较喜欢Reasoning推理这个词,推理是一个非常宽泛的概念,但却是我们日常生活每时每刻都需要的。从某种意义上讲,图像识别也是一种推理过程,只是相对比较直接。这种直接的推理问题现在的Deep Learning已经基本解决了,所以接下来就是要啃硬骨头,去解决复杂的推理问题。并且,AI只有在具备真正的推理能力下,才能实现所谓的ood (out-of-distribution Generalization),也就是更强的泛化能力。比如说我们人学了心理学可以把心理学的知识应用到股票交易上。

作为智能单元专栏的重新开篇,这里先不很详细的探讨细节,我们只想说方向。以前专栏的主要文章主要都是关于深度强化学习Deep Reinforcement Learning,及一部分的Meta Learning。那么现在,我们意识到只有深度强化学习也是无法到达AGI的,我们需要更多的组件,而解决Reasoning相关的问题,是通用AGI的又一组件,因此我们就来研究它吧。接下来,我们在专栏里要开辟一个新的篇章来探索和Reasoning相关的paper,技术,主要会包含以下方向:

  1. Meta Learning
  2. Neural-symbolic Reasoning, Logical Reasoning,...
  3. Physical Reasoning, Model-based Planning, World Model
  4. Out-of-Distribution Generalization, Compositional Generalization
https://github.com/floodsung/Deep-Reasoning-Papersgithub.com

上面的链接为看到的相关paper,我们也会选择一些有意思的paper进行解读。和Deep Reinforcement Learning有重叠的主要集中在第3类planning上,这也是一种很复杂的reasoning过程,Model-based RL已经是今年来DRL的核心研究方向了,我们要深入研究。

Reasoning这个领域目前比较杂,主要还是方向太多,相信随着研究的推进,这个领域会变得越来越清晰。Deep Reasoning就是要将Deep Learning和Reasoning连接在一起,按Lecun PPT上的原话就是Making Reasoning Compatible with Gradient-based Learning

关于OpenRes

对于这个新篇,我们取一个全新的子名:OpenRes,代表OpenResearch,我希望将自己正在研究思考的东西分享给大家(虽然水平有限)。以前写blog一般是写比较早就知道的,现在会写的更同步更实时,也会更专业(减少科普性,增加专业性)。另一层意思是OpenRestart,我们要从头开始去探索这个新的领域。

2020,就重新开始吧!

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!