plato

全球对话技术顶赛DSTC9落幕,百度NLP开源PLATO-2斩获四项冠军

会有一股神秘感。 提交于 2020-10-31 09:50:21
  机器之心发布    机器之心编辑部    全球人工智能学术竞赛 DSTC 是对话系统技术领域的顶级赛事。2020 年度第九届国际对话技术竞赛 DSTC9 共设有 4 个赛道 (Track-1~Track-4),主办方包括 Facebook、亚马逊、微软、卡内基梅隆大学、清华大学等,参与者广泛覆盖了企业和高校的参赛团队。   近期 DSTC9 官方陆续公布各个赛道排名。百度参与了 DSTC9 前 3 个赛道中 4 项任务的角逐,并在最终的榜单中拔得头名,成绩令人瞩目。这些赛道全面涵盖了开放域闲聊、知识对话、任务型对话等关键问题。据悉,百度在这些任务中所使用的核心技术,均基于其最近开源的开放域对话模型 PLATO-2。   PLATO-2 是基于隐空间技术的大规模开放域对话模型,参数规模高达 16 亿,可就开放域话题深度畅聊,在中英文效果上,已全面超越 Google Meena、Facebook Blender、微软小冰等先进模型。PLATO-2 采用了课程学习进行训练,其过程包括两个阶段:第一阶段,基于简化的 “一对一” 映射,训练得到基础的回复生成模型;第二阶段包含生成 - 评估两个模型,针对开放域对话的 “一对多” 问题,通过引入离散隐变量进行建模,训练得到更高质量的回复生成模型,同时训练评估模型,从多个候选中选择出最合适的回复。这种框架具有很强的通用能力

百度发布首个大规模隐变量对话模型PLATO

冷暖自知 提交于 2020-10-23 10:31:48
百度于去年10月公布的基于飞桨开源深度学习平台开发的通用领域对话生成预训练模型PLATO,相关论文最近已正式被ACL 2020接收。 PLATO是业界首个基于隐空间(Latent Space)的端到端的预训练对话生成模型。据悉,该模型利用隐向量来表示对话的潜在方向,从而达到对话内容丰富度和流畅度的显著提升。针对具体的对话任务,基于PLATO可以用少量数据训练得到非常流畅的对话系统。 论文名称: PLATO:Pre-trained Dialogue Generation Model with Discrete Latent Variable 论文地址: https://arxiv.org/abs/1910.07931 预训练模型及代码: https://github.com/PaddlePaddle/Research/tree/master/NLP/Dialogue-PLATO 引言 研发开放领域(Open-Domain)的对话机器人,使得它能用自然语言与人自由地交流,这一直是自然语言处理领域终极目标之一。 对话系统的挑战非常多,其中有两点非常重要,一是大规模开放域多轮对话数据匮乏; 二是对话中涉及常识、领域知识和上下文,因此在对话回复时,存在“一对多”问题。 比如这个例子“李雷:今天好冷啊,外面风好大。”韩梅梅Bot可以怎样回复李雷呢? A.是啊,天气预报说今天气温骤降10度呢。

本周AI热点回顾:动森首届「AI 顶会」即将召开、《我的世界》里搭建神经网络、一位中国博士把整个CNN都给可视化了

♀尐吖头ヾ 提交于 2020-05-07 19:18:57
01 重要通知:动物森友会首届「AI 顶会」ACAI 2020即将召开 众所周知,因为疫情的原因,ICML、ICLR、CVPR 等人工智能顶级会议都已经改为了线上举办。 自从 AAAI 2020 之后,今年内大概率不会再有线下举办的 AI 会议了。比如这几天正在举办的 ICLR 2020,原本打算远赴非洲参会的人们,现在只能是网络一线牵。 正在线上举行的 AI 顶会 ICLR 2020 有一个口袋妖怪风格的虚拟环境「ICLR Town」,参会者在这个环境中的形象与视频会议几乎同步。 网络虚拟环境成为了人们持续交流的最重要途径。继网友在《我的世界》里盖学校、举办毕业典礼之后,AI 学术会议也挪到了游戏里。这次,他们看中的是 Switch 的「动物森友会」。这是个没有固定剧情的开放游戏,非常注重沟通,玩家可以在里面独自生活,不受默认的剧情、任务限制。 目前,动物森友会中的首届「AI 顶会」ACAI 2020 已经开始筹备,这一新生会议将在三个月后正式举行。 ACAI,顾名思义,就是 Animal Crossing Artificial Intelligence 的意思,虽然是在虚拟空间举办,但这场活动从规格、程序和人气上来看,和真正的学术会议相比也并不逊色。 这场 workshop 是由佛罗里达国际大学博士 Josh Eisenberg 组织举办的,他现在主要从事自然语言理解方面的研究

ACL2020|PLATO:百度发布首个大规模隐变量对话模型

情到浓时终转凉″ 提交于 2020-04-17 19:57:04
     本文对百度被 ACL 接收的论文《PLATO:Pre-trained Dialogue Generation Model with Discrete Latent Variable》进行解读,相关工作通用领域对话生成预训练模型PLATO 已于去年10月份公布。   PLATO 是业界首个基于隐空间(Latent Space)的端到端的预训练对话生成模型。据悉,该模型利用隐向量来表示对话的潜在方向,从而达到对话内容丰富度和流畅度的显著提升。针对具体的对话任务,基于PLATO可以用少量数据训练得到非常流畅的对话系统。    作者 | 百度 NLP    编辑 | 丛末      论文地址:https://arxiv.org/abs/1910.07931   预训练模型及代码:https://github.com/PaddlePaddle/Research/tree/master/NLP/Dialogue-PLATO    1    引言   研发开放领域(Open-Domain)的对话机器人,使得它能用自然语言与人自由地交流,这一直是自然语言处理领域终极目标之一。   对话系统的挑战非常多,其中有两点非常重要,一是大规模开放域多轮对话数据匮乏; 二是对话中涉及常识、领域知识和上下文,因此在对话回复时,存在“一对多”问题。   比如这个例子“李雷:今天好冷啊,外面风好大。

先天认知与深度学习

纵饮孤独 提交于 2020-02-28 02:21:01
“天赋论学说认为,人类思维是与生俱来的思想或知识。在这种理念中,最著名的是柏拉图的形式理论,以及后来的笛卡尔的《沉思录》。目前,这一观点正在获取神经科学方面的证据,以证实我们确实生来就对我们的世界有先天的认识”。 Figure 1: An elder Plato walks alongside Aristotle, The School of Athens, Raphael 然而,“天赋论”学说与“纯粹主义”机器学习方法是相冲突的。在这种“纯粹的”机器学习算法中,算法仅从数据中学习,而无需进行显式编程或配备预编程的计算和逻辑模块。 “思想的实际内容是非常深奥、无比复杂的;我们不应该试图寻找一些简单的方法来思考思想的实际内容,比如用简单的方法来思考空间、物体、多主体或对称性等内容。所有这些都是任意的、内在复杂的外部世界的一部分。它们不是应该被内置的,因为它们的复杂性是无止境的;相反,我们应该只构建那些能够发现和捕获这种任意复杂性的元方法。” ——The Bitter Lesson Rich Sutton March 13, 2019 但是,有一种持截然相反观念的思想流派,建议将符号主义人工智能技术与深度学习相结合。 深度学习的未来 纽约大学教授Gary Marcus等人提倡的一种观点认为,深度学习需要与更古老的、象征主义的人工智能技术相结合,以达到人类的智能水平。但是

快速学习时序图:时序图简介、画法及实例

泪湿孤枕 提交于 2019-12-27 16:13:10
【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>> 快速学习时序图:时序图简介、画法及实例 那只猫的鱼订阅专栏 2017-03-15 9.3万 218 37 释放双眼,带上耳机,听听看~! 00:00 00:00 时序图作为常用的UML交互图,可以直观的传达系统内外之间的交互过程,经常用在详细设计文档中。下面本文综合参考了多篇时序图的教程,根据作者的思路将时序图做了更深入的讲解。 一、 什么是时序图? 时序图(Sequence Diagram),亦称为序列图、循序图或顺序图,是一种UML交互图。它通过描述对象之间发送消息的时间顺序显示多个对象之间的动态协作。 时序图是一个二维图,横轴表示对象,纵轴表示时间,消息在各对象之间横向传递,依照时间顺序纵向排列。 二、 时序图的作用是什么? 1、展示对象之间交互的顺序。将交互行为建模为消息传递,通过描述消息是如何在对象间发送和接收的来动态展示对象之间的交互; 2、相对于其他UML图,时序图更强调交互的时间顺序; 3、可以直观的描述并发进程。 三、 组成元素有哪些? 1. 角色(Actor) 系统角色,可以是人、机器、其他系统、子系统;在时序图中用表示。 2. 对象(Object) (1)对象的三种命名方式 第一种方式包括对象名和类名,例如:直播课时:课时,在时序图中,用“对象:类”表示; 第二种方式只显示类名

Plato software error

别来无恙 提交于 2019-12-12 02:52:48
问题 I am getting this error while using plato for one of my project to find maintainability index for angular.js application: plato -r -d report "angular" angular-master C:\Users\pritesh\AppData\Roaming\npm\node_modules\plato\lib\util.js:15 var lastSlash = files[0].lastIndexOf(path.sep); ^ TypeError: Cannot read property 'lastIndexOf' of undefined at Object.exports.findCommonBase (C:\Users\pritesh\AppData\Roaming\npm\node_modules\plato\lib\util.js:15:27) at Object.exports.inspect (C:\Users