PR or Not PR,结果可能真的不一样。
机器之心报道,参与:张倩、蛋酱、小舟。
中国有句古话,叫「酒香不怕巷子深」。而在学术界,论文就是研究者酿出的酒。只要你的「酒」足够醇,总会得到大家的关注与认可。
但在社交网络影响日益扩大的今天,这句话的力量似乎越来越弱了。在论文水平差距不大的情况下,大家真正比拼的可能会是 PR 能力。
这个问题最近在 Reddit 上被提了出来。发帖者表示,ta 担心社交网络上越来越热的「自我宣传」行为会影响到审稿人的判断,导致宣传效果好的论文更易被接收,对盲审制度造成很大的破坏。
NeurIPS 2020 论文的提交截止日期是两周前。从结束提交开始,几乎每天我都会遇到来自机器学习研究人员的 Twitter 长文。这些帖子公开宣传他们的研究工作(显然是 NeurIPS 提交的研究内容,从 arXiv 预印本的格式和日期来看),其作者通常是来自谷歌、Facebook 的著名研究人员。他们有成千上万的粉丝,因此他们的 Twitter 也有很高的浏览量、点赞量和转发量。
我很高兴看到新的令人兴奋的研究,但同时也对这种宣传给论文审核过程带来的影响表示担忧。我知道 NeurIPS 并不禁止提交 arXiv 预印本,但是这种非常吸引人的广告将对盲审的冲击提高到了一个新的层次。
除了有损双盲审查程序以外,我还担心这样的做法会给审稿人增加社会压力。如果一篇论文在社交媒体上收获了整个社区的赞扬,审稿人就很难去拒绝甚至批评这篇论文。如果该论文来自著名研究者或著名机构,情况会变得更糟。
但是,在最近 Twitter 的讨论中,特别是在对这些帖子做出回应的顶级研究人员中,我没有发现关心这些问题的人。难道你会认为这无所谓吗?
发帖者提出的这个问题得到了很多人的共鸣。
有人表示,ML 和 CV 会议中的双盲审稿就是个骗局。
「实质上,它是一个打着双盲幌子的单盲系统。整个社区都生活在一个自欺欺人的世界里,他们假装这个世界上没有 arXiv 和社交媒体。」
在他看来,身处大型实验室的研究者在社交媒体上极力宣传自己的研究会带来更多呼声,这恰恰就是偏见的来源。在没有社交媒体影响的时代,审稿人的偏见可能是「哦,这是来自大型实验室的论文」,但在如今这个时代,审稿人的偏见就变成了「哦,这是一篇推特上点赞量很高的论文」。
他还举例来说明自己的观点,拿论文《End to End Object Detection with Transformers 》来说,它来自著名的实验室,第一作者也是业内知名的研究者,并且在 Reddit 上有着很多的讨论。此外,这篇论文身后也站着一贯强大的 Facebook 公关势力。当然,这里并不是说这篇论文不够好,而是想说明,在这种情况下,你很难判断 PR 对于论文的接收起到了多大的作用。
但在这种偏见上,审稿人需要负全部的责任吗?
有人认为这是审稿人的问题,他不该逛 arXiv,不该看到推特上的论文。这种要求就有点强人所难了:毕竟我们都不是活在 2000 年,没有智能手机,没有社交媒体,论文都由知名的博士研究者审阅。
时代变了,规则当然也要改变。
「我们现在遵守的还是 20 多年前的规则,审稿系统需要作出改变了,否则广大研究者将失去信心。」
也就是说,如果要将社交媒体、预印本平台的影响降到最低,大会组织方必须规定在论文接收结果公布之前禁止论文预印本的上传和 PR 行为。否则就很难做到真正的双盲。
发推能否提高论文被接收率还没有得到研究证实,但在人工智能领域里宣传自己的研究几乎已经成为了工作的标配。每到 AI 顶会截稿日期,知乎上总会出现「某某大会有哪些值得关注的研究」这样的问题,引来人们的讨论。
不过,宣传自己的论文可以提高引用量,这事儿肯定没跑了。来自不列颠哥伦比亚大学的一项研究表明,发推文宣传的确可以提高论文的被引用量和全球影响力。
这篇论文发表在本月的医学期刊《The Annals of Thoracic Surgery》上。在论文中,研究者将 112 篇有代表性的论文随机分成两组进行对照试验(发推宣传和不发推宣传)。结果表明,一年之后,发推宣传的论文所增加的引用量要远远高于未发推的论文,而且,Altmetric 得分也更高(该指标反映论文在全球范围内的传播、讨论程度)。
最后,宣传自己研究最高级的形式,可能是在论文还没有发表的时候就开始着手。
本周四,图灵奖获得者 Geoffrey Hinton 的一篇推文成为了人工智能领域里最热的话题:
「我认为自己在感知学习领域发现了一个很好的 idea,于是接受了一些邀请,要在下个星期讨论它。但我刚刚发现这个 idea 有致命的缺陷,所以取消了计划中的所有讨论,抱歉。」
不知 Hinton 之后是否会撰写一篇文章介绍他的新想法及其「致命缺陷」——即使是有错误的方向,或许对于我们来说也很有指导意义。我们都很期待 Hinton 大神的新研究。
参考链接:https://www.reddit.com/r/MachineLearning/comments/hbzd5o/d_on_the_public_advertising_of_neurips/
来源:oschina
链接:https://my.oschina.net/u/4264517/blog/4318285