大数据、人工智能带来的危机:科技巨头会毁掉我们的生活吗?

久未见 提交于 2020-08-10 04:09:49

云栖号资讯:【点击查看更多行业资讯
在这里您可以找到不同行业的第一手的上云资讯,还在等什么,快来!

导读:Facebook和谷歌非常方便,但是这些创新产品远远无法与电力的发明,甚至室内厕所和清洁水相媲美,后者在改善人类健康、延长人类寿命方面发挥了至关重要的作用。

大数据、人工智能等技术的发展、科技巨头的崛起,为我们创造生活便利的同时,又带来了哪些危机和隐患?我们应该如何面对?

AFCE876D_7E2A_4d80_BA8C_BC5C65DA9484

01 高科技时代的零失业现象

半个多世纪以前,著名数学家约翰·冯·诺依曼曾提出,也许有一天,生产一台机器的成本会低于雇用或训练一个“工人”的成本,而这些机器将由其他学习如何生产机器的机器来生产。从企业的角度考虑,让机器替代人力的关键原因并不仅仅是机器提高了生产率。机器的设计、制造和管理比人力资源管理要容易和便宜得多。

比如,机器不会像人类那样罢工,也不需要专门设立一个人力资源部门来照顾人们的需求,而且机器不会被感情因素左右。正如之前我们所提到的关于放射科医生被机器取代的例子一样,诺依曼的预言正在成为现实。考虑到人工智能在过去5年所取得的进步,在未来,机器能取代的工作的范围和种类只会不断加速扩大。

在某些领域,人工智能的进步并不会取代劳动力,反而会提升人们的工作效率,这种创新往往被称为智能辅助创新。类似这样的创新形式可以增加社会对劳动力的需求,提高人们的工资水平。过去很多科技方面的革新都是智能辅助创新,但是我对此并不持乐观态度。

就业问题在过去十分严峻,未来很可能会朝着更加糟糕的方向发展。相关经济学文献曾经提出,技术革命可能会以“两极化”的形式发展,即社会未来的就业增长将分为两类:一类是技术门槛极高的工作,而另一类是技术门槛非常低,且工资相对较低的工作。

39C7B52D_BCCF_4134_A9C2_9BBFC3983B12

当机器生产取代了劳动力,失业率将会随之上升。有一个杜撰出来的故事很完美地描述了我们将会遭遇的困境。福特的主管和工会主席并肩俯视着新落成的汽车工厂,那里的大部分工作都是由机器完成的。“你打算怎么让那些机器支付你们工会的会费?”福特的主管挖苦道,“这些机器不会成为你们之中的一员。”工会主席如此回答道:“你要怎样才能让它们买你的车呢?”

就业机会的流失会导致消费需求降低,如果没有强有力的政府进行干预,经济可能会长期陷入停滞状态。最讽刺的是,如果这种情况真的发生,技术进步可能会摧毁经济,而不会为全人类带来福祉。

有些人认为,这正是美国在大萧条之前发生的情形。农业技术的飞速发展导致一些商品的价格急速下跌,从而为大萧条的爆发埋下了祸根。结果,1929~1932年,农业净收入实际下降了70%以上。

农民的收入迅速减少,与之相对应的是农民的财富也相应减少了。然后,伴随着农村土地和房屋的贬值,一个可怕的恶性循环开始了:失业的农民负担不起迁往城市的费用,当收入下降时,他们只好更勤奋地工作,生产出更多产品,结果适得其反,农产品的价格被压得更低。

此外,由于收入减少,这些农民买不起城市生产的商品,如汽车。因此,农民所遭受的苦难很快向城市蔓延,新一轮痛苦的循环开始了:城市收入水平的降低导致城市对农产品的需求量降低,从而再次压低了农产品的价格,农民所承受的负担进一步加重。

如此循环往复,经济陷入了低水平均衡陷阱(low-level equilibrium trap),这是“二战”的产物。在战后阶段,政府大力推动农民从乡村走向城市,训练他们,让他们足以在城市工作,从而带来了“二战”后的繁荣。

以上经验带来的教训就是,如果无法合理管控科技创新的步伐,技术进步不仅不会为人类带来繁荣,反而会酿成难以想象的灾祸。如今在比较好的经济大环境下,我们对管理面临技术革新的经济体有了更深入的认识。

保持劳动力市场充分就业是重中之重。当积极的货币政策(如降低利率或增加信贷供应)不起作用时,我们可以使用积极的财政政策(即减税或增加政府支出,特别是增加公共投资)来达成这一目的。货币政策和财政政策都会刺激总需求,只要有足够的刺激,经济总能恢复到充分就业的状态。

D5B0104F_A56D_4aec_98E1_164C6D44FB81

02 市场势力与人工智能

在前文中,我已经着重强调过市场势力正在侵蚀美国经济的多个部门,而且市场势力的扩张可能会导致经济效益降低,社会不平等问题加剧。而这些问题和其所导致的结果在高科技产业中表现得尤为突出。

大数据技术让像谷歌、亚马逊和Facebook一样的科技巨头掌握了大量客户的资料,而人工智能则进一步扩大了它们的市场势力。只要这些企业继续维持数据垄断,那么它们将会比任何人都了解自己的客户(它们也没有动机将这些数据共享给其他人)。大数据技术的拥护者认为,企业可以根据收集的数据为客户设计更能满足其需要的产品,并根据每个客户的要求进行定制。

他们还认为大数据能够推进医疗保健的发展,为所有人提供量身定制的医疗服务。搜索引擎企业声称它们可以使用这些数据更精确地投放广告,因此人们能更方便地获得他们需要的信息。以上都是大数据比较积极的一面,然而科技龙头企业也能利用这些数据,以牺牲客户的利益为代价,通过人工智能技术增强自己的市场势力,攫取更多利润。

这些新兴科技巨头所掌握的潜在市场势力要比20世纪初垄断企业所掌握的更加强大和危险。曾经,以Swift、标准石油(Standard Oil)、美国烟草(American Tobacco)、美国制糖(American Sugar Refining Company)及美国钢铁(US Steel)等为首的垄断企业可以利用其市场势力随意操纵食品、石油、烟草、糖和钢铁的价格。

然而,现在已经不仅仅是提高商品价格这么简单了。

Facebook可以通过改变算法来左右客户看到的信息,市场势力的影响力由此可见一斑。一种新的算法可能会导致某个媒体迅速衰落,也可能创造(甚至最终终结)一种新的、受众更加广泛的传媒渠道(如Facebook Live)。

由于这些科技巨头的市场势力过于庞大,竞争监管机构必须对此采取措施,传统的反垄断手段已经不足以应付现状,对于这些致力于拓展市场势力的龙头企业,政府必须跟上它们“创新”的步伐。

比如,就像我们之前曾经提到过的,美国是时候考虑将WhatsApp和Instagram从Facebook中分离出来了。同时,美国也要限制利益冲突的范围,如限制谷歌的在线商店在与那些在其平台上做广告的商家竞争时爆发的利益冲突。

美国必须进一步加强对高新技术的管理,如限制数据的访问和使用权限。接下来,我将分享一些可供参考的想法。

2871B472_798B_49d5_B622_4DEA8785E17B

03 大数据与客户定位

由于人工智能和大数据采集了消费者的偏好信息及愿意支付的价格,企业被赋予了价格歧视的权力,它们可以向那些对产品价值评价更高的消费者或选择空间较小的消费者收取更多费用。

价格歧视不仅有失公允,而且给经济的运转效率拖了后腿,因为标准经济理论是建立在无歧视性定价的基础上的。对于同一件商品,每个人所支付的价格应该是相同的,但是人工智能和大数据可以令不同的人支付不同的价格。

因此,大数据和人工智能让高科技企业分了更大一杯羹,而社会其余成员(如普通消费者)的处境却更加艰难。例如,史泰博(Staples)已经被证明可以得知在特定邮政编码区域的居民区附近是否有与其类型相同的商店,如果该地区没有的话,史泰博就可以对网上订单收取更高的费用。

保险企业也同样知道客户的邮政编码,并且会根据邮政编码收取不同的保费。它们不仅根据客户的邮政编码收取不同的费用,而且利用市场势力榨取更多利益。事实上,像上述这样通过邮政编码区别定价的案例主要针对的是少数族裔,因此人工智能和大数据已经被证明是施行种族歧视的新道具。

21世纪的数字经济扩大了企业对目标消费群体的影响力,使它们可以轻易地找到消费者的弱点。例如,人工智能可以辨别出容易对赌博上瘾的人,人们可能会被别有用心的组织蛊惑去拉斯维加斯或者就近的赌场(赌博)。

正如社会学家泽内普·图费克奇反复强调的那样,人工智能可以利用人们对诸如新鞋、手提包或者海滨旅行等非理性的渴望,向消费者提供有针对性的信息,导致人们大肆挥霍金钱,使感性的自我压倒理性的自我。

41B2A9AF_7667_470d_B340_CD767E75DFB6

诺贝尔奖得主理查德·塞勒在他的研究中描述了人们内心中感性自我和理性自我斗争的过程。新技术放大了人类软弱的一面,而更让人担心的是,大数据和人工智能可以帮助企业近乎完美地洞察人类的弱点,并据此调整未来的战略方向,以实现更大程度上的利益最大化。

大数据在很多科研领域中也十分有价值。一家基因企业收集的数据越多,它就越有能力分析一个人的DNA,并检测出某些特定基因序列。追求利益最大化的企业倾向于尽可能多地收集个人数据,拒绝将这些数据分享给其他人。从下面一则故事中可以看出,在企业追求利润的过程中,生命的凋亡只是另一种形式的附带损害。

“人类基因组计划”始于1990年,是一个致力于破译人类基因序列的伟大国际工程。该工程于2003年圆满结束。但是一些私人企业意识到,如果它们能走在这个项目的前面,就可以将破译出来的基因编码申请专利,进而牟取暴利。

例如,犹他州的麦利亚德(Myriad)公司获得了BRCA1和BRCA2两种基因的专利,并开发了一项基因测试技术来检测这两种基因的携带者。这项检测十分有价值,因为携带这些基因的女性罹患乳腺癌的概率很高。麦利亚德公司开始漫天要价,诊断费用从2500美元涨到4000美元,后者相当于整个基因组测序的成本。

高昂的价格超出了很多人的承受范围,但麦利亚德公司的诊断不仅价格昂贵,其检测技术也和其他所有测试技术一样并不完美。与此同时,耶鲁大学的科学家开发了一种号称结果更准确的检测技术,他们愿意以低廉的价格向公众提供基因诊断服务。

而作为该专利的“拥有者”,麦利亚德公司却不愿意他们这么做。它之所以拒绝,并非仅仅因为利润受到损失,而是因为它需要数据。

幸运的是,这个故事的结局是圆满的。分子病理学协会起诉了麦利亚德公司,协会认为天然的基因是不应该获得专利保护的。2013年6月13日,在一次历史性的判决中,美国最高法院一致做出裁决,否决了麦利亚德公司的基因专利。

自那以后,基因诊断检测的价格下降了,而且质量上升了。这个例子将专利对技术创新产生的负面影响体现得淋漓尽致。

69126D0D_35DC_4925_9CCD_35589026267C

当然,为了摸清客户的偏好,以便于榨干每个客户的最大价值,企业必须掌握大量数据,这意味人们会丧失个人隐私。

虽然有些人会认为,只要没做什么见不得人的事,有没有隐私其实没什么关系,但这种想法毫无疑问是错误的。因为任何一个收集了大量关于他人数据的人(或者组织)都有可能将部分信息泄露出去,个人信息的安全性将受到威胁。如今,大数据及信息技术的进步可以让企业和政府轻松地构建一个巨大的电子档案库。

有些人对此感到庆幸,因为美国的大数据技术掌握在像谷歌、Facebook或亚马逊这样的私人企业手中,而非政府。我并不认为这是件好事,一旦考虑到网络安全的问题,公共和私人之间的界限就变得十分模糊。

爱德华·斯诺登的爆料告诉人们,美国政府已经掌握了大量个人的信息,而且美国国家安全局可以轻易获取任何私人企业拥有的数据。此外,有关Facebook收集大量客户数据的意图、它将部分数据披露给其他机构的举动(如剑桥分析公司),以及它为保护数据所采取的安全措施(是否到位)——这一切都让人感到毛骨悚然。

简而言之,我们必须关注个人隐私。在这个时代,隐私和权力是密不可分的。拥有大数据技术的企业早就明白了这个道理,而作为它的狩猎对象,大多数消费者似乎对此无知无觉。

这种科技强权有很多种表现形式。人们已经注意到像Facebook、亚马逊和谷歌这样的信息巨头会通过信息优势来巩固自己的市场占有率,排挤竞争对手,并将自己的市场势力渗透到其他各个领域。

由于这些企业在数据上占据绝对优势,竞争对手几乎没有进入市场的空间。经济理论和过去的历史告诉人们,“老牌”垄断者缺乏创新的动力,它们更乐于巩固和拓展自己的市场势力,而不会耗费精力研究如何更好地为他人服务。

04 规范数据及其用途

如果大量数据被掌握在少数企业手中,由此而来的市场势力、个人隐私和安全问题将会引发社会动荡。这应该引起我们的关注。在应对这些问题时,政府可以采取行动的空间其实很大,如更合理地分配数据的所有权,规范数据的用途。

欧洲已经开始进行类似的尝试。有些科技巨头企业抱怨说,欧洲官员采取这些措施是因为他们“反美”。这样的解读当然是错误的。欧洲之所以采取行动,是因为欧洲的法律要求政府维持市场的竞争性,而且整个欧洲对个人隐私是极为看重的。美国在这方面一直落于下风,至少有部分原因在于科技巨头的政治影响力。

关于要如何限制科技巨头的垄断权力和对权力的滥用,有一种主张是将私人数据的所有权直接赋予个人。这意味着企业如果想使用这部分私人数据,必须向数据的所有者支付一定费用,而数据所有者也可以拒绝企业的请求,以免企业通过获取数据对自己进行剥削。

而这也意味着,至少数据价值其中的一部分归个人所有,而非科技企业。欧洲已经开始试水类似的措施,试图在一定程度上给予个人掌握私人数据的权力,如谷歌必须要获得客户明确的同意才能使用其数据。自由市场的拥护者则支持另一种解决方案:让客户自己决定。

因此,一些互联网企业提出,如果客户允许它们使用数据,互联网企业将对这些客户提供一小部分折扣,而大多数客户也欣然支持这项提议。一家企业的负责人曾向我吹嘘他能够以多么低廉的价格获得如此有价值的数据,并最终成功地将这些数据转化为大笔财富。

面对这种情况,有些人说:顺其自然吧。每个人都可以自由决定别人是否可以使用自己的数据。但在社会生活的许多领域,我们会作为一个社会整体对个人的选择加以约束。

32AE9FAA_500D_489e_BE1C_0683E8D73DDE

在一些情况下,我们的社会严令禁止个人做出即便是只会对自己产生危害的行为,如参与传销或出售器官。同样的道理也适用于个人数据的使用权,特别值得注意的是,当一个人的数据与其他人的数据相结合时,将会创造出更有利于企业剥削消费者的环境。

消费者实际上并不理解自己的数据有什么价值,他们也没有想过当自己的数据被一些心术不正的人利用时会发生什么,更不清楚企业对他们的隐私和安全漠视到了什么地步。大多数人甚至不知道产品责任法是什么,也不知道数据被泄露的后果是什么。

考虑到美国现有的法律体系并不公正,想要伸张正义就必须付出很大代价。艾可菲(Equifax)的丑闻揭示了美国企业的虚伪。

这家企业在未获得客户允许的情况下大量收集个人数据,其在2017年发生了一次大规模的数据泄露事件。由于系统遭到入侵,1.5亿美国人的私人信息转眼间被黑客盗走。更过分的是,艾可非不仅未能确保数据的安全,还试图利用数据泄露本身赚钱,受害者如果想要查明自己的数据是否被泄露,就必须签署弃权书。

对企业实施数据监管可以有很多种不同的形式。软性监管只会要求透明度,并对企业披露的隐私和安全政策进行审查,以确保其准确性。硬性监管需要更有力度的监督和禁令,如禁止卖和用客户数据,这样我们至少可以确保客户知道自己的数据被如何使用。此外,我们必须对数据的汇总加以限制。

人们必须意识到,随着企业掌握的数据总量增加,个人的隐私和权益就越有可能受到侵害。我们可以对数据的使用实行“知情同意”制度,但问题是必须对合理使用数据的方式做出定义,并确保个人意愿得到充分的尊重。

例如,很多人以为自己在 Facebook上设置的隐私等级已经很高了,但实际上 Facebook依然能高度自由地使用他们的个人数据。

政府对监管措施的加强可以更进一步,如规定企业在使用个人数据时需要支付的最低价格,甚至禁止企业在超出一定时间之后储存客户的个人资料。

设立一个审查程序也许是不错的选择。任何持有大量个人数据的企业都必须向审查小组披露这些信息的使用情况。考虑到一些科技巨头不堪入目的诚信记录,任何欺骗行为都必须受到严厉的惩罚。

还可以考虑对数据的使用或存储进行征税。允许人们收集、存储和使用大量数据的技术本身也给征税带来了很多便利。我们可以要求数据只能以“集合体”的形式存在,且这些被存储的数据没有单独的标识符(即以匿名数据的形式储存)。允许研究人员收集相关的数据用以分析消费者的行为模式,但这些数据不能直接指向特定的个人。

我们甚至可以更进一步,将数据视为一种公共产品,要求所有存储的数据(无论是否经过处理)都向社会开放,从而削弱科技巨头利用数据优势得以巩固的垄断地位。

但这种做法将会引发关于隐私问题的争论:少数几家大型科技企业利用大数据增强了自己的市场势力,但如果人们想要通过公开数据的方式打破僵局,那最终会出现一个巨大的“公共数据池”。

然而这意味着人们的隐私会受到更严重的威胁,也给了商家更多可乘之机。进入市场的企业将会争先恐后地利用公共信息为自己捞取更多利益,包括用上文提及的各种手段收集数据以剥削消费者,这反而会增加企业滥用数据的可能性。因此,即使要公开所有数据,政府也必须对数据的用途做出限制,并且避免数据过度集中化。

Facebook更接近于 “自然垄断”,难以进行规范管理。也许将 Facebook公有化是唯一的解决方式,借此 Facebook将不得不接受公众的严密监督。

关于作者:约瑟夫·斯蒂格利茨,全球尖端的经济学家之一,哥伦比亚大学教授,同时担任哥伦比亚大学全球思想委员会的联合主席。2001年,因其对信息经济学的开创性工作而荣获诺贝尔经济学奖。在此之前,他还获得了约翰·贝茨·克拉克奖。

【云栖号在线课堂】每天都有产品技术专家分享!
课程地址:https://yqh.aliyun.com/zhibo

立即加入社群,与专家面对面,及时了解课程最新动态!
【云栖号在线课堂 社群】https://c.tb.cn/F3.Z8gvnK

原文发布时间:2020-07-01
本文作者:Joseph Stiglitz
本文来自:“大数据DT 微信公众号 ”,了解相关信息可以关注“[大数据DT](https://mp.weixin.qq.com/s/1TLJphQYWG0oysb1H_i-kg

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!