当前的自动化功设备都加上许多传感器，可以用来侦测环境、与环境互动，并且具有自动修正错误的功能，可以作为人类操作的辅助。但是，这种辅助长期下来有可能会变成一种依赖，人类如果长期不去做一些事情，在某些方面会因为疏于练习发生「退化」。2018年10月29日，一架载有189名乘客和机组人员的印度尼西亚狮子航空波音737 MAX 8客机，在起飞13分钟后失联，随后被确认在西爪哇附近海域坠毁，机上人员全部遇难。截止到目前，事故调查工作仍在进行。133天之后，2019年3月10日，埃塞俄比亚航空一架波音737Max 8航班从亚的斯亚贝巴起飞，6分钟后坠毁。机上载有149名乘客和8名机组人员，全部不幸遇难。据报导，此次失事的是一架全新的波音飞机，四个月前才交付给该航空公司。初期调查结果表明，飞机的传感器可能存在问题，飞行控制计算机出现「数据错误」。 而当机师意识到这一数据错误后，飞机没有将控制权交回人类，「人机」周旋许久，最终酿成了这一事故。一起来看看事件经过。
传感器错误数据酿成悲剧
一切要从波音公司最新推出的一套自动防失速系统相关，该系统改变了波音737之前的设计，强调「数据搜集」和「自动化」，简单来说就是，波音公司在飞机探测迎角安装了一系列传感器。攻角传感器（AOA） 可以在飞行时计算翼在空中切割时产生的升力量。因为如果迎角太陡，升力会开始减小，最终产生空气动力学失速，飞机无法继续高空飞行。波音公司为了应付这一情况设计了一套自动化「应对措施」，一旦攻角传感器收到「太陡」的迎角数据，安全系统会自动给出「下压力」，降低机头，同时，作为警告，共轭控制器会剧烈震动发出声响。
但如果迎角探测器出了故障，MCAS就会在飞机正常飞行时候强行把飞机机头往下压，最后形成空难。这是调查给出的印度尼西亚狮航坠海的原因。很多人可能会困惑，那驾驶在做什么？飞机发生一系列不寻常讯号后，驾驶为何没有迅速采取补救措施呢？据海外媒体WIRED报导，即便驾驶有补救，也无济于事。Flightradar24数据显示，狮航失事飞机起飞后曾经有过突然下降的迹象，随后又有拉升，之后消失在追踪画面中。也就是说，驾驶在事故后曾有过手动调节，但并没有解除自动控制系统的操控，机组与控制系统周旋许久后，事故最终仍然没有避免。并且，不管是航空公司的管理层还是机师都不知道飞机上居然还装了这样一套系统。因此，机师基本没有为应对可能出现的风险做好准备。没有经过严格训练的机师，在最关键的几分钟里处理不当，最终很容易造成飞机坠毁。但狮航事故后，波音仍然坚持737-MAX 8安全，仅向机师发布安全提醒，未有安排全线客机停飞维修。波音原定1月为有关自动驾驶系统软件进行，但却宣布因技术问题等而推迟至4月。尽管最终调查结果还没有出现，但是基于目前的资料，本次失事飞机很有可能发生了和狮航一样或者类似的问题，因为临山或者靠海复杂多变的气候带来对机载系统的严峻考验。而此次出事的客机机型，在系统上很可能仍然存在相同问题。
从飞机到机师，自动化和人工操控如何平衡？
一年前，波音公司还是传统企业数字化转型的优秀代表，其转型进展得到业界一致认可。但短短半年时间，同是737 MAX 8客机却遭遇两次空难，并且，第一次的失事原因已确定为软件设计缺陷。737 MAX是波音历史上销售最快的机型，已经累计获得来自全世界92家客户的4300多架订单。737 MAX是在737的基础上升级了发动机和分离翼尖以实现更好的空气动力学性能。波音于2017年5月开始交付737 MAX，它的大客户包括西南航空，美国航空，加拿大航空，印度尼西亚狮航和几家中国航空公司。印度尼西亚狮航事故机型是787 MAX8，波音公司没有表明其他787 MAX机型是否可能存在类似的安全问题。之前，波音公司发出的公告并未要求检查或更换传感器或飞行控制计算机。更确切地说，波音公司现在正在做的是告诉机师如果碰到这样的情况应该如何操作。正如它的公告所说它在「指导航空公司如何培训机组人员在现有的条件下处理攻角传感器(AOA)数据错误的情况。」
波音的响应内容基本上可以总结为：「回去重新学习！时刻告诉自己该做什么！」但是这就意味着机师要无视仪器显示的数据和飞机警报。Embry-Riddle航空大学航空科学教授Westbrooks告诉媒体：「最终的答案是设定一个确定的俯仰角和发动机功率。」这就需要机师自己花费大量时间去辨别哪些数据是真实的，哪些是错误的。坠机事故调查正在进行中，除了传感器故障外，还可能存在其他问题。但事故还反应出过度依赖自动化系统的问题。教授Westbrooks称：「我们多年来一直在谈论机师手动飞行技术的退化问题。」 由于常年依赖自动化飞行系统，飞行机组人员在处理危急情况方面的培训不够，更不用说紧急情况。
资料和传感器能给人类更安全的世界吗？
科幻片和各种自动驾驶愿景都在为我们描绘一个更安全的世界：再也不会有注意力不集中、不遵守交通规则的人类驾驶，世界将再无「车祸」、「空难」。但是，事实似乎并非如此。另一个例子发生在2009年，法航447航班从里约热内卢飞往巴黎的过程中飞机空速传感器结冰，导致自动驾驶仪断开连接，机组人员试图手动飞行，但最终失败了，飞机撞向大西洋，造成228人死亡。结合全球首例无人车致行人死亡事件，人类如果对AI等自动化设备过于信赖，在汽车等具有「智慧化」的设备运行的过程中会降低警惕性，而事故往往会发生在降低警惕性的一瞬间。
虽然现代汽车的自动驾驶系统仍然处在很初级的阶段，但在航空领域，自动驾驶系统早已大行其道，飞机的自动驾驶系统，会根据预先设定好的航路，全程驾驶飞机，甚至完成降落，机师反而成为了辅助存在。当前的自动化功设备都具有自动修正错误，这原本是人类操作的不完美的补充。但是，这种补充也许会演变成一种掩盖。人类如果长期不去做一些事情，在某些方面会因为疏于练习发生「退化」。或许自动化设备失灵很少发生，但是一旦发生却比一些自然灾害更加来的致命。正如事后一些的猜测：机师技能熟练度无法判定哪些数据是真实的，哪些是错误的；又或许机师在处理危急情况方面的培训不够等等。这说明一切人造设备出现问题，原因总是在人的身上。我们一直在讨论的是如何促进人工智能发展，甚至做到无人值守，但是，现在我们有必要严肃的讨论一下他的负面影响了。我们接下来该以怎样的态度面对AI以及自动化，以及如何把握好人机结合的这个度。这一切都是智能世界到来前，我们需要面对的难题。
来源：oschina
链接：https://my.oschina.net/u/3820994/blog/3022517