来源：新浪、VB
近日，彭博社披露的一份欧盟人工智能“白皮书”草案显示，欧盟计划对人工智能开发者提出具有法律约束力的新要求，以确保现代科技的开发和使用符合道德规范。
3-5 年内暂禁公共场所人脸识别
据路透社报道，这份长达 18 页的草案建议 3 至 5 年内禁止人脸识别技术应用于公共场所，目的是留出更多时间评估技术风险。草案指出：“基于这些现有规定，未来的监管框架可能会进一步推进，包括限时禁止公共场所使用人脸识别技术。”
欧盟委员会称，需要出台新的严格规定来支持现有的隐私和数据保护法规。
作为建议的一部分，欧盟还希望成员国任命相关部门监督人工智能政策规则的执行情况。
这份草案将于 2020 年 2 月中旬公布，最终内容可能有所改变。
谷歌 CEO 表示支持，微软总裁： 不应禁止
欧盟有关暂时禁止面部识别技术的提议赢得了谷歌母公司 Alphabet CEO 桑达尔·皮查伊（Sundar Pichai）的支持，但微软总裁兼首席法务官布拉德·史密斯（Brad Smith）则反应冷淡。
皮查伊指出，这种技术可能会被用于不道德的用途，因此应该暂停。但史密斯则表示，这种禁令就像是使用“切肉刀”而非“手术刀”来解决潜在的问题。
“我认为，重要的是各国政府和监管机构应该尽快解决这个问题，为其提供一个框架。”皮查伊在布鲁塞尔智库 Bruegel 组织召开的一次会议上表示。“这种技术已经接近实现，但我们可能需要等待一段时间，真正考虑该如何加以使用。”他还补充称，这项技术的使用“要由各国政府来规划方向”。
史密斯则列举了面部识别技术在一些情况下能够带来的好处，比如非政府组织可以使用这种技术来寻找失踪儿童等。“我真的不愿意说，让我们阻止人们使用一种可以帮助家人团聚的技术吧。”史密斯说道。“我想说的第二点则是，如果你相信能有一种合理的替代方案，可以让我们用‘手术刀’而非‘切肉刀’来解决这个问题，那就不会想要禁止这种技术。”
史密斯称，重要的是先找出问题、然后制定规则，从而确保该技术不会被用于大规模监控。他说道：“归根结底，让技术变得更好的方法只有一个，那就是用起来。”
各国出手探索监管举措，尺度如何把握？
近年来，欧盟一再表示希望成为道德 AI 的领导者。
2018 年 12 月，欧盟人工智能高级别专家组向社会发布人工智能道德准则草案，开始讨论“可信赖人工智能”并给出官方解释。草案认为，“可信赖人工智能”有两个必要的组成部分：首先，应尊重基本权利、规章制度、核心原则及价值观，以确保“道德目的”，其次，应在技术上强健且可靠，因为即使有良好的意图，缺乏对技术的掌握也会造成无意的伤害。
2019 年 4 月，欧盟委员会发布人工智能道德准则，准则由 2018 年 12 月公布的草案演变而来，提出实现可信赖人工智能的七个要素，要求不得使用公民个人资料做出伤害或歧视行为。
欧盟委员会当时表示，正在采取三步行动以促进可信赖人工智能健康发展：制定可信赖人工智能的关键要求；启动利益相关者的大规模试点阶段；为以人为中心的人工智能建立国际共识。
与欧盟的谨慎作风不同，美国白宫在 2020 年 1 月 7 日提出 10 条人工智能监管原则，要求避免联邦机构对人工智能应用的过度干预，强调监管的灵活性。其中，灵活性原则指出，大多数情况下，试图规定死板的人工智能应用规则是不切实际且无效的，因为人工智能将以预期的速度发展，机构需要对新的信息和证据做出反应。
在中国是什么情况呢？
2019 年 9 月初，一款名为「ZAO」的 AI 换脸 APP 引发舆论广泛关注。作为国内第一个爆款级 AI 换脸应用，ZAO 的换脸操作门槛很低，用户在通过人脸识别完成肖像权验证之后，就可以通过拍摄或上传人脸照片来合成视频。其将之前只是听说的技术带到现实生活中，引发了诸多争议，例如收集人脸等个人生物识别信息未获用户明示同意、个人信息处理规则不清晰、过度索取肖像权、著作权侵权、数据泄露或滥用风险等。随着相关争议不断发酵，ZAO 对获取用户同意的方式和用户协议、隐私政策中相关条款作出了调整。
ZAO 的火爆也引起了监管部门的注意。9 月 3 日，工信部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈，要求其严格按照国家法律法规以及相关主管部门要求，组织开展自查整改，依法依规收集使用用户个人信息，规范协议条款，强化网络数据和用户个人信息安全保护。工信部同时指出，要进一步加强新技术新业务安全评估，切实采取有效措施，积极防范自有业务平台被利用实施电信网络诈骗等风险隐患。
9 月 18 日，网信办副主任刘烈宏在国新办发布会上回应称，网信办积极支持新技术、新应用发展，同时也采取必要措施防范随之带来的风险。网信办已会同有关部门出台了《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》、《个人信息安全规范》等法规标准，《网络生态治理规范》正在征求意见，通过这些法规、标准，指导督促互联网企业进行安全评估，监管新上线的新技术、新应用。
近日，彭博社披露的一份欧盟人工智能“白皮书”草案显示，欧盟计划对人工智能开发者提出具有法律约束力的新要求，以确保现代科技的开发和使用符合道德规范。
3-5 年内暂禁公共场所人脸识别
据路透社报道，这份长达 18 页的草案建议 3 至 5 年内禁止人脸识别技术应用于公共场所，目的是留出更多时间评估技术风险。草案指出：“基于这些现有规定，未来的监管框架可能会进一步推进，包括限时禁止公共场所使用人脸识别技术。”
欧盟委员会称，需要出台新的严格规定来支持现有的隐私和数据保护法规。
作为建议的一部分，欧盟还希望成员国任命相关部门监督人工智能政策规则的执行情况。
这份草案将于 2020 年 2 月中旬公布，最终内容可能有所改变。
谷歌 CEO 表示支持，微软总裁： 不应禁止
欧盟有关暂时禁止面部识别技术的提议赢得了谷歌母公司 Alphabet CEO 桑达尔·皮查伊（Sundar Pichai）的支持，但微软总裁兼首席法务官布拉德·史密斯（Brad Smith）则反应冷淡。
皮查伊指出，这种技术可能会被用于不道德的用途，因此应该暂停。但史密斯则表示，这种禁令就像是使用“切肉刀”而非“手术刀”来解决潜在的问题。
“我认为，重要的是各国政府和监管机构应该尽快解决这个问题，为其提供一个框架。”皮查伊在布鲁塞尔智库 Bruegel 组织召开的一次会议上表示。“这种技术已经接近实现，但我们可能需要等待一段时间，真正考虑该如何加以使用。”他还补充称，这项技术的使用“要由各国政府来规划方向”。
史密斯则列举了面部识别技术在一些情况下能够带来的好处，比如非政府组织可以使用这种技术来寻找失踪儿童等。“我真的不愿意说，让我们阻止人们使用一种可以帮助家人团聚的技术吧。”史密斯说道。“我想说的第二点则是，如果你相信能有一种合理的替代方案，可以让我们用‘手术刀’而非‘切肉刀’来解决这个问题，那就不会想要禁止这种技术。”
史密斯称，重要的是先找出问题、然后制定规则，从而确保该技术不会被用于大规模监控。他说道：“归根结底，让技术变得更好的方法只有一个，那就是用起来。”
各国出手探索监管举措，尺度如何把握？
近年来，欧盟一再表示希望成为道德 AI 的领导者。
2018 年 12 月，欧盟人工智能高级别专家组向社会发布人工智能道德准则草案，开始讨论“可信赖人工智能”并给出官方解释。草案认为，“可信赖人工智能”有两个必要的组成部分：首先，应尊重基本权利、规章制度、核心原则及价值观，以确保“道德目的”，其次，应在技术上强健且可靠，因为即使有良好的意图，缺乏对技术的掌握也会造成无意的伤害。
2019 年 4 月，欧盟委员会发布人工智能道德准则，准则由 2018 年 12 月公布的草案演变而来，提出实现可信赖人工智能的七个要素，要求不得使用公民个人资料做出伤害或歧视行为。
欧盟委员会当时表示，正在采取三步行动以促进可信赖人工智能健康发展：制定可信赖人工智能的关键要求；启动利益相关者的大规模试点阶段；为以人为中心的人工智能建立国际共识。
与欧盟的谨慎作风不同，美国白宫在 2020 年 1 月 7 日提出 10 条人工智能监管原则，要求避免联邦机构对人工智能应用的过度干预，强调监管的灵活性。其中，灵活性原则指出，大多数情况下，试图规定死板的人工智能应用规则是不切实际且无效的，因为人工智能将以预期的速度发展，机构需要对新的信息和证据做出反应。
在中国是什么情况呢？
2019 年 9 月初，一款名为「ZAO」的 AI 换脸 APP 引发舆论广泛关注。作为国内第一个爆款级 AI 换脸应用，ZAO 的换脸操作门槛很低，用户在通过人脸识别完成肖像权验证之后，就可以通过拍摄或上传人脸照片来合成视频。其将之前只是听说的技术带到现实生活中，引发了诸多争议，例如收集人脸等个人生物识别信息未获用户明示同意、个人信息处理规则不清晰、过度索取肖像权、著作权侵权、数据泄露或滥用风险等。随着相关争议不断发酵，ZAO 对获取用户同意的方式和用户协议、隐私政策中相关条款作出了调整。
ZAO 的火爆也引起了监管部门的注意。9 月 3 日，工信部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈，要求其严格按照国家法律法规以及相关主管部门要求，组织开展自查整改，依法依规收集使用用户个人信息，规范协议条款，强化网络数据和用户个人信息安全保护。工信部同时指出，要进一步加强新技术新业务安全评估，切实采取有效措施，积极防范自有业务平台被利用实施电信网络诈骗等风险隐患。
9 月 18 日，网信办副主任刘烈宏在国新办发布会上回应称，网信办积极支持新技术、新应用发展，同时也采取必要措施防范随之带来的风险。网信办已会同有关部门出台了《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》、《个人信息安全规范》等法规标准，《网络生态治理规范》正在征求意见，通过这些法规、标准，指导督促互联网企业进行安全评估，监管新上线的新技术、新应用。
来源：oschina
链接：https://my.oschina.net/u/4436414/blog/3160979