WEF：2021年全球技术治理报告——在疫情时代利用第四次工业革命技术

业界作者：全球技术地图 2020-12-27 18:58:41 阅读：224

2020年12月，世界经济论坛（WEF）发布《2021年全球技术治理报告:在疫情时代利用第四次工业革命技术》（Global Technology Governance Report 2021: Harnessing Fourth Industrial Revolution Technologies in a COVID-19 World）。第四次工业革命的新兴技术在世界从新冠肺炎大流行中恢复并重建经济的过程中发挥着至关重要的作用，但它们也可能被滥用而产生消极后果，因此对这些技术的监管和治理成为社会关注的焦点。本研究考察了第四次工业革命技术在后疫情时代蓬勃发展的一些关键应用（人工智能、区块链、物联网、数字出行、无人机），以及让这些技术发挥最大潜力所面临的治理复杂性。报告描述了这些新技术共同的治理挑战与探索中的共同治理框架，除此之外还分别描述了各项技术的独特治理挑战。

1. 跨领域技术治理挑战

从无人机到物联网，第四次工业革命技术的每项技术都提出了自己独特的治理挑战，但这五项第四次工业革命技术中也存在一系列共同挑战。这些挑战包括:缺乏监管、技术误用产生的不利影响、新技术使用的责任划分问题、隐私保护和数据共享、执法部门对数据的访问和使用、网络安全问题、AI系统中人的监督、数据流跨境受限。

治理挑战	描述	例子
缺乏监管	对新技术的长期使用缺乏法律和道德上的准备	缺乏对面部识别的监管规则导致2020年1月一美国男子因面部识别错误匹配而被拘留30小时
技术误用产生的不利影响	犯罪分子使用新技术工具来伤害个人、组织和政府	比特币支付占2019年第一季度全球勒索事件赎金交付方式的90％以上，这是因为区块链的匿名性质使得执法机构难以溯源打击犯罪
新技术使用的责任划分问题	诸如自动系统或区块链等技术在发生纠纷时，难以界定各相关方责任	对于自动驾驶汽车发生的事故，判断责任应该落在车辆制造商，软件设计师，所有者还是乘员身上是一个非常难以界定的过程
隐私保护和数据共享	缺乏对隐私保护和信息共享的统一技术标准或治理框架	嵌入许多公共设施或移动设备中的物联网设备可以生成大量个人信息，如家庭中的智能设备，会给一些组织泄露大量的个人隐私数据
执法部门对数据的访问和使用	缺乏有关执法机构如何访问和使用敏感数据的规则	截至2019年11月，有237名英国警官因滥用执法数据库和访问个人数据而受到纪律处分
网络安全问题	新技术的大规模应用增大了网络安全防护的难度，也使网络攻击产生的后果更严重	新冠肺炎期间，2020年2月至4月全球针对金融业的网络攻击大幅上升238%；在美国，针对医院和医疗保健提供商的网络攻击增加了50%。世界卫生组织称观察到的网络攻击数量上升了5倍
AI系统中人的监督	对于人工智能驱动的系统何时需要以及需要多少人的参与监督才能安全有效地运行，存在相当大的争议	在测试自动驾驶车辆时，由于存在系统决策错误风险，后备驾驶员可能需要做好控制的准备
跨境数据流受限	数据和隐私法律因国家而异，各国对跨境数据共享的限制甚多，但数据是人工智能、自动驾驶和区块链等技术的重要组成部分，限制其流动会抑制这些领域的增长	当处于不同国家监管机构的控制之下时，区块链的多方制和跨境体系无法有效运转

2. 跨领域创新治理框架

为了应对上述新技术带来的挑战，最大限度地提高效益和避免潜在风险，报告提出了创新的治理和监管框架。

伦理治理。许多国家制定了伦理治理框架，为如何负责任地开发新兴技术提供了指导方针。2017年和2018年，新西兰社会发展部伦理学家蒂姆·戴尔(Tim Dare)提出了将隐私、人权和道德纳入政府算法设计过程的观点。2019年，英国政府的面部识别工作组发布了一份关于在警务中使用实时面部识别相关伦理问题的临时报告，报告还概述了一套 “实时面部识别使用的九项道德原则”，包括公共利益、有效性保证以及避免偏见和算法不公正。欧盟委员会与其他欧洲机构和成员国合作，发布了设计和开发新冠肺炎跟踪应用程序的指南，该指南强调了遵守一般数据保护条例(GDPR)和电子隐私指令的必要性。

公私合作。政府需要保护公众免受伤害，并为新技术提供管理，而公司需要为其社会义务承担责任。公共部门和私营部门应该合作以实现这些共同目标，充分发挥多利益主体参与的特点，共同创造适当的监管以及自我监管等机制。例如，日本金融监管机构金融服务局(FSA)已授予该国加密货币行业组织官方地位，使其能够先于其他国家机构对国内交易所进行监管和自我监管，该机构被授权代表加密货币行业制定有约束力的指导方针，包括本地交易平台的规则和交易的准确报告规则。

敏捷、反应灵敏的监管。通常情况下，法规不是面向未来的，而是对现有治理的一个滞后反应，它们往往需要几个月或几年的时间来制定，需要对广泛的公众意见进行审查，并且一旦制定就需要保持一定的稳定性。这并不适应如今技术突飞猛进的时代，因为当快速迭代的技术被传统拖沓的监管模式批准时，技术本身就已经过时了。为了让创新蓬勃发展，在新冠疫情大流行后的世界里，敏捷和反应灵敏的监管至关重要，这可能意味着监管要像敏捷开发流程一样，根据用户反馈检查其有效性。例如，美国国家公路交通安全管理局(NHTSA)在2016年发布了自动驾驶车辆指南，从那以后，根据行业参与者的反馈和自动驾驶技术的发展，该指南已经修订并重复了四次。

实验性的沙箱环境。沙箱，一开始是指研究人员用来观察计算机病毒的封闭操作系统，使开发者能够测试他们的应用。现在，拓展后的沙箱概念旨在让监管者可以观察一项新技术在孤立环境中的安全后果，通过这种方式，监管结构可以通过鼓励创新来加速初创企业成长。2020年4月，英国金融行为管理局推出了一个数字沙箱，供金融机构尝试创新的商业模式和产品来应对新冠疫情。许多国家正在试行无人机沙箱工具，印度、马拉维、日本和美国的无人机沙箱已经成功地在全国范围内从试点走向规模化，这些沙箱放松了法律约束，以鼓励企业测试新想法。

数据共享/互操作性。由于许多技术依赖数据来优化其部署，尤其是对于那些采用人工智能和数据分析的技术，更多的数据意味着更好的结果。但在许多国家，一些技术发展所需要的数据是非常敏感的信息，其传输共享受到不同程度、不同规则的阻碍，同时，这些数据还以互相不兼容的格式存储。全球无数的计划都聚焦于如何在道德与安全框架内大幅加快数据共享。如电信行业解决方案联盟(ATIS)为物联网创建了一个框架，以促进智能城市之间的数据共享、数据交换市场建立和公私合作。

多方监管合作。因为新兴技术渗透到国家边界，监管它们需要国家内部机构之间的合作(整体统筹监管以摆脱监管孤岛)以及国家间机构跨境合作。为了让新技术在全球范围内有效运作，各国，各行业，各企业需要国际层面的标准框架和准则。过去几年，金融技术行业的监管出现了一些趋同，全球金融创新网络(GFIN)是一个由50个组织（大多数是金融监管机构）组成的网络，使企业能够通过全球金融技术沙盒在其他国家测试其产品和服务。

3. 各新兴技术的独特治理挑战

除去以上对新兴技术的共同治理差距与共同创新框架的描述，报告还分别对各技术（人工智能、区块链、物联网、数字出行、无人机）独特的治理挑战进行分析。并将治理挑战其分为现存挑战（政府和其他组织普遍认为存在并已在努力解决的问题）、短期挑战（政府和其他组织对其存在争议且较少采取行动去解决的已知问题）、长期挑战（假设存在或者有出现趋势的问题，有很大不确定性）。

人工智能：

现存挑战

短期挑战

长期挑战

1.立法者与监管者的人工智能素养低

2.AI算法存在偏见、透明和可解释性等相关问题

3.利用人工智能进行虚假信息传播和数字操纵

4.数据隐私和数据权利

5.AI开发应遵循更加以人为本的思路

6.对于不需要人类参与就能做出致命决定的AI武器系统的监管和禁止存在很大争议

7.AI系统被成功攻击危及公众安全并降低公众信任

8.关于AI技术的地缘政治技术竞争

9.使用AI系统或面部识别技术对个人或群体进行监控

10.AI系统产出利益的公正分配

11.应保证AI市场公平竞争以防止AI垄断造成的社会限制

12. AI可能会对与AI技术一起成长的儿童成年后的决策产生负面影响

13.如何看待和监管由完全由AI进行决策和驱动的公司

14.AI系统的广泛使用导致大规模的员工失业

区块链：

现存挑战

短期挑战

长期挑战

1.区块链领域的网络安全

2.数字身份、资产和加密货币的监管碎片化

3. 缺乏技术互操作性与公认标准

4.区块链的联合治理还存在障碍，如无法创建公平、平衡的治理规则

5.基于区块链的智能合同在法律认定和保障上还存在障碍

6.上链数据的完整性与准确性较难验证

7.跨境监管不一致

8.区块链环境下如何进行第三方审计与指导

9.在一个拥有永久记忆的区块链世界如何保护个人信息的被遗忘权10. 采用“工作证明”共识机制的区块链平台（如比特币的“挖矿”过程）造成的大量资源消耗

11.适应可变数字资产发布的区块链也可能助长版权侵犯

12. 真正去中心化金融体系的愿景需要实现全球数字身份认证作为先决条件，而这面临重重阻碍

物联网：

现存挑战

短期挑战

长期挑战

1.智能监管合约与自动支付在发生纠纷时的法律责任认定问题

2.基于物联网的供应链和智能合约业务以数字方式快速交付，但税收仍以纸面形式慢速清算，两者之间的滞后给企业带来重大风险

3.相比于完善的安全功能，消费者和政府更重视价格和效用，这带来了物联网设备安全和质量的市场失灵

4.接触追踪引发的隐私问题

5.疫情背景下需要基于物联网与区块链的供应链跟踪方案

6.对物联网支持的新业务模式（如实物商品即服务模式）的监管存在不确定性

7.需要一个通用框架来确定执法部门何时以及如何能够访问物联网记录的数据，以平衡隐私问题和刑事调查

8.通过物联网设备进行家庭骚扰和侵犯隐私

9.通过物联网进行的网络攻击引发的责任分配问题

10.缺少屏幕的物联网设备如何向消费者呈现可理解的条款并征得消费者的知情同意？

自动驾驶、共享出行以及数字交通：

现存挑战

短期挑战

长期挑战

1.出行和交通数据的多方共享尚无商定的技术标准或治理框架

2.人们使用内燃机驱动的私家车出行的习惯模式很难改变

3.新的更方便的出行模式会蚕食公共交通的市场，从而威胁基础人群的出行

4.路边治理问题：电子商务、物流和门对门出行的持续增长导致对路边空间的竞争也越来越激烈（比如造成的大量路边停车问题）

5.自动驾驶技术如何影响现有对驾驶员的技术要求

6.新的出行技术和服务可能会带来新的出行鸿沟，对部分传统人群的出行和就业产生破坏性影响

7.未来需要在集成众多新技术、解决方案、参与方的基础上创建覆盖全市范围的无缝集成移动系统(SIMSystem)，需要什么样的治理才能使这样一个系统出现？

9.如何在新的出行服务和技术背景下平衡公共部门和私营部门的角色，以平衡监管、竞争与创新

10.目前自动驾驶车辆的道路测试监管以及未来上路部署的事故责任认定问题

无人机：

现存挑战

短期挑战

长期挑战

1.对无人机作为劳动力补充的监管

2.应该考虑制定法规来规范无人机如何运送紧急医疗物资

3.更多的无人机工作岗位需要新的监管和认证程序来管理这些新工人的培训和雇用

4.无人机数据和个人隐私问题

5.无人机行业还没有像民航业那样强大的空中交通管理系统

6. 不可避免的视频/音频的无意收集，可能会带来隐私侵犯的问题

7.目前缺乏无人机运营的可行商业模式，微薄的利润率可能阻碍无人机大规模应用

8.缺乏适航性认证标准和基础设施认证

9.无人机常见用例需要有针对性的特定法规，而不是依赖现有的其他服务监管框架

免责声明：本文转自赛博研究院，由赛博研究院实习研究员林是苗编译。文章内容系作者个人观点，本公众号转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

转自丨赛博研究院

作者丨林是苗

编辑丨刘瑾

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

电话：010-82635522

微信：iite_er