人工智能颠覆性应用的增加、危机时期网络作用的扩大、政策与技术之间依赖关系的增长，是网络领域出现混合威胁的三大趋势。报告从相关技术发展的角度和可能产生的级联效应评估了这些趋势，指出这些趋势反映出人工智能为颠覆性应用创造了新的工具。未来，当人工智能以颠覆性的方式被使用时，可能会出现更多意想不到的事件和级联效应。报告指出，无人机、大数据、深度造假等也在改变人们对战争、隐私和影响力的理解。

趋势一：人工智能颠覆性使用的增加

当前，人工智能是影响网络领域的主要技术趋势之一。人工智能和机器学习正在以惊人的速度发展，越来越多的应用程序将人工智能作为其解决方案的一部分。人工智能赋能的攻击性网络行动将具有高效、精确、难以归类等特征。

①网络物理领域的级联效应。

物理领域中的大部分操作都依赖网络，在后勤和运输领域，陆地(公路和铁路)、海洋和空中交通控制在许多方面依赖于数字系统。关键基础设施(系统、工厂、流程、网络和设备)的中断或破坏将对民众健康、安全、经济和社会福利以及治理结构产生严重影响。网络信息在提高效率和效力的同时，也为攻击者提供了新的漏洞。恶意行为体可对关键基础设施发动具有连锁效应的攻击。人工智能解决方案可以探测目标并运送爆炸物以消除恐怖主义目标。无人机为恶意攻击者提供了部署或重新利用这些系统的条件，以达到有害目的，如撞毁自动驾驶汽车车队，将商用无人机变成面向目标的导弹等。

②人工智能在国家支持的信息行动中具有重要作用。

人工智能在政治领域的作用主要表现为，虚假信息对公众舆论的导向功能。利用人工智能大规模收集、分析公民信息并对其采取行动的能力，可以使监控和侵犯隐私的行为达到新的水平。日益增长的视觉信息文化以及人工智能技术的进步，将为欺骗和造假行动提供便利。预计，用于信息行动的人工智能支持技术将最易被冲突阈值以下的恶意行为体所采用。

需关注的问题：

1. 人工智能支持的首次网络攻击发生的时间、原因。

2. 在信息物理系统中，关键基础设施之间的联系。

3. 如何预测可能产生的级联效应，以及有能力、动机和意愿使用级联效应的行动体。

4. 非西方政府将如何利用人工智能，人工智能将对西方国家构成怎样的威胁，这些技术是否会出口到其他民主程度较弱的国家，从而促进进一步的反民主化。

5. 西方国家将如何在利用技术保障国家安全与保护公民隐私之间取得平衡。

趋势二：危机时期网络作用的扩大

危机来临时，社会通常会忽略打击外部恶意活动，因此网络和信息行动的数量都会增加。世卫组织报告称，新冠疫情期间的网络攻击数量增加了5倍。

①新冠疫情期间网络的使用。

恶意行为体通过攻击连网设备、渗透网络、传播恶意软件或发动拒止服务攻击来实现其目标。通过这些行动，行为体能够进行间谍活动、在战场上为可能发生的冲突或战争做准备，并破坏社会的重要功能以影响政治决策。新冠疫情期间的部分袭击针对医院和医疗研究中心，试图收集有关治疗、测试和疫苗的情报;另一部分袭击则针对终端用户。

关于网络威胁活动是否堪比战略武器，以及其在常规战争中具备的潜在破坏性一直没有定论。目前为止，网络威胁活动在法律和政策领域中都被视为在实际战争阈值下进行的行为。但这一问题在新冠疫情期间再次浮出水面，一些针对医院等关键卫生基础设施的攻击已经引发了对网络行动法律阈值的质疑。

②新冠疫情期间的操纵性信息干扰

操纵性信息干扰指行为体利用社交媒体等网络服务传播虚假信息等方式，增加民众对政府、医疗保健系统和其他公民的不信任。流入内部信息系统的虚假信息也容易受到寻求政治或经济利益的国内行为体的推动。虚假信息在危机期间也可用于煽动对基础设施的物理攻击，如5G基站。

混合威胁中的任何犯罪活动都是相关的。首先，犯罪活动大规模发生时会模糊态势感知，参与者和动机越多，就越难区分相关的混合威胁活动和具有升级潜力的战略行为。其次，假借世卫组织等知名机构的名义实施的骗局会制造可能被混合威胁行为体利用的漏洞。对抗混合威胁的一种方法是提高民众对官方机构的信任，从而提高整体社会弹性。

需要注意的问题

1. 从新冠疫情期间网络空间恶意行为中吸取的教训。

2. 操纵性信息干扰是否会影响民众对官方机构的信任。

3. 各国如何改变其对恶意网络和信息活动的归因和反应方式，特别是在危机时期中。

4. 网络领域中国际合作方面的缺口。

5. 对基础设施的物理攻击是否会被其他国家利用，甚至被复制。

趋势三：政策与技术之间依赖关系的增长

当前，政策制定者和技术开发商正在越来越多地影响网络领域的发展，两者之间的依赖关系也在增长。为实现经济增长、社会发展和国家安全，政策制定者和技术开发商之间需要进行建设性的对话。

①5G技术

随着5G技术的扩散，技术人员和政策制定者应该思考，能否相信从另一个国家制造商获得的技术不会对国家安全构成风险。一方面，部署5G技术在经济和功能方面非常重要;另一方面，部署可能不可靠的技术会对国家安全构成风险。

②操纵性信息干扰活动

2018年，为响应欧盟委员会处理虚假信息的目标，网络平台、领先社交网络、广告商和广告行业代表自发达成行为守则，以应对在线虚假信息和虚假新闻的传播;2020年，欧盟提出《数字服务法》和《数字市场法》两项立法以保护网络平台用户。

③人工智能技术

欧盟发布的人工智能白皮书呼吁平衡政策和技术发展。一份关于人工智能军民两用的报告也呼吁决策者和技术专家合作，为人工智能的恶意使用做好准备，并积极扩大参与预防和减轻人工智能恶意使用风险的利益相关者的范围。各国和国际组织应努力建立更有组织的对话形式，以便在技术变革由私营公司领导的环境下，在政策和技术之间取得平衡。

需要注意的问题

1. 决策者和技术公司之间对话的主要驱动因素。

2. 如何遵循欧盟委员会的虚假信息实践守则，以及如何将新平台纳入其中。

3. 围绕5G的讨论还可能出现在什么领域。

4. 有哪些结构性形式可用于讨论政策和技术之间的平衡。