追剧也不能忘记学习:《西部世界》对网络安全的寓言意义
美国HBO电视网出品的《西部世界》(Westworld)虽然故事情节设定在未来,但却是对当今网络安全的一个寓言。
在枪林弹雨的网络安全世界中,到处都危机四伏。运营现代企业有时候就像在狂野西部(Wild West)最阴暗的地方开酒吧一样危险重重。实际上,西部牛仔时代和现代网络安全问题之间的相似之处非常多,HBO电视网出品的《西部世界》就完美地证实了这一点。
如果你还没有看过《西部世界》这部美剧,那么由我简单给你介绍一下故事情节:有这么一个地方,与我们相处的世界一模一样,只不过,在这里你可以为所欲为,烧杀抢掠,纵欲杀人,条件是你花钱买入场券就行。
西部世界中的游客们在这个游乐园里的一切行为都是无罪的,因为乐园里的接待员全都是人工智能的机器人,他们就像网络游戏中的NPC,供玩家开战故事而设。尽管他们与真人几乎没有差别,一样会痛、会哭、会笑,但他们以及发生在他们身上的一切却都是假的,他们的行为表现都只是创造者们输入进去的既定程序,其本质不过是供人玩乐的机器人。他们每天的生活都是按照写好的剧本进行的,第二天,之前的记忆就会被清除,一切剧情都跟昨天一样。日复一日重复着悲惨的剧情,如果说变化,也只有新的游客用来折磨他们的方式各有不同而已。
听起来确实有种“脑洞大开”的感觉,但你知道吗?其实,西部世界遭受的问题与当今网络安全专业人士所面临的问题极为相似。实际上,西部世界的缺陷正是应对当今最危险的数字威胁的有用寓言。
1. 身份识别
如果您的企业在验证身份方面遇到了困难,那么您并不孤单:西部世界乐园中也存在同样的问题。
毕竟,我们都以为自己知道夏洛特·黑尔(Charlotte Hale,西部世界董事会执行董事)是谁,但事实证明,她在第二季一开始就被机器人版本的“自己”杀死了。事情是这样的,伯纳德通过德洛丽丝 · 艾伯纳西的意识球(相当于存储机器人记忆的优盘),将德妹的心智植入了和黑尔长得一模一样的机器人系统中,塑造了一个德妹版本的黑尔,最终,德妹版的黑尔干掉了真正的人类黑尔,并顶替了她。然后是伯纳德(也是机器人),其实际上是西部世界中的早期创造者之一阿诺德(Arnold),他也死了。
如果你不理解我的意思,请想象一下,日复一日,来自合法和非法用户的数百万个访问请求会为你的系统造成怎样的认证负担,它是否会产生混淆?
凭据不会减少:在当今的威胁环境中,凭据非常容易被盗。相反地,准确识别用户(或机器人)的最佳选项是依靠验证的组合,例如多因素身份验证、行为生物识别(包括语音识别、键入模式、鼠标移动等等)以及浏览器和IP信息等。
如果一个系统在第二季中通过多种验证组合分析了黑尔的身份,它就会发现,即便该机器人看上去与黑尔无异,但事实却并非如此。同样地,即便攻击者复制了一个验证身份信息,也几乎不可能复制所有验证组合。
2. 人工智能(AI)法规
《西部世界》的吸引力之一就是它对于人性的深度探索和思考。如果说我们的意识是个性的症结所在,其最内核的意识终究是趋利避害的利己主义,那么,在一个可以随意构造、更改、下载、上传和销毁的意识世界中,我们可以不遵循法律法规、伦理道德的约束,那么人类展现出现的还是这样贪婪卑劣的一面吗?到底会发生什么呢?这个问题严重困扰着西部世界创造者阿诺德(Arnold)的良心,并且最终决定了他的灭亡。
在西部世界中,人类与人造意识(即人工智能)之间的纠缠不容易解决;在现实世界中,又何尝不是如此呢。2017年,Elon Musk呼吁对人工智能(AI)进行监管,以免对人类构成威胁。但是,考虑到法规会阻碍技术创新的步伐,所以美国国会对AI立法采取了“观望”的态度。结果是到目前为止,AI着实实现了技术上的创新,但是在没有严格的法规、标准和要求的情况下,也催生了利用机器学习和AI开发“deepfakes”欺诈技术的行为。
我认为,规范AI的一种实用方法是使用现有的数据隐私法,并将其扩展或复制以覆盖机器学习和AI。
3. 威胁和漏洞
在《西部世界》中,即便是最先进的机器人也容易受到恶意软件的攻击。但是,最有趣的也许是,剧中所展示的威胁很容易被视为现代网络安全威胁的一个寓言:
内部威胁:《西部世界》的一名程序员埃尔西(Elsa)在一个机器人接待员体内发现了一个基于激光的卫星上行链路,有人正使用这些接待员将乐园的数据传送出去。后经调查发现,往外发射数据的正是公司质保部门主管特蕾莎·卡伦。
持续存在的高级威胁:机器人领袖梅芙(Maeve)利用西部世界的技术人员Felix和其他机器人一起发动起义,因为有人在梅芙体内植入了出逃程序,让其以预先设定的叛乱活动逃离西部世界。
恶意代码:在酒吧工作的机器人接待员克莱门汀(Clementine)被更新了新的代码变成了“行走的病毒”,随意散播病毒,只需要通过网络发送想法,Clementine就能够命令未觉醒的机器人们残忍地互相杀害。
物联网漏洞:在第三季的首映式中,德妹闯入了一个亿万富翁的智能住宅中,这使得房屋不再对主人的命令做出反应。剧中没有明确表明智能家居是否受到不安全的网络服务,生态系统接口或默认设置的损害,但Dolores确实能够迅速地控制住它们。
启示
我们可以从上述威胁和脆弱性以及西部世界中出现的身份认证问题和AI难题中学到什么呢?就是要认真对待它们。人们很容易将网络安全视为仅存在于真空中的问题,觉得它只会影响数字网络,只要我们脱离计算机,数字网络就不会威胁到我们。
但是现实情况是,网络安全与现实世界息息相关,其破坏能够产生非常实际的危害。西部世界向我们展示了,问题只有在引发广泛关注之前才能被忽略很久。所以,为了避免相同的困境在现实生活中实现,我们必须在事情恶化之前,充分重视网络安全。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
-
上一篇
高手问答第 243 期 —— 理解图神经网络
从视觉推理到开放性地阅读理解问题,从药物分子的研发到5G芯片的设计,从交通流量预测到 3D 点云数据的学习,仅仅三年时间,图神经网络技术的相关应用研究已经拓展到了及其宽广的局面上,展示出了及其重要且极具渗透性的应用能力。 图神经网络(Graph Neural Networks,GNN)的出现,很好地填补了将深度学习应用于关系数据建模的技术空白,实现了图数据与深度学习技术的有效结合,该项技术将成为未来 AI+ 的应用典范,并带来极高的产业价值。 OSCHINA本期高手问答(2020年 04月 20日 - 2020 年 04 月 26 日)将围绕【图神经网络】展开讨论,可讨论的问题包括但不限于: GNN 的原理理解 属性图如何建模 GNN 在风控上的应用以及其他场景的探讨 GNN 实际应用的重难点 嘉宾简介 刘忠雨,毕业于华中科技大学,资深图神经网络技术专家,极验科技人工智能实验室主任和首席技术官。在机器学习、深度学习以及图学习领域有6年以上的算法架构和研发经验,主导研发了极验行为验证、深知业务风控、叠图等产品。 为了鼓励踊跃提问,华章图书会在问答结束后从提问者中抽取5名幸运读者赠予《深入...
-
下一篇
4月20日云栖号头条:阿联酋推出应用程序追踪新冠肺炎确诊患者密切接触者
云栖号:https://yqh.aliyun.com第一手的上云资讯,不同行业精选的上云企业案例库,基于众多成功案例萃取而成的最佳实践,助力您上云决策! 今日最新云头条快讯: 阿联酋推出应用程序追踪新冠肺炎确诊患者密切接触者 阿联酋阿布扎比卫生部门宣布,开发了一款名为“TraceCovid”的应用程序,使下载用户可以实时跟踪新冠肺炎确诊患者的相关情况,此举将有助于遏制新冠病毒的传播。据卫生部门介绍,该款应用程序可用来识别与新冠肺炎确诊患者有过密切接触的人员,并与这些可能被感染的人员进行联系,及时为他们提供必要的帮助和治疗。 央行:数字人民币目前的封闭测试不会影响上市机构商业运行 人民银行数字货币研究所相关负责人强调,当前网传DC/EP信息为技术研发过程中的测试内容,并不意味着数字人民币正式落地发行。数字人民币目前的封闭测试不会影响上市机构商业运行,也不会对测试环境之外的人民币发行流通体系、金融市场和社会经济带来影响。 全球化不是让商品“走出去”,而是让产业链“留下来” TCL创始人、董事长李东生认为,全球化被按下暂停键的这个说法是不准确的,经济全球化总的趋势还是不会改变的。因为经济有它...
相关文章
文章评论
共有0条评论来说两句吧...