混沌工程是在分布式系统上进行实验的学科,通过一系列可控的实验和执行实验的原则，揭示出分布式系统中随时或天灾或人为发生的各类事件是如何逐步导致系统整体不可用的，目的是建立对系统抵御生产环境中失控条件的能力以及信心。最近2年国内著名互联网公司已经开始意识并逐步实施，提高系统服务质量。
爱奇艺金融科技团队的混沌原则更多的是应对不可预知场景下系统架构、人员架构对于问题的应对能力，如隔离、告警、自我修复能力等，主要倾向工程层面、架构层面、研发流程体系层面、灾难预警恢复层面等。
理想的Chaos Monkey是Chaos体系的执行者，是基于场景为某个特定目标而生的，是一种可执行、可按预期销毁的手段。它主要负责寻找系统中任意一个盲区，并且利用盲区对系统实现某种程度并且可控的破坏。
爱奇艺金融科技团队在高安全、高并发、高可用上遇到了很多挑战，同时金融系统相比于常规系统，在用户隐私、资金安全、敏感数据上有极高的要求，因此我们构建Chaos攻防模型，不断实施攻防对抗，逐步提高系统健壮性，为业务保驾护航。
目标如下：
-
建立Chaos Monkey的攻击能力、执行流程来辅助及验证服务架构的实施效果，从而给架构演进提供指导和参考价值；
-
建立架构与业务的生产关系，达到架构与业务的双向促进，提高系统稳定性、可用性、健壮性；
-
通过架构与业务生产关系的良性循环，提高技术同学对整个系统的掌控力、技术实力更好的为业务服务。
按照不同时期、不同要求、不同目标训练建设Chaos Monkey的可实施、可落地的攻击能力。
Chaos Monkey能力训练满足要求后，按照假定目标制定整个实施计划，包括执行时间、执行过程、影响范围、执行手段、结果预期、故障恢复、是否静默执行等，最后进行自动化实施准备。
执行前check无异常后开始实施同时观察监控系统、业务系统、告警系统，实施结束后恢复当前系统并给出相应反馈包括详细描述，优化建议等。
业务owner收到结果反馈后需对已存问题进行review、评估整改方案、修复计划并检查同类问题，最后进行系统升级。
收到业务系统升级上线通知后再次与业务review预期目标，然后进行验证性攻击检验修复效果同时记录case库。
业务owner也可以向Chaos Monkey申请攻击来验证当前系统的真实情况。
Chaos 攻防的拷问：
-
-
支付、金融
服务底线都是什么，支付、金融服务的隔离颗粒度？
我们能承受哪些，能承受多长时间，我们不能承受哪些？
-
设计实施原则：
-
为设计漏洞、代码缺陷而生同时面向生产环境，做到要发现问题更要可控;
-
不拘于手段和形式。不论是使用开源工具，还是切断网线、偷偷杀掉进程、还是进程植入，内存数据篡改都是一种面向某个目的可实施手段;
监控告警辅助支撑，最大化风险评估，细化到流量的损失控制等。
例1：验证支付系统微服务Spring Cloud套件的高可用机制
涉及Eureka Server、Client、Ribbon LB及当前业务对配置掌握的合理性。
随着Chaos体系的逐渐成熟，体系内自驱力逐渐减少，Chaos会进入一个新的阶段就是常态化。这个阶段不再是以暴露发现系统现有实施问题为主，而是面向系统架构的将来以及系统健壮性、可用性的稳固。主要有以下几点：
Chaos将进入不定期按照已经积累case库进行自动化巡检。
Chaos进行不定期面向架构层面进行实弹演习，检验他们的战备值班能力。
（3）新技术、中间件的探索验证
对于新技术、新中间件甚至是自研的中间件可利用Chaos Monkey进行符合业务需求的健壮性、可用性探测验证。
（4）举一反三
（1）让业务能更直观的感觉到他守护的东西及带来的价值；
（2）增加覆盖面，有的放矢，针对实际情况调整目标及方向；
（3）建立可视化、模板化能力。丰富case库并支持重复攻击演练及跟踪。
也许你还想看
爱奇艺MySQL高可用方案概述
爱奇艺号基于Prometheus的微服务应用监控实践
![]()
本文分享自微信公众号 - 爱奇艺技术产品团队（iQIYI-TP）。
如有侵权，请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一起分享。
