分布式测试执行

2017-07-02 552 收藏

1 相关说明

　　1.1 背景简介

　　随着一个产品的自动化工作不断深入，自动化的case积累数量持续增长，绝大部分毫无依赖关系的case由于串行运行，测试执行时间达到小时界别，且不易于优化。另外，ci运行时所需机器资源的抢占互斥，运行机器的不稳定等问题也逐渐扩大。

　　Hadoop分布式测试执行方案正是为了解决以上问题而产生，通过分布式执行，可以达到并行运行，提高执行效率的目的；另外，hadoop提供调度，重试等机制功能，可以提供给用户一个相对透明的计算资源池，减少用户对机器运行环境的依赖。

　　1.2 分布式平台的选择

　　本方案采用hadoop来作为分布式平台。首先是Hadoop是一个开源项目，有非常好的技术支持，二就是hadoop有成熟的分布式调度算法，可以很好的利用每台机器的cpu和内存资源，达到计算资源最优分配，三就是hadoop程序易于编写，便于维护。

　　1.3 名词解释

　　：apache基金会的开源分布式框架。

　　Mapreduce ：hadoop的计算模型，由map任务和reduce任务组成。

　　Jobtracker  ：hadoop计算系统的总控。

　　Tasktracker  ：hadoop计算系统的子节点。

　　Slot(槽位) ：tasktracker的最小计算分配单元，一个槽位可以对应一个map任务，一个机器启动一个tasktracker，槽位的话按照机器的cpu核数来分配，一般是”核数-1”。

　　<2 分布式测试执行方案

　　2.1 传统的单机测试执行流程

　　一般的单机测试流程分为5步，如下图所示：

　　1、lib库安装。包括测试框架的lib库安装以及基于该测试框架的产品业务层lib。

　　2、测试环境安装。主要指被测对象的测试环境安装，包括数据库安装，server端安装等。

　　3、case下载。从svn或者case库获取需要执行的case。

　　4、case运行。

　　5、发送报告。

　　单机测试执行的优点在于逻辑简单，易于实现，缺点就是case要串行执行，无法有效里有机器的cpu和内存资源。举个例子，现在有一个8核16G的测试机，每个case的平均cpu使用率为10%，内存消耗1G，在这样的情况，一般可以做到至少6个case并行化，优化效率是不言而喻的。

　　2.2 从单机测试到分布式测试执行的逻辑

　　有了以上的五个步骤及相关分析，我们考虑其中可以并行执行来进行优化的就是测试执行这块了，其他lib库安装，测试环境安装等都基本是最小单元，不易切分了。

　　所以从单机到分布式主要是Case执行集合的一个拆分。所以简单说，单机和分布式的区别就是case输入集合有变“而已，其他单机的测试执行过程基本不变。对于测试工程师来说，这个过程是透明的，只是执行case的环境从单机切换到多机。

　　下图简要的表示了case从单机到多机的变化(6位的数字是caseid)。

　　2.3 分布式运行逻辑

　　这里的逻辑主要是两块，一部分是本地部分，一部分是分布式节点机器部分。我们将分布式测试执行过程封装到一个hadoop job里。

　　本地部分：

　　1、获取计算资源。这里的计算资源指可用的tasktracker的槽位数，这个槽位是case切分的分母。

　　2、根据计算资源生成case列表。有了槽位数，最简单的切分算法就是：每节点case数=总case数/槽位数。

　　3、业务层自定义操作。例如业务层测试执行时需要的程序或者配置获取，依赖的大数据推送到hdfs等。

　　4、配置hadoop的job。包括input，output，执行job所需的文件或者tar包等。这里的input就是case列表。

　　5、执行测试执行job。这个实际是个hadoop job。

　　6、发送报告。汇总每个节点的运行结果，并发出报告。

　　每个tasktracker的map任务输入是切分后的case列表，通过这种方式将整个测试执行部分分发到每个tasktracker上。

　　节点部分：

　　1、准备case列表。从map的input获取。

　　2、根据case列表下载case。，这里类似于本地单机版的case获取，来源仍然是SVN或者CASE库。

　　3、安装lib库。同本地单机版。

　　4、安装测试环境。同本地单机版。

　　5、执行case。同本地单机版。

　　6、推送报告。

　　这里hadoop还会根据每个map任务的返回值，来进行重试运行的调度。

　　从以上的描述可以看到，在hadoop集群节点机器上(tasktracker)，测试执行的逻辑和单机版基本无差别，所以整个改造的过程也是比较简单的

　　2.4 分布式测试集群架构设计

　　整个分布式测试执行依托于一个公共的计算集群，这个计算集群由两部分组成，一部分是hadoop相关的，包括hadoop的总控，子节点的tasktracker服务。另外一部分就是公共环境，包括测试框架，公共工具例如valgrind等。前者通过jobtracker来管理，后者通过统一运维系统来管理，其功能基本就是公共环境的安装和维护。

　　3 收益

　　经过我们的实际项目实践，这部分的收益主要体现在如下两点：

　　1、测试执行时间大幅优化。15台机器的情况，所有原测试执行时间要1-2小时的模块，优化到10分钟以内。

　　2、机器资源的节省。通过公共集群的维护，保证所有机器cpu满负荷运作，避免了以往单机测试执行的cpu浪费。

　　4 准入原则及发展方向

　　4.1 分布式改造的准入原则

　　并不是所有的测试执行都可以分布式化，在我们的实际操作过程中，总结出以下几点准入原则，供参考：

　　1、空白机器可运行。通过一个总控脚本就可以做到依赖环境准备，lib库安装，测试case执行等。

　　2、测试框架允许case并行。

　　3、业务层case对外部不存在固定依赖，例如依赖于某个写死的目录。

　　4、业务层case依赖的server端口，最好是随机的。

　　5、不允许业务层去操作公共环境。

　　4.2 后续可能的技术方向

　　1、case按照执行时间切分。按照时间切分来替代按照case数切分。

　　2、从分布式测试执行过渡到云测试服务。

最新内容请见作者的GitHub页：http://qaseven.github.io/

上一篇 下一篇

微信关注我们

原文链接：https://yq.aliyun.com/articles/133336

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Spark与Hadoop大数据分析》一一

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第1章，第1.3节,作者：文卡特·安卡姆（Venkat Ankam） 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 1.3　工具和技术 让我们来看看在 Hadoop 和 Spark 中用于大数据分析的不同工具和技术。虽然 Hadoop 平台可以用于存储和处理数据，但 Spark 只能通过将数据读入内存来进行处理。下表展示了典型大数据分析项目中所使用的工具和技术。

2017-07-02

487

上一篇

2016年大数据到底还算不算个 “东西” （附2016 大数据版图）

原文编者注：原文是 FirstMark Capital 的 Matt Turck 的文章。本文全面总结了大数据领域的发展态势，分析认为尽管大数据作为一个术语似乎已经过气，但是大数据分析与应用才刚刚开始兴起，在与 AI、人工智能等新兴技术的结合下，大数据的机会也许要比大家想象的还要大。 在喜新厌旧的技术初创企业界，已有 3年 历史 “大数据” 听起来似乎已经过气了。虽然 Hadoop 在 2006年 已经出来，但 “大数据” 这个概念大概是在 2011 到 2014年 左右才真正火起来的。也就是在这段时间里，至少是在媒体或者专家眼里，“大数据” 成为了新的 “金子” 或者 “石油”。然而，至少在我跟业界人士交谈中，大家越来越感觉到这项技术已经在某种程度上陷入了停滞。2015年 可能是数据领域的那些酷小子转移兴趣，开始沉迷于 AI 以及机器智能、深度学习等许多相关概念的年份。 抛开不可避免的炒作周期曲线态势不管，我们的 “大数据版图” 已经进入第 4 个年头了，趁这个时候退一步来反思一下去年发生了什么，思考一下这个行业的未来会怎样是很有意义的。 2016 大数据版图 （点击查看大图） 那么...

2017-07-02

506

下一篇

相关文章

发表评论

发表

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

时间: 2026-04-11 大小: 211.28KB 下载: 56次

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

时间: 2026-04-12 大小: 1.42GB 下载: 4次

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

时间: 2025-12-03 大小: 9.84MB 下载: 39次

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。

时间: 2025-12-13 大小: 249.54MB 下载: 22次