• 3
  • 4
分享

  一、 规范性能测试实施流程的意义

  规范的性能测试实施流程能够加强测试工作流程控制,明确性能测试各阶段应完成的工作,指导测试人员正确、有序的开展性能测试工作,提高各角色在性能能测试中的工作效率。本次分享的性能测试实施流程是性能测试开展的”指导方针”,希望帮助您可以早日成为性能测试”达人”。

  二、 性能测试实施流程

  性能测试流程分为五个阶段,分别是【需求调研阶段】→【测试准备阶段】→【测试执行阶段】→【测试报告阶段】→【测试总结阶段】。

11-1.png

  每个阶段做什么事情?重点关注什么?

  1.需求调研阶段

11-2.png

  1.1. 阶段概述

  调研阶段的主要工作为:组建工作小组、项目创建、需求分析、模型构建、定制性能测试详细实施计划。

  重点关注:需求调研、需要分析、模型构建

  1.2. 关键点描述

  需求调研分为两个步骤进行:需求调研、需求分析。

  该工作是性能测试必须的工作环节。工作产出文件为《XX项目性能测试需求表》,如:《云智慧_XXX系统_XXX模块性能测试需求表》。

  此阶段模型构建主要是业务模型构建。

  1.2.1需求调研

  需求调研工作由性能测试实施人员牵头负责,产品经理、开发工程师、运维工程师配合完成;

  需求调研的主要内容为:

  系统线上环境的性能需求,例如性能需求、可靠性需求、可维护性需求等;

  与系统性能需求相关的其它信息,包括系统信息(如线上环境硬件、参数配置、系统架构与部署方式、关联系统部署等)、业务信息(关键业务逻辑与处理流程、交易列表、交易量信息、业务分布规律等)、生产问题、文档资料等方面,并对收集到的信息进行汇总整理,实现对待测系统业务与技术的整体了解;

  开发项目组、需求部门、运维部门等测试任务提出方应填写《云智慧_XXX系统_XXX模块性能测试需求表》中的“任务信息”和“测试背景”等信息,提出的测试需求,简单文字不能说明的,可附加文件;

  性能测试小组的实施人员将调研获取的其它内容填入《云智慧_XXX系统_XXX模块性能测试需求表》;

  对于新立项系统或系统新开发版本,《云智慧_XXX系统_XXX模块性能测试需求表》应与《需求规格说明书》中的性能需求相一致。

  1.2.2需求分析

  需求分析的基本流程是:

  首先,由性能测试工程师根据需求调研所获取的信息进行分析,将《云智慧_XXX系统_XXX模块性能测试需求表》中的性能需求转换为具体的性能需求指标值;

  其次,根据测试环境与线上环境的差异分析,由性能测试工程师将线上环境条件下的性能需求指标值转换为本次测试环境条件下的性能需求指标值;

  例如:TPS(Transaction per Second):系统每秒处理交易数,推导过程如下,

  当前线上APP1.0试用系统主要为查询类交易,交易占比40%,系统生产交易量统计为1个月约20W笔,假设APP2.0系统上线后业务量激增到每日查询类20W,则每日总交易量T达到:

  T = 20W/40%=500000笔/日

  系统处理能力TPS推导:APP2.0上线后交易量最大500000笔/日,系统晚间几乎无交易量,按2:8原则推算,则(500000*80%)/(8*20%*3600)=69.4笔/秒,取整为70笔/秒,每年按业务量增长50%计算,则一年后系统处理能力指标约等于70+70*50%=105笔/秒。

  稳定性交易量推导: 取系统处理能力的60%*时长=105笔/秒*60%*8*3600=1814400笔。

11-3.png

  经过分析后汇总成测试指标值,需求分析其主要内容和规范性要求如下:

  性能测试需求:应准确描述性能测试指标项及需求指标值。

  系统范围:应准确描述性能测试需求指标值所依托的测试范围信息,如应描述测试范围的关联系统逻辑示意图,及各关联系统的信息;在对系统局部环节进行测试时,也需阐明具体测试范围,详细描述被测系统的相关子系统。

  环境差异分析:应准确描述性能测试需求指标值所依托的测试环境信息,如须描述测试环境的总体网络拓扑结构图、测试环境机器配置表(数量、型号、资源、操作系统)、以及相应的软件配置、重要参数配置等。同时应准确描述线上环境的上述信息,并进行详细的环境差异性分析。

  以上分析内容将作为性能测试方案的重要组成部分。

  1.2.3模型构建例如:业务模型

  根据200X年XX月XX日~200X年XX月XX日期间的业务高峰日200X年XX月XX日的业务量统计,经过略微调整得出以下业务模型,要求业务模型交易至少占线上交易量的90%以上:

11-4.png

  2.测试准备阶段

11-5.png

  2.1阶段概述

  测试准备阶段是性能测试工作中重要阶段。在准备阶段,需要完成业务模型到测试模型的构建、性能测试实施方案编写、测试环境的准备、性能测试案例设计、性能测试监控方案设计、性能测试脚本,及相关测试数据的准备,并在上述相关准备活动结束后按照测试计划进行准入检查。

  重点关注:测试模型构建、方案设计、案例设计、数据准备等

  2.2关键点描述

  2.2.1测试模型构建

  测试模型构建工作由性能测试实施人员完成;

  在需求分析的基础上,对调研收集到的相关资料与信息进行分析梳理,重点分析跨系统的交易路径、交易关联关系、数据的处理与流转、业务量、交易比例、典型交易,以及系统的处理能力等性能测试点,针对性地确定多个业务场景,并为每个场景选择一套具体的业务交易集,按照业务量比例构建相应的测试模型。

  本阶段的产出物为,各个测试场景,以及场景中典型交易及所占比率。

  例如:从业务模型到测试模型推导

  依据业务模型,通过与项目组及产品经理沟通,确定本次测试模型还需着重考虑以下内容:

  (1) 考虑到后期证券系统数据库升级,历史查询可能会影响,所以本次测试单独增加一个场景:历史委托和历史成交查询各50%(即0456和0457)。同时,考虑到线上环境绝大部分该交易是由总中心前置发起,所以本次测试“历史委托和历史成交查询”交易均采用从总中心发起;

  (2) 增加国债发行交易场景,国债发行认购日一般在柜台营业前进行,此场景只选择国债发行认购一支交易;

  (3) 同时,证券系统交易高峰时段柜员签到、柜员签退交易占比较小。

  通过以上分析得出本次测试模型有3个:一般交易日日间模型、国债发行日模型、以及历史查询交易模型。

  一般交易日日间模型:

11-6.png

  储蓄国债交易模型:

11-7.png

  历史查询交易模型:

11-8.png

  2.2.2方案设计

  性能测试实施方案编制是性能测试工作中必须的工作环节,其产出为《性能测试方案》,如:《云智慧_XXX项目_XXX功能模块_性能能测试方案V1.0.xlsb》。

  在方案中需要描述:测试需求、启停准则、测试模型设计、测试策略、测试内容、测试环境与工具需求,以及各个阶段的输出文档。在方案中还需说明性能测试工作的时间计划安排、预期的风险与风险规避方法等。测试模型设计内容来自本阶段测试模型设计中形成的测试场景,以及场景中典型交易及所占比率。

  2.2.3案例设计

  在案例设计中,包括案例的描述、测试环境描述(硬件、软件、应用版本、测试数据)、延迟设置、压力场景、执行描述、预期结果、监控要点。

  案例设计是性能测试工作的必须工作环节,案例设计的产出文件是《性能测试案例》。

  2.2.4数据准备

  环境准备工作中涉及到基础数据的准备。测试数据的数量、逻辑关系要求十分严格,测试基础数据的准备一般采用自造模拟数据或者使用脱敏后的线上数据。

  2.2.5测试脚本开发

  测试脚本开发工作就是发挥LR的时候。

  测试脚本是对业务操作的程序化体现,一个脚本一般为一项业务的过程描述。本活动主要为脚本的录制(编写)、修改和调试工作,从而保证在测试实施之前每个测试用例的脚本都能够在单笔和少量迭代次数的条件下能够正确执行。测试脚本开发的一般步骤如下:

  通过录制,或者编写,完成脚本代码生成。代码生成时,主要根据需求插入事务,作为测试过程中统计交易响应时间的单位;

  根据测试需求,进行参数化设置;

  设定检查点,根据报文内容字段判断交易是否正确执行,即检查点的设置在应用层面;

  根据测试要求确定是否设置集合点;

  3.测试执行阶段

11-9.png

  3.1阶段概述

  测试执行阶段是执行测试案例,获得系统处理能力指标数据,发现性能测试缺陷的阶段。测试执行期间,借助测试工具执行测试场景或测试脚本,同时配合各类监控工具。执行结束后统一收集各种结果数据进行分析。根据需要,执行阶段可进行系统的调优和回归测试。

  重点关注:结果记录、测试监控、结果分析

  3.2关键点描述

  3.2.1测试执行与结果记录

  测试执行过程有相应的优先级策略,依据测试案例的优先级别,优先执行级别较高的测试案例。测试过程中,通过对每个测试结果的分析来决定是重复执行当前案例还是执行新的测试案例;通常发现瓶颈问题会立即进行调整并重新执行测试用例,直到当前的案例通过。

  在执行阶段,测试的执行、分析调优、回归测试工作较为反复,须认真记录全部执行过程和执行结果,执行结果数据是分析瓶颈的主要依据。

  3.2.2测试监控

  测试的监控工作与执行工作同步进行,场景或脚本开始执行时,同时启动监控程序(可以用nmon或者系统命令top/vmstat/iostat 等),当然也可以用云智慧的监控宝和透视宝协同工作,监控宝可以监控网站/网页性能/Ping/DNS/FTP/UDP/TCP/SMTP等IT基础设施的性能指标,透视宝可以发现主机资源、Web应用、浏览器、APP等应用的性能瓶颈,如下图所示:

11-10.png

  监控宝监控页面

11-12.png

  透视宝主机资源监控页面

  在执行结束后,停止测试监控,并提取监控结果数据。

  3.2.3测试结果分析

  测试过程中根据前端性能测试工具显示结果、监控结果综合分析出现的测试问题。

  例如:

  测试组在执行“一般日日间交易模型”负载测试570TPS压力时,数据库监控发现有死锁想象,具体如下:

11-13.png

  问题分析:经与开发一同分析,原因如下:流控信息收集程序(pltflowGthDaemon)在同一柜员、在毫秒级并发做交易时plt_flowgather表出现死锁。测试环境联机交易使用同一个柜员号发起,因此出现概率较高。

  4.测试报告阶段

11-14.png

  4.1阶段概述

  测试执行工作结束后开始撰写性能测试报告。性能测试报告在发布前需要进行评审。

  4.2关键点描述

  4.2.1报告撰写

  性能测试报告要内容包括:测试目的、范围及方法、环境描述、测试结果描述、结果分析、结论和建议等。

  4.2.2测试结果描述

  测试结果的描述,应体现性能测试的执行过程,如:混合场景的容量测试结果展示中,需要描述各个并发梯度下测试结果及监控结果;在数字形式的结果记录中,要求小数点后精确3位有效数字。

  4.2.3测试缺陷与问题

  在性能测试分析报告中须描述测试过程发现的缺陷与问题,对于确认是测试缺陷的项进行风险评估,并给出风险提示。

  4.2.4最终结果分析

  测试最终结果的分析,该部分内容应该全面、透彻、易理解且通过图表方式表达更直观。

  例如:

11-15.png

  4.2.5测试结论

  测试结论是性能测试分析报告必须包括的内容。测试的结论须清晰、准确回答性能测试需求中描述的各项指标,需全面覆盖测试需求。

  5.测试总结阶段

11-16.png

  5.1阶段概述

  性能测试的总结工作,主要对该任务的测试过程和测试技术进行总结。性能测试工作进入总结阶段,也意味着性能测试工作临近结束。在这个阶段,时间允许的情况下应将所有的重要测试资产进行归档保存。



作者:Kiki Deng

来源:https://zhuanlan.zhihu.com/p/24485433

  • 【留下美好印记】
    赞赏支持
登录 后发表评论
+ 关注

热门文章

    最新讲堂

      • 推荐阅读
      • 换一换
          • 早就听过CPU火焰图的强大功能,也听过几个火焰图工具,今天终于开始尝试使用CPU火焰图生成工具。奈何由于各种原因,Intellij自带的火焰图插件并不能用,着实让人不快。故而找到一个async-profiler分析工具作为替代品。当时正在测试随机数性能的,所以就用了一个动态QPS模型的Case,学习了async-profiler的使用。很意外地发现了一个性能可以优化的地方。经过尝试,CPU使用率降低了0.24%,也算是第一个成果了。async-profiler这个工具安装和使用教程,可以网上搜一下,建议去Github仓库看看Wiki,这里我就不多说。Case code下面是Case的代码,用了...
            0 0 1095
            分享
          • 需求评审之后,开发人员一般会开始拆分任务,测试人员需要对新需求进行消化,消化过程最好的产物就是输出对新功能的需求项梳理,并且根据需求项列出测试注意点以及影响模块。这个过程很像去肉剔骨,抽丝剥茧的感觉,也就是掌握到了版本的精髓。需求点的形式有哪些呢?简单来说就是这个版本产品提出的希望实现的很多个功能点,比如:需要给门加一个锁,这就是一个需求点,智能锁还是机械锁,能不能支持反锁,装几个锁,安全性怎么样,可靠性怎么样,这些是根据需求点发散的测试点,这些测试点有一些在文档里有说明,有一些是没有说明的,需要根据用户实际使用场景考虑。很多人又会有这样的疑惑:测试项和需求项之间的区别有哪些呢。不看以下内容,...
            1 1 7922
            分享
          • 一、什么是接口测试主要用于检测外部系统与系统之间内部各个子系统之间的交互点,测试的重点是要检查数据的交换,传递和控制管理过程,以及系统间的相互逻辑依赖关系等。接口可分为内部接口(开发人员)和外部接口(如组件接口和web服务器):系统与系统之间的调用;例如支付宝提供接口给淘宝调用,一个业务的修改可能会影响其他业务的使用,这是需要做接口测试;上层服务对下层服务的调用;例如Service层会调用DAO层的接口,而应用层会调用服务层提供的接口,比如注册用户时,会调用用户查询的服务,查询用户是否已经注册;我们所要做的接口测试,先了解基于哪一种的接口测试(不同类型测试方法不同),总之,我们只要把接口当成服...
            0 0 1331
            分享
          • 一、测试用例概述1、测试用例的定义简单地说,测试用例就是:设计一个情况,软件程序在这种情况下,必须能够正常运行并且达到程序所设计的预期结果2、测试用例特点:有效性:测试用例是测试人员测试过程中的重要参考依据。可复用性:良好的测试用例具有重复使用的功能,使得测试过程事半功倍,提高测试效率。易组织性:即使是小的项目,也可能会有几千甚至更多的测试用例,测试用例可能在数月甚至几年的测试过 程中被创建和使用。可评估性:从测试的项目管理角度来说,测试用例的通过率是检验代码质量的保证。可管理性:测试用例也可以作为检验测试人员进度、工作量以及跟踪/管理测试人员的工作效率的标准。3、测试用例应该包含的内容测试用...
            1 1 704
            分享
          •   产品经理可以参考下图的流程方法:  1)需求收集:包括被动和主动的需求收集,其中主动的需求收集要求掌握需求收集的途径和方法,产品创意需要统一纳入到需求收集的范围;  2)需求分析:通过需求分析的层级模型,透彻地分析需求背后的用户问题和痛点,用户的需求场景,必要时还需要通过一些简单的原型确保准确地理解用户需求;  3)需求分发:不是所有需求都要纳入到下一个产品版本,成熟的需求管理团队能够发现高价值的中长期需求,在需求分发环节将其纳入到产品规划;  4)需求实现:该阶段的责任主体是产品开发团队,产品经理需要确保产品开发的各个阶段没有偏离自己的产品概念;  5)需求验证:包括产品经理对产品的验证...
            0 0 933
            分享
      • 51testing软件测试圈微信