1 APP测试基本流程
测试周期可按项目嘚开发周期来确定测试时间一般测试时间为两三周(即15个工作日),根据项目情况以及版本质量可适当缩短或延长测试时间正式测试湔先向主管确认项目排期。
测试任务开始前检查各项测试资源。
--产品功能需求文档;
--行为统计分析定义文档;
1.4日报及产品上线报告
1)测試人员每天需对所测项目发送测试日报
2)测试日报所包含的内容为:
--对当前测试版本质量进行分级;
--对较严重的问题进行例举,提示开發人员优先修改;
--对版本的整体情况进行评估
3)产品上线前,测试人员发送产品上线报告
4)上线报告所包含的内容为:
---对当前版本质量进行分级;
---附上测试报告(功能测试报告、兼容性测试报告、性能测试报告以及app可用性能标准结果);
--总结上线版本的基本情况。若有遺留问题必须列出并记录解决方案
1)扣费风险:包括发送短信、拨打电话、连接网络等
2)隐私泄露风险:包括访问手机信息、访问联系囚信息等
3)对App的输入有效性校验、认证、授权、敏感数据存储、数据加密等方面进行检测
4)限制/允许使用手机功能接人互联网
5)限制/允许使用手机发送接受信息功能
6)限制/允许应用程序来注册自动启动应用程序
7)限制或使用本地连接
8)限制/允许使用手机拍照或录音
9)限制/允許使用手机读取用户数据
10) 限制/允许使用手机写人用户数据
11) 检测App的用户授权级别、数据泄漏、非法授权访问等
2.1.2安装与卸载安全性
1)应用程序應能正确安装到设备驱动程序上
2)能够在安装设备驱动程序上找到应用程序的相应图标
3)是否包含数字签名信息
4)JAD文件和JAR包中包含的所有託管属性及其值必需是正确的
5)JAD文件显示的资料内容与应用程序显示的资料内容应一致
7)没有用户的允许,应用程序不能预先设定自动启動
8)卸载是否安全其安装进去的文件是否全部卸载
9)卸载用户使用过程中产生的文件是否有提示
10)其修改的配置信息是否复原
11)卸载是否影响其他软件的功能
12)卸载应该移除所有的文件
1)当将密码或其他的敏感数据输人到应用程序时,其不会被储存在设备中同时密码也鈈会被解码
2)输人的密码将不以明文形式进行显示
3)密码,信用卡明细或其他的敏感数据将不被储存在它们预输人的位置上
4)不同的应鼡程序的个人身份证或密码长度必需至少在4一8个数字长度之间
5)当应用程序处理信用卡明细,或其他的敏感数据时不以明文形式将数据寫到其它单独的文件或者临时文件中。以防止应用程序异常终止而又没有侧除它的临时文件文件可能遭受人侵者的袭击,然后读取这些數据信息
6)当将敏感数据输人到应用程序时,其不会被储存在设备中
7)备份应该加密恢复数据应考虑恢复过程的异常通讯中断等,数據恢复后再使用前应该经过校验
8)应用程序应考虑系统或者虚拟机器产生的用户提示信息或安全替告
9)应用程序不能忽略系统或者虚拟机器产生的用户提示信息或安全警告更不能在安全警告显示前,,利用显示误导信息欺骗用户应用程序不应该模拟进行安全警告误导用户
10)在数据删除之前,应用程序应当通知用户或者应用程序提供一个“取消”命令的操作
11)“取消”命令操作能够按照设计要求实现其功能
12)应用程序应当能够处理当不允许应用软件连接到个人信息管理的情况
13)当进行读或写用户信息操作时应用程序将会向用户发送一个操莋错误的提示信息
14)在没有用户明确许可的前提下不损坏侧除个人信息管理应用程序中的任何内容Μ
15)应用程序读和写数据正确。
16)应用程序应当有异常保护
17)如果数据库中重要的数据正要被重写,应及时告知用户
18)能合理地处理出现的错误
19)意外情况下应提示用户
1)在運行其软件过程中如果有来电、SMS、EMS、MMS、蓝牙、红外等通讯或充电时,是否能暂停程序优先处理通信,并在处理完毕后能正常恢复软件继续其原来的功能
2)当创立连接时,应用程序能够处理因为网络连接中断进而告诉用户连接中断的情况
3)应能处理通讯延时或中断
4)應用程序将保持工作到通讯超时,进而发送给用户一个错误信息指示有连接错误
5)应能处理网络异常和及时将异常情况通报用户
6)应用程序关闭或网络连接不再使用时应及时关闭)断开
--App和后台服务一般都是通过HTTP来交互的验证HTTP环境下是否正常;
--公共免费网络环境中(如:麦当勞、星巴克等)都要输入用户名和密码,通过SSL认证来访问网络需要对使用HTTP Client的library异常作捕获处理。
2.1.5人机接口安全性
1)返回菜单总保持可用
3)聲音的设置不影响应用程序的功能
4)应用程序必需利用目标设备适用的全屏尺寸来显示上述内容
5)应用程序必需能够处理不可预知的用户操作例如错误的操作和同时按下多个键
验证App是否能正确安装、运行、卸载?以及操作过程和操作前后对系统资源的使用情况
2)软件安装後的是否能够正常运行,安装后的文件夹及文件是否写到了指定的目录里
3)软件安装各个选项的组合是否符合概要设计说明
4))软件安装姠导的UI测试
5)软件安装过程是否可以取消,点击取消后写入的文件是否如概要设计说明处理
6)软件安装过程中意外情况的处理是否符合需求(如死机,重启断电)
7)安装空间不足时是否有相应提示
8)安装后没有生成多余的目录结构和文件
9)对于需要通过网络验证之类的咹装,在断网情况下尝试一下
10)还需要对安装手册进行测试依照安装手册是否能顺利安装
1)直接删除安装文件夹卸载是否有提示信息。
2)测试系统直接卸载程序是否有提示信息
3)测试卸载后文件是否全部删除所有的安装文件夹。
4)卸载过程中出现的意外情况的测试(如迉机、断电、重启)
5)卸载是否支持取消功能,单击取消后软件卸载的情况
6)系统直接卸载UI测试,是否有卸载状态进度条提示
测试鼡户界面(如菜单、对话框、窗口和其它可规控件)布局、风格是否满足客户要求、文字是否正确、页面是否美观、文字、图片组合是否完美、操作是否友好等。
UI测试的目标是确保用户界面会通过测试对象的功能来为用户提供相应的访问或浏觅功能确保用户界面符合公司或行業的标准。包括用户友好性、人性化、易操作性测试
1)按钮、对话框、列表和窗口等;或在不同的连接页面之间需要导航
2)是否易于导航,导航是否直观
4)导航帮助是否准确直观
5)导航与页面结构、菜单、连接页面的风格是否一致
1)横向比较各控件操作方式统一
2)自适應界面设计,内容根据窗口大小自适应
3)页面标签风格是否统一
5)页面的图片应有其实际意义而要求整体有序美观
6)图片质量要高且图片呎寸在设计符合要求的情况下应尽量小
7)界面整体使用的颜色不宜过多
1)输入框说明文字的内容与系统功能是否一致
2)文字长度是否加以限制
3)文字内容是否表意不明
5)信息是否为中文显示
6)是否有敏感性词汇、关键词
7)是否有敏感性图片如:涉及版权、专利、隐私等图爿
根据软件说明或用户需求验证App的各个功能实现,采用如下方法实现并评估功能测试过程:
1)采用时间、地点、对象、行为和背景五元素或業务分析等方法分析、提炼App的用户使用场景对比说明或需求,整理出内在、外在及非功能直接相关的需求构建测试点,并明确测试标准若用户需求中无明确标准遵循,则需要参考行业或相关国际标准或准则
2)根据被测功能点的特性列丼出相应类型的测试用例对其进行覆盖,如;涉及输入的地方需要考虑等价、边界、负面、异常或非法、场景回滚、关联测试等测试类型对其进行覆盖
3)在测试实现的各个階段跟踪测试实现与需求输入的覆盖情况,及时修正业务或需求理解错误
1)App安装完成后的试运行,可正常打开软件
2)App打开测试,是否囿加载状态进度提示
3)App打开速度测试,速度是否可观
4)App页面间的切换是否流畅,逻辑是否正确
--同表单编辑页面--用户名密码长度--注册后嘚提示页面--前台注册页面和后台的管理页面数据是否一致--注册后在后台管理中页面提示
--使用合法的用户登录系统。--系统是否允许多次非法的登陆是否有次数限制。--使用已经登陆的账号登陆系统是否正确处理--使用禁用的账号登陆系统是否正确处理。--用户名、口令(密码)错误或漏填时能否登陆--删除或修改后的用户,原用户登陆--不输入用户口令和用户、重复点(确定或取消按钮)是否允许登陆。--登陆後页面中登陆信息。--页面中有注销按钮--登陆超时的处理。
--注销原模块新的模块系统能否正确处理。--终止注销能否返回原模块原用戶。--注销原用户新用户系统能否正确处理。--使用错误的账号、口令、无权限的被禁用的账号进行注销
2.4.2应用的前后台切换
1) APP切换到后台再囙到app,检查是否停留在上一次操作界面
2) APP切换到后台,再回到app检查功能及应用状态是否正常,IOS4和IOS5的版本的处理机制有的不一样
3) app切换到後台,再回到前台时注意程序是否崩溃,功能状态是否正常尤其是对于从后台切换回前台数据有自动更新的时候。
4)手机锁屏解屏后进叺app注意是否会崩溃功能状态是否正常,尤其是对于从后台切换回前台数据有自动更新的时候
5)当App使用过程中有电话进来中断后再切换到app,功能状态是否正常
6)当杀掉app进程后再开启app,app能否正常启动
7)出现必须处理的提示框后,切换到后台再切换回来,检查提示框是否还存茬有时候会出现应用自动跳过提示框的缺陷。
8)对于有数据交换的页面每个页面都必需要进行前后台切换、锁屏的测试,这种页面最容噫出现崩溃
很多应用提供免登录功能,当应用开启时自动以上一次登录的用户身份来使用app.
1) app有免登录功能时需要考虑IOS版本差异。
2)考虑无網络情况时能否正常进入免登录状态
3)切换用户登录后,要校验用户登录信息及数据内容是否相应更新确保原用户退出。
4)根据MTOP的现有规則一个帐户只允许登录一台机器。所以需要检查一个帐户登录多台手机的情况。原手机里的用户需要被踢出给出友好提示。
5) app切换到後台再切回前台的校验
6)切换到后台,再切换回前台的测试
7)密码更换后检查有数据交换时是否进行了有效身份的校验
8)支持自动登录的应鼡在进行数据交换时,检查系统是否能自动登录成功并且数据操作无误
9)检查用户主动退出登录后,下次启动app应停留在登录界面
根据应鼡的业务规则,以及数据更新量的情况来确定最优的数据更新方案。
1)需要确定哪些地方需要提供手动刷新哪些地方需要自动刷新,哪些地方需要手动+自动刷新
2)确定哪些地方从后台切换回前台时需要进行数据更新。
3)根据业务、速度及流量的合理分配确定哪些内容需要實时更新,哪些需要定时更新
4)确定数据展示部分的处理逻辑,是每次从服务端请求还是有缓存到本地,这样才能有针对性的进行相应測试
5)检查有数据交换的地方,均有相应的异常处理
很多应用会支持离线浏览,即在本地客户端会缓存一部分数据供用户查看
1)在无网絡情况可以浏览本地数据
2)退出app再开启app时能正常浏览
3)切换到后台再切回前台可以正常浏览
4)锁屏后再解屏回到应用前台可以正常浏览
5)在对服务端的数据有更新时会给予离线的相应提示
1)当客户端有新版本时,有更新提示
2)当版本为非强制升级版时,用户可以取消更新老版本能正瑺使用。用户在下次启动app时仍能出现更新提示。
3)当版本为强制升级版时当给出强制更新后用户没有做更新时,退出客户端下次启动app時,仍出现强制升级提示
4)当客户端有新版本时,在本地不删除客户端的情况下直接更新检查是否能正常更新。
5)当客户端有新版本时茬本地不删除客户端的情况下,检查更新后的客户端功能是否是新版本
6)当客户端有新版本时,在本地不删除客户端的情况下检查资源哃名文件如图片是否能正常更新成最新版本。如果以上无法更新成功的也都属于缺陷。
2.4.7定位、照相机服务
1) App有用到相机定位服务时,需偠注意系统版本差异
2)有用到定位服务、照相机服务的地方需要进行前后台的切换测试,检查应用是否正常
3)当定位服务没有开启时,使鼡定位服务会友好性弹出是否允许设置定位提示。当确定允许开启定位时能自动跳转到定位设置中开启定位服务。
4)测试定位、照相机垺务时需要采用真机进行测试。
客户端可以自行设置手机的时区、时间因此需要校验该设置对app的影响。
--中国为东8区所以当手机设置嘚时间非东8区时,查看需要显示时间的地方时间是否展示正确,应用功能是否正常时间一般需要根据服务器时间再转换成客户端对应嘚时区来展示,这样的用户体验比较好比如发表一篇微博在服务端记录的是10:00,此时华盛顿时间为22:00,客户端去浏览时如果设置的昰华盛顿时间,则显示的发表时间即为22:00,当时间设回东8区时间时,再查看则显示为10:00
1)检查push消息是否按照指定的业务规则发送
2)检查不接受推送消息时,检查用户不会再接收到push.
3)如果用户设置了免打扰的时间段检查在免打扰时间段内,用户接收不到PUSH
在非免打扰时间段,用户能正瑺收到push
4)当push消息是针对登录用户的时候,需要检查收到的push与用户身份是否相符没有错误地将其它人的消息推送过来。一般情况下只对掱机上最后一个登录用户进行消息推送。
5)测试push时需要采用真机进行测试。
评估App的时间和空间特性 :
1)极限测试:在各种边界压力情况下洳电池、存储、网速等,验证App是否能正确响应
--内存满时安装App
--运行App时手机断电
--运行App时断掉网络
2)响应能力测试:测试App中的各类操作是否满足鼡户响应时间要求 。
--App安装、卸载的响应时间
--App各类功能性操作的影响时间
3)压力测试:反复/长期操作下、系统资源是否占用异常
--App反复进行安裝卸载,查看系统资源是否正常
--其他功能反复进行操作查看系统资源是否正常
4)性能评估:评估典型用户应用场景下,系统资源的使用情況
5)Benchmark测试(基线测试):与竞争产品的Benchmarking,产品演变对比测试等
针对智能终端应用的服务等级划分方式及实时特性所提出的测试方法。交叉测试又叫事件或冲突测试是指一个功能正在执行过程中,同时另外一个事件或操作对该过程进行干扰的测试如;App在前/后台运行状态時与来电、文件下载、音乐收听等关键运用的交互情况测试等。交叉事件测试非常重要能发现很多应用中潜在的性能问题。
1)多个App同时運行是否影响正常功能
2)App运行时前/后台切换是否影响正常功能
3)App运行时拨打/接听电话
4)App运行时发送/接收信息
5)App运行时发送/收取邮件
7)App运行時浏览网络
8)App运行时使用蓝牙传送/接收数据
9)App运行时使用相机、计算器等手机自带设备
主要测试内部和外部兼容性
1)与本地及主流App是否兼嫆
3)与各种设备是否兼容若有跨系统支持则需要检验是否在各系统下,各种行为是否一致
--不同操作系统的兼容性是否适配
--不同手机屏幕分辨率的兼容性
--不同手机品牌的兼容性
1)Bug修复后且在新版本发布后需要进行回归测试。
2)Bug修复后的回归测试在交付前、要进行全量用例嘚回归测试
新版版发布后,配合不同网络环境的自劢更新提示及下载、安装、更新、启劢、运行的验证测试
1)测试升级后的功能是否與需求说明一样
2)测试与升级模块相关的模块的功能是否与需求一致
3)升级安装意外情况的测试(如死机、断电、重启)
4)升级界面的UI测試
5)不同操作系统间的升级测试
以主观的普通消费者的角度去感知产品或服务的舒适、有用、易用、友好亲切程度。通过不同个体、独立涳间和非经验的统计复用方式去有效评价产品的体验特性?提出修改意见提升产品的潜在客户满意度
1)是否有空数据界面设计,引导用戶去执行操作
2)是否滥用用户引导。
3)是否有不可点击的效果如:你的按钮此时处于不可用状态,那么一定要灰掉或者拿掉按钮,否则会给用户误导
5)交互流程分支是否太多
6)相关的选项是否离得很远
7)一次是否载入太多的数据
8)界面中按钮可点击范围是否适中
9)标簽页是否跟内容没有从属关系当切换标签的时候,内容跟着切换
10)操作应该有主次从属关系
11)是否定义Back的逻辑涉及软硬件交互时,Back键應具体定义
12)是否有横屏模式的设计应用一般需要支持横屏模式,即自适应设计
1)手机开锁屏对运行中的App的影响
2)切换网络对运行中的App嘚影响
3)运行中的App前后台切换的影响
4)多个运行中的App的切换
6)App运行时重启系统
8)App运行时kill掉进程再打开
手机的网络目前主要分为2G、3G、wifi目前2G嘚网络相对于比较慢,测试时尤其要注意此块的测试
1)无网络时,执行需要网络的操作给予友好提示,确保程序不出现crash
2)内网测试时,偠注意选择到外网操作时的异常情况处理
3)在网络信号不好时,检查功能状态是否正常确保不因提交数据失败而造成crash。
4)在网络信号不好時检查数据是否会一直处于提交中的状态,有无超时限制如遇数据交换失败时要给予提示。
5)在网络信号不好时执行操作后,在回调沒有完成的情况下退出本页面或者执行其他操作的情况,有无异常情况此问题也会经常出现程序crash。
2.11.3服务器宕机或出现404、502等情况下的测試
后台服务牵涉到DNS、空间服务商的情况下会影响其稳定性如:当出现域名解析故障时,你对后台API的请求很可能就会出现404错误抛出异常。这时需要对异常进行正确的处理否则可能会导致程序不能正常工作。
服务端一般会提供JSON格式的数据给客户端所以我们在服务端需要進行接口测试,确保服务端提供的接口并转换的JSON内容正确对分支、异常流有相应的返回值。此块测试可以采用itest框架进行测试最方便的昰采用httpclient进行接口测试。
进行服务端测试时需要开发提供一份接口文档。
2.13客户端数据库测试
1)一般的增、删、改、查测试
2)当表不存在時是否能自动创建,当数据库表被删除后能否再自建数据是否还能自动从服务端中获取回来并保存。
3)在业务需要从服务端取回数据保存到客户端的时候客户端能否将数据保存到本地。
4)当业务需要从客户端取数据时检查客户端数据存在时,app数据是否能自动从客户端數据中取出还是仍然会从服务器端获取?检查客户端数据不存在时app数据能否自动从服务器端获取到并保存到客户端
5)当业务对数据进荇了修改、删除后,客户端和服务端是否会有相应的更新