倾向报告工具被设计为每个测试运行显示一个报告。开发人员向我发出警告。无论如何,我需要从这个方便的工具更多。来自几个诱惑报告的汇总数据
- 您是否认为要保持几天/每月的诱惑报告?
- 您觉得自动分析历史数据?
基本上,我需要找到问题的答案:什么样的测试片状上个月,需要稳定?不幸的是,我没有在主网站(http://allure.qatools.ru/)或互联网上找到答案。
我的解决方案:
试图解决的第一个问题:[解决]
我试图保持在詹金斯CI工具存档吸引力的报告,但我必须要管理1500 TestNG的测试和诱惑力报告生成而存档需要大约10分钟,这对我们的管道是不可接受的。 然后我开始生成jenkins slave的报告,并根据下一个结构将它ftp到remote box:project_type/pipeline_type/suite_type/day/build_number。
我将报告存储为带有btrfs压缩的原始项目,这使得可以非常有效地压缩json文件(文件压缩5次)并且可以从ui访问文件。
UI是一个django(简单的爱它)项目,它遵循文件系统结构。
该方法允许汇总数据。
试图解决的第二个问题:[未解决]
我需要在所有运行汇总数据suite_type(见上结构),并找出哪些测试失败了主运行或重新运行企图(我们使用FailedReporter TestNg监听器重新运行失败的测试3次),并将失败的原因与失败的测试进行匹配。理想情况下,我需要将失败的测试结果与存储的报告匹配。
例如:
我们有2份报告:
../parallel-suite/2015-10-21/560
../parallel-suite/2015 -10-22/584
每个套件都有失败的测试testCreditCard。
- 测试失败560建立原因 - 第三方系统已关闭。
- 测试失败584基于第一次重新运行尝试的原因 - 第三方系统已关闭,第二次重新运行尝试的原因 - IndexOutOfBoundsException:索引:0,大小:0在java.util.ArrayList.rangeCheck,在第三次尝试它通过。
因此,我需要知道third party system was down
误差为2次,2天,IndexOutOfBoundsException
为1次,连续2天的测试对第三再尝试运行第二日传递。
有人在这个方向工作吗?
谢谢你的回答!现在很清楚,我必须创建一些东西来汇总测试结果。我们使用Sonar来跟踪单元测试的覆盖范围,我将看看如何使用它进行集成和功能测试。 –