2015-11-22 51 views
1

倾向报告工具被设计为每个测试运行显示一个报告。开发人员向我发出警告。无论如何,我需要从这个方便的工具更多。来自几个诱惑报告的汇总数据

  • 您是否认为要保持几天/每月的诱惑报告?
  • 您觉得自动分析历史数据?

基本上,我需要找到问题的答案:什么样的测试片状上个月,需要稳定?不幸的是,我没有在主网站(http://allure.qatools.ru/)或互联网上找到答案。

我的解决方案:

试图解决的第一个问题:[解决]

我试图保持在詹金斯CI工具存档吸引力的报告,但我必须要管理1500 TestNG的测试和诱惑力报告生成而存档需要大约10分钟,这对我们的管道是不可接受的。 然后我开始生成jenkins slave的报告,并根据下一个结构将它ftp到remote box:project_type/pipeline_type/suite_type/day/build_number。

我将报告存储为带有btrfs压缩的原始项目,这使得可以非常有效地压缩json文件(文件压缩5次)并且可以从ui访问文件。

UI是一个django(简单的爱它)项目,它遵循文件系统结构。

该方法允许汇总数据。

试图解决的第二个问题:[未解决]

我需要在所有运行汇总数据suite_type(见上结构),并找出哪些测试失败了主运行或重新运行企图(我们使用FailedReporter TestNg监听器重新运行失败的测试3次),并将失败的原因与失败的测试进行匹配。理想情况下,我需要将失败的测试结果与存储的报告匹配。

例如:

我们有2份报告:

../parallel-suite/2015-10-21/560

../parallel-suite/2015 -10-22/584

每个套件都有失败的测试testCreditCard。

  • 测试失败560建立原因 - 第三方系统已关闭。
  • 测试失败584基于第一次重新运行尝试的原因 - 第三方系统已关闭,第二次重新运行尝试的原因 - IndexOutOfBoundsException:索引:0,大小:0在java.util.ArrayList.rangeCheck,在第三次尝试它通过。

因此,我需要知道third party system was down误差为2次,2天,IndexOutOfBoundsException为1次,连续2天的测试对第三再尝试运行第二日传递。

有人在这个方向工作吗?

回答

1

是的,倾城支持汇总报表。但它更多的是:

  • 分布式执行(根据倾城模型中的每个测试用例可以用主机标记它是在执行)
  • 多次执行(如测试用不同的编程语言 - 你可以”执行单个Allure适配器)。

据我所知,倾城将永远不会支持跟踪历史测试结果,发现趋势等。历史测试结果可能会变得巨大而且只会导致浏览器崩溃。此外,时间表选项卡将不再有任何意义。其他选项卡需要进行重大更改。你为什么不在这些情况下使用Sonar?

+0

谢谢你的回答!现在很清楚,我必须创建一些东西来汇总测试结果。我们使用Sonar来跟踪单元测试的覆盖范围,我将看看如何使用它进行集成和功能测试。 –