配置IDT测试协调器

从 IDT v4.5.2 开始，IDT包括一个新的测试协调器组件。测试协调器是一个控制测试套件执行流程的IDT组件，并在运行IDT完所有测试后生成测试报告。测试编排工具根据用户定义的规则确定测试选择和测试的运行顺序。

如果您的测试套件不包含用户定义的测试协调器，则IDT会为您生成一个测试协调器。

默认测试编排工具执行以下功能：

使测试运行器能够选择和运行特定的测试组，而不是整个测试套件。
如果未选择特定的测试组，则按随机顺序运行测试套件中的每个测试组。
生成报告并打印控制台摘要，其中显示每个测试组和测试用例的测试结果。

测试协调器取代了IDT状态机。我们强烈建议您使用测试协调器来开发测试套件，而不是使用IDT状态机。测试编排工具提供了以下改进功能：

与IDT状态机使用的命令式格式相比，使用声明式格式。这允许您指定要运行哪些测试以及何时运行它们。
管理特定的组处理、报告生成、错误处理和结果跟踪，让您无需手动管理这些操作。
使用默认支持评论的YAML格式。
定义相同的工作流程所需的磁盘空间比测试编排工具少 80%。
添加测试前验证，以验证您的工作流程定义不包含不正确的测试IDs或循环依赖关系。

测试编排工具格式

您可以使用以下模板来配置自己的custom-test-suite-folder/suite/test_orchestrator.yaml文件：


Aliases:
  string: context-expression

ConditionalTests:
  - Condition: context-expression
    Tests:
      - test-descriptor

Order:
  - - group-descriptor
    - group-descriptor

Features:
  - Name: feature-name
    Value: support-description
    Condition: context-expression
    Tests:
        - test-descriptor
    OneOfTests:
        - test-descriptor
    IsRequired: boolean

包含值的所有字段都为必填字段，如下所述：

Aliases

可选。映射到上下文表达式的用户定义字符串。别名允许您生成友好的名称，以便识别测试编排工具配置中的上下文表达式。如果您要创建复杂的上下文表达式或在多个位置使用的表达式，则此功能特别有用。

您可以使用上下文表达式来存储允许您访问来自其他IDT配置的数据的上下文查询。有关更多信息，请参阅在上下文中访问数据。

示例


Aliases:
    FizzChosen: "'{{$pool.features[?(@.name == 'Fizz')].value[0]}}' == 'yes'"    
    BuzzChosen: "'{{$pool.features[?(@.name == 'Buzz')].value[0]}}' == 'yes'"    
    FizzBuzzChosen: "'{{$aliases.FizzChosen}}' && '{{$aliases.BuzzChosen}}'"

ConditionalTests

可选。条件列表以及满足每个条件时运行的相应测试用例。每个条件可以有多个测试用例；但是，您只能将给定测试用例分配给一个条件。

默认情况下，IDT运行任何未分配给此列表中条件的测试用例。如果未指定此部分，则IDT运行测试套件中的所有测试组。

ConditionalTests 列表中的每个项目都包含以下参数：

Condition

计算结果为布尔值的上下文字符串。如果评估值为 true，则IDT运行Tests参数中指定的测试用例。

Tests

测试描述符列表。

每个测试描述符使用测试组 ID 和一个或多个测试用例IDs来标识要从特定测试组运行的单个测试。测试描述符使用以下格式：


GroupId: group-id
CaseIds: [test-id, test-id] # optional

示例

以下示例使用可定义为 Aliases 的通用上下文表达式。


ConditionalTests:
    - Condition: "{{$aliases.Condition1}}"
      Tests:
          - GroupId: A
          - GroupId: B
    - Condition: "{{$aliases.Condition2}}"
      Tests:
          - GroupId: D
    - Condition: "{{$aliases.Condition1}} || {{$aliases.Condition2}}"
      Tests:
          - GroupId: C

根据定义的条件，按如下方式IDT选择测试组：

如果Condition1为 true，则在测试组 A、B 和 C 中IDT运行测试。
如果Condition2为 true，则在测试组 C 和 D 中IDT运行测试。

Order

可选。运行测试的顺序。您可以在测试组级别指定测试顺序。如果您未指定此部分，则按随机顺序IDT运行所有适用的测试组。Order 的值是组描述符列表的列表。未在 Order 中列出的任何测试组都可以与列出的任何其他测试组并行运行。

每个组描述符列表都包含一个或多个组描述符，并标识每个描述符中指定的组的运行顺序。您可以使用以下格式定义单个组描述符：

group-id – 现有测试组的组 ID。
[group-id, group-id] – 可按相对于彼此的任意顺序运行的测试组列表。
"*" – 通配符。这等同于所有尚未在当前组描述符列表中指定的测试组的列表。

Order 的值必须满足以下要求：

您在组IDs描述符中指定的测试组必须存在于您的测试套件中。
每个组描述符列表必须包含至少一个测试组。
每个组描述符列表必须包含唯一的组IDs。不能在单个组描述符中使用重复的测试组 ID。
一个组描述符列表最多可以有一个通配符组描述符。通配符组描述符必须是列表中的第一项或最后一项。

示例

对于包含测试组 A、B、C、D 和 E 的测试套件，以下示例列表显示了不同的方法来指定IDT应首先运行测试组 A，然后运行测试组 B，然后按任意顺序运行测试组 C、D 和 E。


Order:
    - - A
      - B
      - [C, D, E]

```
Order:
    - - A
      - B
      - "*"
```


Order:
    - - A
      - B
    
    - - B
      - C
    
    - - B
      - D
    
    - - B
      - E

Features

可选。您要IDT添加到awsiotdevicetester_report.xml文件中的产品功能列表。如果您未指定此部分，则IDT不会向报告中添加任何产品功能。

产品功能是关于设备可能符合的特定标准的用户定义信息。例如，MQTT产品功能可以指定设备正确发布MQTT消息。在 awsiotdevicetester_report.xml 中，根据指定的测试是否通过，将产品功能设置为 supported、not-supported 或自定义的用户定义值。

Features 列表中的每个项目都包含以下参数：

Name

特征的名称。

Value

可选。要在报告中使用的自定义值，而不是 supported。如果未指定此值，则 base IDT d 会将特征值设置为supported或not-supported基于测试结果。如果您在不同的条件下测试同一功能，则可以为Features列表中该功能的每个实例使用自定义值，并将支持条件的特征IDT值串联起来。有关更多信息，请参阅

Condition

计算结果为布尔值的上下文字符串。如果评估值为 true，则在测试套件运行完毕后将该功能IDT添加到测试报告中。如果计算值为 false，则不会将测试包含在报告中。

Tests

可选。测试描述符列表。必须通过在此列表中指定的所有测试才能支持该功能。

此列表中的每个测试描述符都使用测试组 ID 和一个或多个测试用例IDs来标识要从特定测试组运行的单个测试。测试描述符使用以下格式：


GroupId: group-id
CaseIds: [test-id, test-id] # optional

必须为 Features 列表中的每个特征指定 Tests 或 OneOfTests。

OneOfTests

可选。测试描述符列表。必须通过在此列表中指定的至少一个测试才能支持该功能。

此列表中的每个测试描述符都使用测试组 ID 和一个或多个测试用例IDs来标识要从特定测试组运行的单个测试。测试描述符使用以下格式：


GroupId: group-id
CaseIds: [test-id, test-id] # optional

必须为 Features 列表中的每个特征指定 Tests 或 OneOfTests。

IsRequired

用于定义测试报告中是否需要该功能的布尔值。默认值为 false。

测试编排工具上下文

测试协调器上下文是一个只读JSON文档，其中包含测试协调器在执行期间可用的数据。测试编排工具上下文只能从测试编排工具访问，其中包含决定测试流程的信息。例如，您可以使用 userdata.json 文件中测试运行器配置的信息来确定是否需要运行特定的测试。

测试编排工具上下文使用以下格式：


{
    "pool": {
        <device-json-pool-element>
    },
    "userData": {
        <userdata-json-content>
    },
    "config": {
        <config-json-content>
    }
}

pool: 有关为测试运行选择的设备池的信息。对于选定的设备池，此信息将从 device.json 文件中定义的相应顶级设备池阵列元素中检索。
userData: userdata.json 文件中的信息
config: config.json 文件中的信息

您可以使用JSONPath符号查询上下文。状态定义中JSONPath查询的语法是{{query}}。从测试编排工具上下文访问数据时，请确保每个值的计算结果都为字符串、数字或布尔值。

有关使用JSONPath符号从上下文访问数据的更多信息，请参阅使用IDT上下文。

Javascript 在您的浏览器中被禁用或不可用。

要使用 Amazon Web Services 文档，必须启用 Javascript。请参阅浏览器的帮助页面以了解相关说明。

文档惯例

创建IDT测试套件配置文件

配置IDT状态机