

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

# 创建影子测试
<a name="shadow-tests-create"></a>

 您可以创建影子测试，将影子变体的性能与生产变体进行比较。您可以在提供推理请求服务的现有端点上运行测试，也可以创建一个新端点来运行测试。

 要创建影子测试，您需要指定以下内容：
+  *生产变体*，可接收并响应 100% 的传入推理请求。
+  *影子变体*，可接收一定比例的传入请求，从生产变体中复制，但不返回任何响应。

 对于每个变体，您可以使用 SageMaker AI 来控制模型、实例类型和实例数量。您可以配置要复制到影子变体的传入请求的百分比，即流量采样百分比。 SageMaker AI 管理向影子变体发送的请求复制，您可以在安排或运行测试时修改流量采样百分比。您还可以选择开启 Data Capture 以记录生产变体和影子变体的请求和响应。

**注意**  
 SageMaker AI 每个端点最多支持一个阴影变体。对于具有影子变体的端点，最多只能有一个生产变体。

 您可以安排测试在任何时间开始，并在指定时间内持续进行。默认持续时间为 7 天，最长持续时间为 30 天。测试完成后，端点会恢复到开始测试前的状态。这可确保您在测试完成后无需手动清理资源。

 您可以在 AI 控制台中监控通过 SageMaker AI 控制台中的仪表板运行的测试。此控制面板提供了生产变体和影子变体之间调用指标和实例指标的并排比较，以及相关指标统计的表格视图。此控制面板也可用于已完成的测试。查看完指标后，您可以选择将影子变体推广为新的生产变体，也可以选择保留现有的生产变体。推广影子变体后，它会响应所有传入的请求。有关更多信息，请参阅 [推广影子变体](shadow-tests-complete.md#shadow-tests-complete-promote)。

 以下过程介绍如何通过 SageMaker AI 控制台创建影子测试。根据您是要使用现有端点还是要为影子测试创建新端点，工作流会有所变化。

**Topics**
+ [先决条件](#shadow-tests-create-prerequisites)
+ [输入影子测试详细信息](#shadow-tests-create-console-shadow-test-details)
+ [输入影子测试设置](#shadow-tests-create-console-shadow-test-settings)

## 先决条件
<a name="shadow-tests-create-prerequisites"></a>

 在使用 SageMaker AI 控制台创建影子测试之前，必须准备好可供使用的 A SageMaker I 模型。有关如何创建 SageMaker AI 模型的更多信息，请参阅[为实时推理部署模型](realtime-endpoints-deploy-models.md)。

 你可以开始使用带有生产变体和影子变体的现有端点、只有生产变体的现有端点，或者只使用你想要比较的 SageMaker AI 模型，开始进行影子测试。影子测试支持在测试开始前创建端点和添加变体。

**注意**  
 某些端点功能可能会使您的端点与影子测试不兼容。如果您的端点使用了以下任何功能，您就不能在端点上使用影子测试，而且您设置影子测试的请求会导致验证错误。  
无服务器推理
异步推理
Marketplace 容器
多容器端点
多模型端点
使用 Inf1（基于 Inferentia）实例的端点

## 输入影子测试详细信息
<a name="shadow-tests-create-console-shadow-test-details"></a>

 要开始创建影子测试，请按以下步骤填写**输入影子测试详细信息**页面：

1.  打开 A [SageMaker I 控制台](https://console.aws.amazon.com/sagemaker/)。

1.  在左侧导航面板中选择**推理**，然后选择**影子测试**。

1.  选择**创建影子测试**。

1.  在**名称**下，输入测试名称。

1.  （可选）在**描述**下，输入测试的描述。

1.  （可选）使用**键**和**值**对指定**标签**。

1.  选择**下一步**。

## 输入影子测试设置
<a name="shadow-tests-create-console-shadow-test-settings"></a>

 填写**输入影子测试详细信息**页面后，填写**输入影子测试设置**页面。如果您已经拥有 A SageMaker I 推理终端节点和生产变体，请按照**使用现有终端节点**工作流程进行操作。如果您还没有端点，请按照**创建新端点**工作流进行操作。

------
#### [ Use an existing endpoint ]

 如果要使用现有端点进行测试，请按以下步骤填写**输入影子测试设置**页面：

1.  选择附加了 `AmazonSageMakerFullAccess` IAM 策略的角色。

1.  选择**使用现有端点**，然后选择一个可用的端点。

1.  （可选）要加密端点上的存储卷，可以选择现有的 KMS 密钥，或从**加密密钥**下的下拉列表中选择**输入 KMS 密钥 ARN**。如果选择第二个选项，则会出现一个用于输入 KMS 密钥 ARN 的字段。在该字段中输入 KMS 密钥 ARN。

1.  如果该端点后面有多个生产变体，请删除不想用于测试的变体。选择一个模型变体，然后选择**删除**，即可将其删除。

1.  如果您还没有影子变体，请添加影子变体。要添加影子变体，请执行以下操作：

   1.  选择**添加**。

   1.  选择**影子变体**。

   1.  在**添加模型**对话框中，选择要用于影子变体的模型。

   1.  选择**保存**。

1.  （可选）在上一步中，影子变体是以默认设置添加的。要修改这些设置，请选择影子变体并选择**编辑**。此时将出现**编辑影子变体**对话框。有关如何填写该对话框的更多信息，请参阅[编辑影子测试](shadow-tests-view-monitor-edit-individual.md)。

1.  在**时间表**部分，按以下步骤输入测试的持续时间：

   1.  选中**持续时间**下的复选框。随后会显示一个弹出日历。

   1.  从日历中选择开始和结束日期，或分别在**开始日期**和**结束日期**字段中输入开始和结束日期。

   1.  （可选）对于**开始时间**和**结束时间**字段，分别输入 24 小时格式的开始和结束时间。

   1.  选择**应用**。

    最短持续时间为 1 小时，最长持续时间为 30 天。

1.  （可选）开启**启用数据捕获**以将端点的推理请求和响应信息保存到 Amazon S3 存储桶中，然后输入 Amazon S3 存储桶的位置。

1.  选择**创建影子测试**。

------
#### [ Create a new endpoint ]

 如果您没有现有端点，或者想为测试创建一个新端点，请按以下步骤填写**输入影子测试设置**页面：

1.  选择附加了 `AmazonSageMakerFullAccess` IAM 策略的角色。

1.  选择**创建新端点**。

1.  在**名称**下，输入端点的名称。

1.  为端点添加一个生产变体和一个影子变体：
   +  要添加生产变体，请选择**添加**，然后选择**生产变体**。在**添加模型**对话框中，选择要用于生产变体的模型，然后选择**保存**。
   +  要添加影子变体，请选择**添加**，然后选择**影子变体**。在**添加模型**对话框中，选择要用于影子变体的模型，然后选择**保存**。

1.  （可选）在上一步中，影子变体是以默认设置添加的。要修改这些设置，请选择影子变体并选择**编辑**。此时将出现**编辑影子变体**对话框。有关如何填写该对话框的更多信息，请参阅[编辑影子测试](shadow-tests-view-monitor-edit-individual.md)。

1.  在**时间表**部分，按以下步骤输入测试的持续时间：

   1.  选中**持续时间**下的复选框。随后会显示一个弹出日历。

   1.  从日历中选择开始和结束日期，或者分别在**开始日期**和**结束日期**下输入开始和结束日期。

   1.  （可选）在**开始时间**和**结束时间**下，分别输入 24 小时格式的开始和结束时间。

   1.  选择**应用**。

    最短持续时间为 1 小时，最长持续时间为 30 天。

1.  （可选）开启**启用数据捕获**以将端点的推理请求和响应信息保存到 Amazon S3 存储桶中，然后输入 Amazon S3 存储桶的位置。

1.  选择**创建影子测试**。

------

 完成上述步骤后，您现在应该有一个计划在指定的开始日期和时间开始的测试。您可以从控制面板查看测试进度。有关查看测试和您可以执行的操作的更多信息，请参阅[如何查看、监控和编辑影子测试](shadow-tests-view-monitor-edit.md)。