使用 Amazon Augmented AI 审核不当内容

DetectModerationLabels 使用亚马逊 A2I 运行

1. 完成 AI 文档中 Amazon Agumented AI 入门中列出的先决条件。SageMaker

   此外，请记得按照 AI 文档中的 A mazon Agumented AI 中的权限和安全页面设置您的 I SageMaker A M 权限。

2. 按照 SageMaker AI 文档中有关创建人工审阅工作流程的说明进行操作。

   人工审核工作流程用于管理图像的处理。它包含触发人工审核的条件、图像发送到的工作团队、工作团队使用的 UI 模板，以及工作团队的结果发送到的 Amazon S3 存储桶。

   在CreateFlowDefinition通话中，您需要将设置HumanLoopRequestSource为 “AWS/Rekognition/DetectModerationLabels/Image/V3”。之后，您需要决定希望如何设置人工审核的触发条件。

   Amazon Rekognition 为 ConditionType 提供了两个选项：ModerationLabelConfidenceCheck 和 Sampling。

   当审核标签的置信度在一定范围内时，ModerationLabelConfidenceCheck 会创建人工循环。最后，Sampling 会发送随机比例的已处理文档供人工审核。每个 ConditionType 会使用一组不同的 ConditionParameters 来设置人工审核中的结果。

   ModerationLabelConfidenceCheck 具有 ConditionParameters ModerationLableName，用于设置需要人工审核的键。此外，它还具有置信度，它设定了发送给人工审核的百分比范围，设置了 LessThan GreaterThan、和 Equals。 SamplingRandomSamplingPercentage它设定了将发送给人工审查的文档的百分比。

   以下代码示例是 CreateFlowDefinition 的部分调用。如果图像在标签“暗示”上的评级低于 98%，并且在标签“女性泳装或内衣”上的评级高于 95%，则该图像将发送到人工审核。这意味着，如果图像不被认为是暗示性的，但确实有穿着内衣或泳装的女性，您可以使用人工审核再次确认检查图像。

   
       def create_flow_definition():
       '''
       Creates a Flow Definition resource
   
       Returns:
       struct: FlowDefinitionArn
       '''
       humanLoopActivationConditions = json.dumps(
           {
               "Conditions": [
                   {
                     "And": [
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Suggestive",
                               "ConfidenceLessThan": 98
                           }
                       },
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Female Swimwear Or Underwear",
                               "ConfidenceGreaterThan": 95
                           }
                       }
                     ]
                  }
               ]
           }
       )
   
          

   CreateFlowDefinition 将返回 FlowDefinitionArn，您在下一步中调用 DetectModerationLabels 时可使用该 ARN。

   有关更多信息，请参阅 SageMaker AI API 参考CreateFlowDefinition中的。

3. 调用 DetectModerationLabels 时，请设置 HumanLoopConfig 参数，如检测不当图像中所述。有关带有 HumanLoopConfig 设置的 DetectModerationLabels 调用示例，请参阅步骤 4。

   1. 在 HumanLoopConfig 参数中，将 FlowDefinitionArn 设置为在步骤 2 中创建的流定义的 ARN。

   2. 设置 HumanLoopName。此名称在区域内应该是唯一的，并且必须采用小写。

   3. （可选）可以使用 DataAttributes 参数，设置传递到 Amazon Rekognition 的图像是否不包含个人身份信息。必须设置此参数才能将信息发送到 Amazon Mechanical Turk。

4. 运行 DetectModerationLabels。

   以下示例说明如何使用 AWS CLI 和在 s AWS SDK for Python (Boto3) e DetectModerationLabels HumanLoopConfig t 中运行。

   AWS SDK for Python (Boto3)

   以下请求示例使用 SDK for Python (Boto3)。有关更多信息，请参阅《AWS SDK for Python (Boto) API 参考》中的 detect_moderation_labels。

   import boto3
   
   rekognition = boto3.client("rekognition", aws-region)
   
   response = rekognition.detect_moderation_labels( \
           Image={'S3Object': {'Bucket': bucket_name, 'Name': image_name}}, \
           HumanLoopConfig={ \
               'HumanLoopName': 'human_loop_name', \
               'FlowDefinitionArn': , "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name" \
               'DataAttributes': {'ContentClassifiers': ['FreeOfPersonallyIdentifiableInformation','FreeOfAdultContent']}
            })
   

   AWS CLI

   以下请求示例使用 AWS CLI。有关更多信息，请参阅 AWS CLI 命令参考 中的 detect-moderation-labels。

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config HumanLoopName="human_loop_name",FlowDefinitionArn="arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name",DataAttributes='{ContentClassifiers=["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}'
   

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config \
           '{"HumanLoopName": "human_loop_name", "FlowDefinitionArn": "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name", "DataAttributes": {"ContentClassifiers": ["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}}'
   

   当你在HumanLoopConfig启用状态下运行DetectModerationLabels时，Amazon Rekognition 会调用 AI API 操作 SageMaker 。StartHumanLoop此命令从 DetectModerationLabels 获取响应，并根据示例中的流定义条件对其进行检查。如果符合审核条件，则返回 HumanLoopArn。这表示您在流程定义中设置的工作团队成员现在可以审核该图像。调用 Amazon Augmented AI 运行时系统操作 DescribeHumanLoop 可提供有关循环的结果的信息。有关更多信息，请参阅 Amazon A DescribeHumanLoopgumented AI API 参考文档。

   图像经审核后，可以在流定义输出路径中指定的存储桶中看到结果。审核完成后，亚马逊 A2I 还会通过亚马逊 CloudWatch 活动通知您。要查看要查找的事件，请参阅 SageMaker AI 文档中的CloudWatch 事件。

   有关更多信息，请参阅 A I 文档中的 Amazon Agumented SageMaker AI 入门。