使用 Amazon 增強版 AI 檢閱不適當的內容。

使用 Amazon A2I 執行 DetectModerationLabels

1. 完成 SageMaker AI 文件中 Amazon 增強型 AI 入門中列出的先決條件。

   此外，請記得如 SageMaker AI 文件中 Amazon 增強版 AI 的許可和安全性頁面所示設定您的 IAM 許可。

2. 請遵循 SageMaker AI 文件中建立人工審核工作流程的說明。

   人工檢閱工作流程可管理映像的處理。該流程包含觸發人工檢閱的條件、影像傳送目標的工作團隊、工作團隊使用的 UI 範本，以及工作團隊結果傳送目標的 Amazon S3 儲存貯體。

   在您的 CreateFlowDefinition 呼叫中，您需要將 HumanLoopRequestSource 設定為 "AWS/Rekognition/DetectModerationLabels/Image/V3"。之後，您需要決定如何設定會觸發人工檢閱的條件。

   使用 Amazon Rekognition，您有兩種選擇 ConditionType：ModerationLabelConfidenceCheck 和 Sampling。

   ModerationLabelConfidenceCheck 會在仲裁標籤的可信度位於某範圍內時，建立人類迴圈。最後，Sampling 會傳送隨機百分比的處理文件進行人工檢閱。每個 ConditionType 均使用不同的 ConditionParameters 集合來設定人工檢閱的結果。

   ModerationLabelConfidenceCheck 有 ConditionParameters ModerationLableName，其中設定了需要人工檢閱的金鑰。此外，它具有可信度，會設定傳送進行人工檢閱的百分比範圍，包括「小於」、「大於」和「等於」。Sampling 已設定 RandomSamplingPercentage 的百分比文件將傳送進行人工檢閱。

   下列程式碼範例是 CreateFlowDefinition 的部分呼叫。如果在「暗示性」標籤上的評分低於 98%，並在「女性泳衣或內衣褲」標籤上超過 95%，則會傳送影像進行人工檢閱。這意味著，如果影像不被認為是暗示性的，但是有一個穿著內衣褲或泳衣的女人，您可以藉由人工檢閱仔細檢查影像。

   
       def create_flow_definition():
       '''
       Creates a Flow Definition resource
   
       Returns:
       struct: FlowDefinitionArn
       '''
       humanLoopActivationConditions = json.dumps(
           {
               "Conditions": [
                   {
                     "And": [
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Suggestive",
                               "ConfidenceLessThan": 98
                           }
                       },
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Female Swimwear Or Underwear",
                               "ConfidenceGreaterThan": 95
                           }
                       }
                     ]
                  }
               ]
           }
       )
   
          

   CreateFlowDefinition 會傳回 FlowDefinitionArn，您會在下一個步驟中呼叫 DetectModerationLabels 時使用。

   如需詳細資訊，請參閱 SageMaker AI API 參考中的 CreateFlowDefinition。

3. 呼叫 DetectModerationLabels 時設定 HumanLoopConfig 參數，如同 偵測不適當的映像 中所示。有關具有 HumanLoopConfig 設定 DetectModerationLabels 呼叫的範例，請參閱步驟 4。

   1. 在 HumanLoopConfig 參數內，將 FlowDefinitionArn 設定為您在步驟 2 中所建立流量定義的 ARN。

   2. 設定您的 HumanLoopName。這應該是區域中唯一的，且必須是小寫的。

   3. (選用) 您可以使用 DataAttributes 來設定傳遞至 Amazon Rekognition 的印像是否沒有個人可識別資訊。您必須設定此參數才能將資訊傳送至 Amazon Mechanical Turk。

4. 執行 DetectModerationLabels。

   下列範例示範如何使用 AWS CLI 和 適用於 Python (Boto3) 的 AWS SDK 以 DetectModerationLabels HumanLoopConfig集合執行 。

   適用於 Python (Boto3) 的 AWS SDK

   以下請求範例使用適用於 Python 的軟體開發套件 (Boto3)。如需詳細資訊，請參閱位在適用於 Python 的AWS SDK (Boto) API 參考中的 detect_moderation_labels。

   import boto3
   
   rekognition = boto3.client("rekognition", aws-region)
   
   response = rekognition.detect_moderation_labels( \
           Image={'S3Object': {'Bucket': bucket_name, 'Name': image_name}}, \
           HumanLoopConfig={ \
               'HumanLoopName': 'human_loop_name', \
               'FlowDefinitionArn': , "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name" \
               'DataAttributes': {'ContentClassifiers': ['FreeOfPersonallyIdentifiableInformation','FreeOfAdultContent']}
            })
   

   AWS CLI

   下列請求範例使用 AWS CLI。如需詳細資訊，請參閱偵測-審核-標籤，位在 AWS CLI 命令參考。

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config HumanLoopName="human_loop_name",FlowDefinitionArn="arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name",DataAttributes='{ContentClassifiers=["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}'
   

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config \
           '{"HumanLoopName": "human_loop_name", "FlowDefinitionArn": "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name", "DataAttributes": {"ContentClassifiers": ["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}}'
   

   anchoranchor
   • 適用於 Python (Boto3) 的 AWS SDK
   • AWS CLI

   以下請求範例使用適用於 Python 的軟體開發套件 (Boto3)。如需詳細資訊，請參閱位在適用於 Python 的AWS SDK (Boto) API 參考中的 detect_moderation_labels。

   import boto3
   
   rekognition = boto3.client("rekognition", aws-region)
   
   response = rekognition.detect_moderation_labels( \
           Image={'S3Object': {'Bucket': bucket_name, 'Name': image_name}}, \
           HumanLoopConfig={ \
               'HumanLoopName': 'human_loop_name', \
               'FlowDefinitionArn': , "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name" \
               'DataAttributes': {'ContentClassifiers': ['FreeOfPersonallyIdentifiableInformation','FreeOfAdultContent']}
            })
   

   當您DetectModerationLabels在HumanLoopConfig啟用 的情況下執行 時，Amazon Rekognition 會呼叫 SageMaker AI API 操作 StartHumanLoop。此命令會從 DetectModerationLabels 中取得回應，並根據範例中的流量定義條件來檢查它。如果它符合檢閱的條件，則會傳回 HumanLoopArn。這表示您在流程定義中設定的工作團隊成員現在可以檢閱映像。呼叫 Amazon Augmented AI 執行時間操作 DescribeHumanLoop 會提供迴圈結果的相關資訊。如需詳細資訊，請參閱《Amazon 增強版 AI API 參考》文件中的 DescribeHumanLoop。

   檢閱影像之後，您可以在流程定義輸出路徑中指定的儲存貯體中查看結果。當檢閱完成時，Amazon A2I 也會通知您有關 Amazon CloudWatch Events。若要查看要尋找的事件，請參閱 SageMaker AI 文件中的 CloudWatch Events。

   如需詳細資訊，請參閱 SageMaker AI 文件中的 Amazon 增強型 AI 入門。