Amazon Augmented AI による不適切なコンテンツの確認

Amazon A2I での DetectModerationLabels の実行

1. SageMaker ドキュメント で、Amazon Augmented AI でスタート に記載されている前提条件を完了します。

   さらに、SageMaker ドキュメント で、Amazon Augmented AI におけるアクセス許可とセキュリティ のページのように IAM 許可を設定することを忘れないでください。

2. SageMaker ドキュメント で ヒューマンレビュー ワークフローの作成 の手順に従います。

   人によるレビューワークフローでは、イメージの処理を管理します。これには、人によるレビュー、イメージの送信先となる作業チーム、作業チームが使用する UI テンプレート、および作業チームの結果が送信される Amazon S3 バケットをトリガーする条件が含まれます。

   CreateFlowDefinition の呼び出し中に、HumanLoopRequestSource を「AWS/Rekognition/DetectModerationLabels/Image/V3」に設定する必要があります。その後、人によるレビューをトリガーする条件をどのように設定するかを決定する必要があります。

   Amazon Rekognition では ConditionType 用に、ModerationLabelConfidenceCheck および Sampling の 2 つのオプションがあります。

   ModerationLabelConfidenceCheck は、モデレーションラベルの信頼度が一定範囲内にある場合にヒューマンループを作成します。最後に、Sampling は処理されたドキュメントをランダムな割合で収集し、人によるレビューに送信します。各 ConditionType はそれぞれ異なる ConditionParameters のセットを使用して、人によるレビューに含める結果を設定します。

   ModerationLabelConfidenceCheck には、ConditionParameters ModerationLableName があり、人によるレビューが必要なキーを設定します。また、信頼度があり、LessThan、GreaterThan、Equals を使用して、人によるレビューに送信される対象となるパーセンテージの範囲を設定します。Sampling には、RandomSamplingPercentage があり、人によるレビューに送信されるドキュメントの割合を設定します。

   次のコード例は、CreateFlowDefinition の部分的な呼び出しです。ラベル「Suggestive」の評価が 98 ％未満の場合、およびラベル「Female Swimwear or Underwear」の評価が 95％を超える場合は、人によるレビューにイメージが送信されます。つまり、下着や水着を着用した女性が写っているにもかかわらず、イメージが暗示的であるとは見なされない場合は、人によるレビューを使用してイメージを再確認することができます。

   
       def create_flow_definition():
       '''
       Creates a Flow Definition resource
   
       Returns:
       struct: FlowDefinitionArn
       '''
       humanLoopActivationConditions = json.dumps(
           {
               "Conditions": [
                   {
                     "And": [
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Suggestive",
                               "ConfidenceLessThan": 98
                           }
                       },
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Female Swimwear Or Underwear",
                               "ConfidenceGreaterThan": 95
                           }
                       }
                     ]
                  }
               ]
           }
       )
   
          

   CreateFlowDefinition は FlowDefinitionArn を返します。これは、次のステップで DetectModerationLabels を呼び出したときに使用します。

   詳細については、SageMaker API リファレンス で CreateFlowDefinition を参照してください。

3. 「不適切なイメージの検出」で説明されているように、DetectModerationLabels を呼び出すときに HumanLoopConfig パラメータを設定します。DetectModerationLabels 設定での HumanLoopConfig 呼び出しの例については、ステップ 4 を参照してください。

   1. HumanLoopConfig パラメータ内で、FlowDefinitionArn をステップ 2 で作成したフロー定義の ARN に設定します。

   2. HumanLoopName を設定します。これは、リージョン内で一意で、小文字である必要があります。

   3. (オプション) DataAttributes を使用して、Amazon Rekognition に渡されたイメージに個人を特定できる情報がないかどうかを設定できます。情報を Amazon Mechanical Turk に送信するには、このパラメータを設定する必要があります。

4. DetectModerationLabels を実行します。

   以下の例では、AWS CLI 設定で AWS SDK for Python (Boto3) を実行するために、DetectModerationLabels および HumanLoopConfig の使用方法を示します。

   AWS SDK for Python (Boto3)

   以下の リクエスト例では、 SDK for Python (Boto3) を使用します。詳細については、AWS SDK for Python (Boto) API リファレンスの「detect_moderation_labels」を参照してください。

   import boto3
   
   rekognition = boto3.client("rekognition", aws-region)
   
   response = rekognition.detect_moderation_labels( \
           Image={'S3Object': {'Bucket': bucket_name, 'Name': image_name}}, \
           HumanLoopConfig={ \
               'HumanLoopName': 'human_loop_name', \
               'FlowDefinitionArn': , "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name" \
               'DataAttributes': {'ContentClassifiers': ['FreeOfPersonallyIdentifiableInformation','FreeOfAdultContent']}
            })
   

   AWS CLI

   次のリクエスト例では、AWS CLI を使用しています。詳細については、https://docs.aws.amazon.com/cli/latest/reference/rekognition/detect-moderation-labels.htmlコマンド リファレンスAWS CLI で 検出モデレーションラベル を参照してください。

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config HumanLoopName="human_loop_name",FlowDefinitionArn="arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name",DataAttributes='{ContentClassifiers=["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}'
   

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config \
           '{"HumanLoopName": "human_loop_name", "FlowDefinitionArn": "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name", "DataAttributes": {"ContentClassifiers": ["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}}'
   

   DetectModerationLabels HumanLoopConfig 有効 で実行すると、Amazon Rekognition は SageMaker API オペレーション StartHumanLoop を呼び出します。このコマンドは、DetectModerationLabels から応答を受け取り、例のフロー定義の条件と照合して確認します。レビューの条件を満たしている場合は、HumanLoopArn を返します。これは、フロー定義で設定した作業チームのメンバーが今イメージを確認できることを意味します。Amazon Augmented AI ランタイムオペレーション DescribeHumanLoop を呼び出すと、ループの結果に関する情報が表示されます。詳細については、Amazon Augmented AI API リファレンス ドキュメント で DescribeHumanLoop を参照してください。。

   イメージのレビューが完了すると、フロー定義の出力パスで指定されているバケットで結果を確認できます。また、レビューが完了すると、Amazon A2I から Amazon CloudWatch Events で通知されます。検索するイベントを確認するには、SageMaker ドキュメント で CloudWatch Events を参照してください。

   詳細については、SageMaker ドキュメント において Amazon Augmented AI で スタート を参照してください。