Überprüfen unangemessener Inhalte mit Amazon Augmented AI

Betrieb DetectModerationLabels mit Amazon A2I

1. Erfüllen Sie die Voraussetzungen, die unter Erste Schritte mit Amazon Augmented AI in der SageMaker KI-Dokumentation aufgeführt sind.

   Denken Sie außerdem daran, Ihre IAM-Berechtigungen wie auf der Seite Berechtigungen und Sicherheit in Amazon Augmented AI in der SageMaker KI-Dokumentation einzurichten.

2. Folgen Sie den Anweisungen zur Erstellung eines Workflows zur Überprüfung durch Mitarbeiter in der SageMaker KI-Dokumentation.

   Ein Workflow für die menschliche Überprüfung verwaltet die Verarbeitung eines Bildes. Er enthält die Bedingungen, die eine menschliche Überprüfung auslösen, das Arbeitsteam, an das das Bild gesendet wird, die Benutzeroberflächenvorlage, die das Arbeitsteam verwendet, und den Amazon-S3-Bucket, an den die Ergebnisse des Arbeitsteams gesendet werden.

   Innerhalb Ihres CreateFlowDefinition Anrufs müssen Sie den Wert HumanLoopRequestSource auf "AWS/Rekognition/DetectModerationLabels/Image/V3" setzen. Danach müssen Sie entscheiden, wie Sie Ihre Bedingungen einrichten möchten, die eine menschliche Überprüfung auslösen.

   Mit Amazon Rekognition haben Sie zwei Optionen für ConditionType: ModerationLabelConfidenceCheck und Sampling.

   ModerationLabelConfidenceCheck erstellt eine Schleife zur Prüfung durch Menschen (Human Loop), wenn die Zuverlässigkeit eines Moderations-Labels innerhalb eines bestimmten Bereichs liegt. Schließlich sendet Sampling einen willkürlichen Prozentsatz der verarbeiteten Dokumente an die Prüfung durch Menschen. Jeder ConditionType legt mittels eines anderen Satzes von ConditionParameters fest, welche Ergebnisse zu einer Prüfung durch Menschen führen.

   Für ModerationLabelConfidenceCheck gilt ConditionParameters ModerationLableName, wodurch der Schlüssel festlegt wird, bei dem eine Prüfung durch Menschen erforderlich ist. Darüber hinaus gibt es Konfidenzwerte, die den prozentualen Bereich für das Senden an eine menschliche Überprüfung mit LessThan GreaterThan, und Entspricht festlegen. SamplinghatRandomSamplingPercentage, wodurch ein Prozentsatz der Dokumente festgelegt wird, die zur Überprüfung durch einen Mitarbeiter gesendet werden.

   Das folgende Codebeispiel ist ein Teilaufruf von CreateFlowDefinition. Es sendet ein Bild zur menschlichen Überprüfung, wenn es weniger als 98 % auf dem Label „Suggestive“ und mehr als 95 % auf dem Label „Female Swimwear or Underwear“ angibt. Dies bedeutet, dass das Bild nicht als unbedingt suggestiv betrachtet wird, aber eine Frau in Unterwäsche oder Bademode zeigt; Sie können das Bild überprüfen, indem Sie menschliche Überprüfung verwenden.

   
       def create_flow_definition():
       '''
       Creates a Flow Definition resource
   
       Returns:
       struct: FlowDefinitionArn
       '''
       humanLoopActivationConditions = json.dumps(
           {
               "Conditions": [
                   {
                     "And": [
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Suggestive",
                               "ConfidenceLessThan": 98
                           }
                       },
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Female Swimwear Or Underwear",
                               "ConfidenceGreaterThan": 95
                           }
                       }
                     ]
                  }
               ]
           }
       )
   
          

   CreateFlowDefinition gibt eine FlowDefinitionArn zurück, die Sie im nächsten Schritt beim Aufruf von DetectModerationLabels verwenden.

   Weitere Informationen finden Sie CreateFlowDefinitionin der SageMaker AI-API-Referenz.

3. Legen Sie beim Aufruf von DetectModerationLabels den Parameter HumanLoopConfig wie in Erkennen unangemessener Bilder gezeigt fest. In Schritt 4 finden Sie Beispiele für einen DetectModerationLabels-Aufruf mit HumanLoopConfig-Set.

   1. Legen Sie innerhalb des HumanLoopConfig-Parameters den FlowDefinitionArn auf den ARN der Flow-Definition fest, die Sie in Schritt 2 erstellt haben.

   2. Einstellen Ihrer HumanLoopName. Dies sollte innerhalb einer Region eindeutig sein und muss aus Kleinbuchstaben bestehen.

   3. (Optional) Sie können mit DataAttributes festlegen, ob das Bild, das Sie an Amazon Rekognition weitergegeben haben, frei von persönlich identifizierbaren Informationen (PII) ist. Sie müssen diesen Parameter festlegen, um Informationen an Amazon Mechanical Turk zu senden.

4. Führen Sie DetectModerationLabels.

   Die folgenden Beispiele zeigen, wie Sie das AWS CLI und AWS SDK for Python (Boto3) zum Ausführen DetectModerationLabels mit HumanLoopConfig Set verwenden.

   AWS SDK for Python (Boto3)

   Die folgenden Beispiele verwenden den SDK for Python (Boto3). Weitere Informationen finden Sie unter detect_moderation_Label im AWS -SDK für die API-Referenz Python (Boto).

   import boto3
   
   rekognition = boto3.client("rekognition", aws-region)
   
   response = rekognition.detect_moderation_labels( \
           Image={'S3Object': {'Bucket': bucket_name, 'Name': image_name}}, \
           HumanLoopConfig={ \
               'HumanLoopName': 'human_loop_name', \
               'FlowDefinitionArn': , "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name" \
               'DataAttributes': {'ContentClassifiers': ['FreeOfPersonallyIdentifiableInformation','FreeOfAdultContent']}
            })
   

   AWS CLI

   Das folgende Anforderungsbeispiel verwendet die AWS CLI. Weitere Informationen finden Sie unter detect-moderation-labels in der Referenz zum AWS CLI -Befehl.

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config HumanLoopName="human_loop_name",FlowDefinitionArn="arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name",DataAttributes='{ContentClassifiers=["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}'
   

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config \
           '{"HumanLoopName": "human_loop_name", "FlowDefinitionArn": "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name", "DataAttributes": {"ContentClassifiers": ["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}}'
   

   Wenn Sie DetectModerationLabels mit HumanLoopConfig aktivierter Option ausführen, ruft Amazon Rekognition den SageMaker KI-API-Vorgang auf. StartHumanLoop Dieser Befehl nimmt die Antwort von DetectModerationLabels und überprüft sie anhand der Bedingungen der Ablaufdefinition im Beispiel. Wenn es die Bedingungen für die Überprüfung erfüllt, wird ein HumanLoopArn zurückgegeben. Dies bedeutet, dass die Mitglieder des Arbeitsteams, die Sie in der Flow-Definition festgelegt haben, das Bild jetzt überprüfen können. Der Aufruf der Amazon Augmented AI-Laufzeitoperation DescribeHumanLoop stellt Informationen zum Ergebnis der Schleife bereit. Weitere Informationen finden Sie DescribeHumanLoopin der Referenzdokumentation zur Amazon Augmented AI API.

   Nachdem das Bild überprüft wurde, können Sie die Ergebnisse in dem Bucket sehen, der im Ausgabepfad der Flow-Definition angegeben ist. Amazon A2I benachrichtigt Sie auch über Amazon CloudWatch Events, wenn die Überprüfung abgeschlossen ist. Informationen dazu, nach welchen Ereignissen Sie suchen müssen, finden Sie in der SageMaker KI-Dokumentation unter CloudWatch Ereignisse.

   Weitere Informationen finden Sie unter Erste Schritte mit Amazon Augmented AI in der SageMaker KI-Dokumentation.