Révision de contenus inappropriés avec Amazon Augmented AI

Exécution DetectModerationLabels avec Amazon A2I

1. Remplissez les conditions préalables répertoriées dans Démarrer avec Amazon Augmented AI dans la documentation sur SageMaker .

   N'oubliez pas non plus de configurer vos autorisations IAM comme indiqué sur la page Autorisations et sécurité dans Amazon Augmented AI de la SageMaker documentation.

2. Suivez les instructions relatives à la création d'un workflow de révision humaine dans la documentation sur SageMaker.

   Un workflow de révision humaine gère le traitement d'une image. Il contient les conditions qui déclenchent un examen humain, l'équipe de travail à laquelle l'image est envoyée, le modèle d'interface utilisateur utilisé par l'équipe de travail et le compartiment Amazon S3 vers lequel les résultats de l'équipe de travail sont envoyés.

   Lors de votre CreateFlowDefinition appel, vous devez régler le paramètre sur « HumanLoopRequestSource AWS/Rekognition/ /Image/V3 DetectModerationLabels ». Après cela, vous devez décider comment vous souhaitez configurer vos conditions qui déclenchent la révision humaine.

   Avec Amazon Rekognition, vous disposez de deux ConditionType options pour : et. ModerationLabelConfidenceCheck Sampling

   ModerationLabelConfidenceCheck crée une boucle humaine lorsque la confiance d'une étiquette de modération se situe dans une plage. Enfin, Sampling envoie un pourcentage aléatoire des documents traités pour révision humaine. Chaque ConditionType utilise un ensemble différent de ConditionParameters pour définir les résultats de la révision humaine.

   ModerationLabelConfidenceCheck a ConditionParameters ModerationLableName qui définit la clé qui doit être revue par les opérateurs. De plus, il a confiance, qui définit la fourchette de pourcentage pour l'envoi à une évaluation humaine avec LessThan GreaterThan, et Equals. Samplinga RandomSamplingPercentage défini un pourcentage de documents qui seront soumis à un examen humain.

   L'exemple de code suivant est un appel partiel de CreateFlowDefinition. Il envoie une image pour révision humaine si elle est évaluée à moins de 98% sur l'étiquette « Suggestif », et à plus de 95% sur l'étiquette « Maillots de bain ou sous-vêtements féminins ». Cela signifie que si l'image n'est pas considérée comme suggestive, mais comporte une femme en sous-vêtements ou maillot de bain, vous pouvez vérifier l'image en utilisant la révision humaine.

   
       def create_flow_definition():
       '''
       Creates a Flow Definition resource
   
       Returns:
       struct: FlowDefinitionArn
       '''
       humanLoopActivationConditions = json.dumps(
           {
               "Conditions": [
                   {
                     "And": [
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Suggestive",
                               "ConfidenceLessThan": 98
                           }
                       },
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Female Swimwear Or Underwear",
                               "ConfidenceGreaterThan": 95
                           }
                       }
                     ]
                  }
               ]
           }
       )
   
          

   CreateFlowDefinition renvoie un FlowDefinitionArn, que vous utilisez à l'étape suivante lorsque vous appelez DetectModerationLabels.

   Pour plus d'informations, consultez CreateFlowDefinitionla référence de SageMaker l'API.

3. Définissez le paramètre HumanLoopConfig lorsque vous appelez DetectModerationLabels, comme dans Détection d’images inappropriées. Consultez l'étape 4 pour des exemples d'DetectModerationLabelsappel avec HumanLoopConfig set.

   1. Dans le paramètre HumanLoopConfig, définissez FlowDefinitionArn sur l'ARN de la définition de flux que vous avez créée à l'étape 2.

   2. Définissez votre HumanLoopName. Cela doit être unique dans une région et en minuscules.

   3. (Facultatif) Vous pouvez l'utiliser DataAttributes pour définir si l'image que vous avez transmise à Amazon Rekognition est exempte d'informations personnellement identifiables. Vous devez définir ce paramètre pour envoyer des informations à Amazon Mechanical Turk.

4. Exécutez DetectModerationLabels.

   Les exemples suivants montrent comment utiliser le HumanLoopConfig set AWS CLI et AWS SDK for Python (Boto3) pour l'exécuter DetectModerationLabels avec.

   AWS SDK for Python (Boto3)

   L’exemple de demande suivant utilise le kit SDK for Python (Boto3). Pour de plus amples informations, veuillez consulter detect_moderation_labels dans la référence d’API du kit AWS SDK for Python (Boto).

   import boto3
   
   rekognition = boto3.client("rekognition", aws-region)
   
   response = rekognition.detect_moderation_labels( \
           Image={'S3Object': {'Bucket': bucket_name, 'Name': image_name}}, \
           HumanLoopConfig={ \
               'HumanLoopName': 'human_loop_name', \
               'FlowDefinitionArn': , "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name" \
               'DataAttributes': {'ContentClassifiers': ['FreeOfPersonallyIdentifiableInformation','FreeOfAdultContent']}
            })
   

   AWS CLI

   L'exemple de demande suivant utilise la CLI AWS. Pour plus d'informations, consultez la section detect-moderation-labels dans la référence des commandes AWS CLI.

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config HumanLoopName="human_loop_name",FlowDefinitionArn="arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name",DataAttributes='{ContentClassifiers=["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}'
   

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config \
           '{"HumanLoopName": "human_loop_name", "FlowDefinitionArn": "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name", "DataAttributes": {"ContentClassifiers": ["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}}'
   

   Lorsque vous exécutez la DetectModerationLabels commande HumanLoopConfig Activé, Amazon SageMaker Rekognition appelle l'opération API. StartHumanLoop Cette commande prend la réponse auprès de DetectModerationLabels et la vérifie par rapport aux conditions de la définition de flux dans l'exemple. S'il remplit les conditions d'examen, il renvoie un HumanLoopArn. Cela signifie que les membres de l'équipe de travail que vous avez définie dans votre définition de flux peuvent désormais consulter l'image. L'appel de l'opération d'exécution Amazon Augmented AI DescribeHumanLoop fournit des informations sur le résultat de la boucle. Pour plus d'informations, consultez DescribeHumanLoopla documentation de référence de l'API Amazon Augmented AI.

   Une fois l'image révisée, vous pouvez voir les résultats dans le compartiment spécifié dans le chemin de sortie de votre définition de flux. Amazon A2I vous informera également par le biais d'Amazon CloudWatch Events lorsque la révision sera terminée. Pour connaître les événements à rechercher, consultez la section CloudWatch Événements de la SageMakerdocumentation.

   Pour de plus amples informations, consultez Démarrer avec Amazon Augmented AI dans la documentation sur SageMaker.