Revisão de conteúdo inadequado com o Amazon Augmented AI

Executando DetectModerationLabels com o Amazon A2I

1. Preencha os pré-requisitos listados em Getting Started with Amazon Augmented AI na documentação de IA. SageMaker

   Além disso, lembre-se de configurar suas permissões do IAM como na página Permissões e segurança na Amazon Augmented AI SageMaker na documentação de IA.

2. Siga as instruções para criar um fluxo de trabalho de revisão humana na documentação da SageMaker IA.

   O fluxo de trabalho de uma revisão humana gerencia o processamento de uma imagem. Ele contém as condições que acionam uma revisão humana, a equipe de trabalho que recebe a imagem, o modelo de interface do usuário usado pela equipe de trabalho e o bucket do Amazon S3 que recebe os resultados da equipe de trabalho.

   Na sua CreateFlowDefinition chamada, você precisa definir o HumanLoopRequestSource como "AWS/Rekognition/DetectModerationLabels/Image/V3". Depois disso, precisa decidir como deseja configurar suas condições que acionam a revisão humana.

   Com o Amazon Rekognition, você tem duas opções para ConditionType: ModerationLabelConfidenceCheck e Sampling.

   ModerationLabelConfidenceCheck cria um loop humano quando a confiança de um rótulo de moderação está dentro de um intervalo. Por fim, Sampling envia uma porcentagem aleatória dos documentos processados para revisão humana. Cada ConditionType usa um conjunto diferente de ConditionParameters para definir o que resulta em revisão humana.

   ModerationLabelConfidenceCheck tem o ConditionParameters ModerationLableName, que define a chave que precisa ser revisada por humanos. Além disso, possui confiança, que define a faixa percentual para envio à avaliação humana com LessThan GreaterThan, e Equals. SamplingtemRandomSamplingPercentage, que define uma porcentagem dos documentos que serão enviados para revisão humana.

   O exemplo de código a seguir é uma chamada parcial de CreateFlowDefinition. Ele envia uma imagem para revisão humana se tiver classificação inferior a 98% no rótulo "Sugestivo", e mais de 95% no rótulo "Roupa de banho ou roupa interior feminina". Isto significa que se a imagem não é considerada sugestiva, mas tem uma mulher em roupa interior ou roupa de banho, você pode verificar novamente a imagem usando revisão humana.

   
       def create_flow_definition():
       '''
       Creates a Flow Definition resource
   
       Returns:
       struct: FlowDefinitionArn
       '''
       humanLoopActivationConditions = json.dumps(
           {
               "Conditions": [
                   {
                     "And": [
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Suggestive",
                               "ConfidenceLessThan": 98
                           }
                       },
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Female Swimwear Or Underwear",
                               "ConfidenceGreaterThan": 95
                           }
                       }
                     ]
                  }
               ]
           }
       )
   
          

   O CreateFlowDefinition retorna um FlowDefinitionArn, que é usado na próxima etapa, quando você chama DetectModerationLabels.

   Para obter mais informações, consulte CreateFlowDefinitiona Referência da API de SageMaker IA.

3. Defina o parâmetro HumanLoopConfig ao chamar DetectModerationLabels, como em Detectando imagens inapropriadas. Consulte a etapa 4 para ver exemplos de uma chamada DetectModerationLabels com o HumanLoopConfig definido.

   1. Dentro do parâmetro HumanLoopConfig, defina o FlowDefinitionArn o como o ARN da definição de fluxo que você criou na etapa 2.

   2. Prepare o seu HumanLoopName. Isto deve ser exclusivo dentro de uma Região e estar em minúsculas.

   3. (Opcional) Você pode usar DataAttributes para definir se a imagem que você passou para o Amazon Rekognition nao contém informações pessoais identificáveis. Você deve definir esse parâmetro para enviar informações ao Amazon Mechanical Turk.

4. Executar DetectModerationLabels.

   Os exemplos a seguir mostram como usar o AWS CLI e AWS SDK for Python (Boto3) para executar DetectModerationLabels com HumanLoopConfig set.

   AWS SDK for Python (Boto3)

   O exemplo de solicitação a seguir usa o SDK para Python (Boto3). Para obter mais informações, consulte detect_moderation_labels na referência da API AWS SDK para Python (Boto).

   import boto3
   
   rekognition = boto3.client("rekognition", aws-region)
   
   response = rekognition.detect_moderation_labels( \
           Image={'S3Object': {'Bucket': bucket_name, 'Name': image_name}}, \
           HumanLoopConfig={ \
               'HumanLoopName': 'human_loop_name', \
               'FlowDefinitionArn': , "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name" \
               'DataAttributes': {'ContentClassifiers': ['FreeOfPersonallyIdentifiableInformation','FreeOfAdultContent']}
            })
   

   AWS CLI

   O exemplo de solicitação a seguir usa a AWS CLI. Para obter mais informações, consulte detect-moderation-labels na Referência de comandos da AWS CLI.

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config HumanLoopName="human_loop_name",FlowDefinitionArn="arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name",DataAttributes='{ContentClassifiers=["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}'
   

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config \
           '{"HumanLoopName": "human_loop_name", "FlowDefinitionArn": "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name", "DataAttributes": {"ContentClassifiers": ["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}}'
   

   Quando você executa DetectModerationLabels com HumanLoopConfig enabled, o Amazon SageMaker Rekognition chama a operação da API de IA. StartHumanLoop Esse comando obtém a resposta do DetectModerationLabels e verifica as condições da definição de fluxo no exemplo. Se atender às condições de revisão, ele retorna um HumanLoopArn. Isso significa que os membros da equipe de trabalho que você definiu em sua definição de fluxo agora podem revisar a imagem. Chamar a operação de runtime DescribeHumanLoop do Amazon Augmented AI fornece informações sobre o resultado do loop. Para obter mais informações, consulte a DescribeHumanLoopdocumentação de referência da API Amazon Augmented AI.

   Depois que a imagem for revisada, você poderá ver os resultados no bucket especificado no caminho de saída da definição de fluxo. A Amazon A2I também notificará você com o Amazon CloudWatch Events quando a análise for concluída. Para ver quais eventos procurar, consulte CloudWatch Eventos na documentação da SageMaker IA.

   Para obter mais informações, consulte Getting Started with Amazon Augmented AI SageMaker na documentação de IA.