Revisión de contenido inapropiado con Amazon Augmented AI - Amazon Rekognition

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Revisión de contenido inapropiado con Amazon Augmented AI

Amazon Augmented AI (Amazon A2I) le permite crear los flujos de trabajo necesarios para la revisión humana de las predicciones de machine learning.

Amazon Rekognition está integrado directamente con Amazon A2I para que pueda implementar fácilmente la revisión humana para el caso de detección de imágenes no seguras. Amazon A2I proporciona un flujo de trabajo de revisión humana para la moderación de imágenes. Esto le permite revisar fácilmente las predicciones de Amazon Rekognition. Puede definir umbrales de confianza para su caso de uso y ajustarlos a lo largo del tiempo. Con Amazon A2I, puede utilizar un grupo de revisores dentro de su propia organización o Amazon Mechanical Turk. También puede utilizar proveedores de personal que hayan sido evaluados previamente AWS por su calidad y cumplimiento de los procedimientos de seguridad.

En los siguientes pasos se explica cómo configurar Amazon A2I con Amazon Rekognition. En primer lugar, cree una definición de flujo con Amazon A2I que tenga las condiciones que desencadenan la revisión humana. A continuación, debe pasar el nombre del recurso de Amazon (ARN) de la definición de flujo a la operación Amazon Rekognition. DetectModerationLabel En la respuesta DetectModerationLabel, puede ver si se requiere revisión humana. Los resultados de la revisión humana están disponibles en un bucket de Amazon S3 establecido por la definición de flujo.

Para ver una end-to-end demostración de cómo utilizar Amazon A2I con Amazon Rekognition, consulte uno de los siguientes tutoriales de la Guía para desarrolladores de Amazon AI. SageMaker

Ejecución DetectModerationLabels con Amazon A2I
nota

Cree todos sus recursos de Amazon A2I y Amazon Rekognition en la misma región. AWS

  1. Complete los requisitos previos que se indican en la sección Introducción a Amazon Augmented AI en la documentación sobre SageMaker IA.

    Además, recuerda configurar tus IAM permisos tal y como se indica en la página Permisos y seguridad en Amazon Augmented AI de la documentación sobre SageMaker IA.

  2. Siga las instrucciones para crear un flujo de trabajo de revisión humana que se encuentran en la documentación sobre SageMaker IA.

    Un flujo de trabajo de revisión humana gestiona el procesamiento de una imagen. Contiene las condiciones que desencadenan una revisión humana, el equipo de trabajo al que se envía la imagen, la plantilla de interfaz de usuario que utiliza el equipo de trabajo y el bucket de Amazon S3 al que se envían los resultados del equipo de trabajo.

    En tu CreateFlowDefinition llamada, tendrás que configurar el botón HumanLoopRequestSource en «AWS/Rekognition/DetectModerationLabels/Image/V3". Después de eso, debe decidir cómo desea configurar sus condiciones que desencadenan una revisión humana.

    Con Amazon Rekognition tiene dos opciones para ConditionType: ModerationLabelConfidenceCheck y Sampling.

    ModerationLabelConfidenceCheck crea un bucle humano cuando la confianza de una etiqueta de moderación se encuentra dentro de un rango. Por último, Sampling envía un porcentaje aleatorio de los documentos procesados para revisión humana. Cada ConditionType utiliza un conjunto diferente de ConditionParameters para establecer los resultados de la revisión humana.

    ModerationLabelConfidenceCheck tiene el ConditionParameters ModerationLableName, que establece la clave que requiere revisión humana. Además, tiene confianza, que establece el rango porcentual para enviar a revisión humana con LessThan GreaterThan, y Equals. Samplingestablece RandomSamplingPercentage el porcentaje de documentos que se enviarán a revisión humana.

    El ejemplo de código siguiente es una llamada parcial de CreateFlowDefinition. Envía una imagen para revisión humana si tiene una calificación inferior al 98% en la etiqueta «Sugerente», y más del 95% en la etiqueta «Trajes de baño o ropa interior femenina». Esto significa que si la imagen no se considera sugerente pero sí tiene una mujer en ropa interior o en traje de baño, puede volver a comprobar la imagen mediante la revisión humana.

    def create_flow_definition(): ''' Creates a Flow Definition resource Returns: struct: FlowDefinitionArn ''' humanLoopActivationConditions = json.dumps( { "Conditions": [ { "And": [ { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Suggestive", "ConfidenceLessThan": 98 } }, { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Female Swimwear Or Underwear", "ConfidenceGreaterThan": 95 } } ] } ] } )

    CreateFlowDefinition devuelve un FlowDefinitionArn, que utilizará en el siguiente paso cuando llame a DetectModerationLabels.

    Para obtener más información, consulte CreateFlowDefinitionla APIReferencia sobre SageMaker IA.

  3. Establezca el parámetro HumanLoopConfig cuando llame a DetectModerationLabels, como en Detección de imágenes inapropiadas. Consulte el paso 4 para ver ejemplos de una llamada de DetectModerationLabels con HumanLoopConfig establecido.

    1. Dentro del HumanLoopConfig parámetro, FlowDefinitionArn defina el valor ARN de la definición de flujo que creó en el paso 2.

    2. Establezca su HumanLoopName. Este debe ser único dentro de cada región y debe estar en minúsculas.

    3. (Opcional) Puede usar DataAttributes para establecer si la imagen que pasó a Amazon Rekognition está libre de información de identificación personal o no. Debe establecer este parámetro para poder enviar información a Amazon Mechanical Turk.

  4. Ejecute DetectModerationLabels.

    Los siguientes ejemplos muestran cómo utilizar el HumanLoopConfig conjunto AWS CLI y AWS SDK for Python (Boto3) ejecutar DetectModerationLabels con él.

    AWS SDK for Python (Boto3)

    El siguiente ejemplo de solicitud usa el SDK para Python (Boto3). Para obtener más información, consulta detect_moderation_labels en la Referencia para AWS SDKPython (Boto). API

    import boto3 rekognition = boto3.client("rekognition", aws-region) response = rekognition.detect_moderation_labels( \ Image={'S3Object': {'Bucket': bucket_name, 'Name': image_name}}, \ HumanLoopConfig={ \ 'HumanLoopName': 'human_loop_name', \ 'FlowDefinitionArn': , "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name" \ 'DataAttributes': {'ContentClassifiers': ['FreeOfPersonallyIdentifiableInformation','FreeOfAdultContent']} })
    AWS CLI

    En el siguiente ejemplo de solicitud se utiliza AWS CLI. Para obtener más información, consulte detect-moderation-labels en la Referencia de los comandos de AWS CLI.

    $ aws rekognition detect-moderation-labels \ --image "S3Object={Bucket='bucket_name',Name='image_name'}" \ --human-loop-config HumanLoopName="human_loop_name",FlowDefinitionArn="arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name",DataAttributes='{ContentClassifiers=["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}'
    $ aws rekognition detect-moderation-labels \ --image "S3Object={Bucket='bucket_name',Name='image_name'}" \ --human-loop-config \ '{"HumanLoopName": "human_loop_name", "FlowDefinitionArn": "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name", "DataAttributes": {"ContentClassifiers": ["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}}'

    Cuando se ejecuta DetectModerationLabels con la HumanLoopConfig opción activada, Amazon Rekognition llama a la operación SageMaker de IA. API StartHumanLoop Este comando toma la respuesta de DetectModerationLabels y la compara con las condiciones de definición de flujo del ejemplo. Si cumple con las condiciones de revisión, devuelve un HumanLoopArn. Esto significa que los miembros del equipo de trabajo que configuró en su definición de flujo ahora pueden revisar la imagen. Llamar a la operación de tiempo de ejecución de la inteligencia artificial aumentada de Amazon DescribeHumanLoop proporciona información sobre el resultado del bucle. Para obtener más información, consulte DescribeHumanLoopla documentación de API referencia de Amazon Augmented AI.

    Después de revisar la imagen, puede ver los resultados en el bucket especificado en la ruta de salida de la definición de flujo. Amazon A2I también le notificará a Amazon CloudWatch Events cuando se complete la revisión. Para ver qué eventos debe buscar, consulte la sección CloudWatch Eventos en la documentación de SageMaker IA.

    Para obtener más información, consulte Introducción a Amazon Augmented AI en la documentación de SageMaker IA.