이미지 콘텐츠 필터로 유해한 이미지 차단

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

콘텐츠 필터를 사용하여 유해한 이미지 차단(미리 보기)

Amazon Bedrock 가드레일은 가드레일 내에서 콘텐츠 필터를 구성하는 동안 이미지를 모달리티로 활성화하여 부적절하거나 유해한 이미지를 차단하는 데 도움이 될 수 있습니다.

사전 조건 및 제한 사항

개요

유해한 이미지의 감지 및 차단은 콘텐츠 필터 내의 증오, 모욕, 성적 및 폭력 범주와 텍스트가 없는 이미지에 대해 지원됩니다. 텍스트 외에도 사용자는 가드레일을 생성하는 동안 콘텐츠 필터 내에서 위의 범주에 대한 이미지 모달리티를 선택하고 각 필터링 강도를 NONE, LOW, MEDIUM 또는 HIGH로 설정할 수 있습니다. 이러한 임계값은 텍스트와 이미지를 모두 선택한 경우 이러한 범주의 텍스트와 이미지 콘텐츠 모두에 공통적으로 적용됩니다. 가드레일은 사용자가 입력으로 전송하거나 모델 응답에서 출력으로 생성된 이미지를 평가합니다.

유해한 이미지 콘텐츠를 감지하는 데 지원되는 네 가지 범주는 다음과 같습니다.

Amazon Bedrock Guardrails 이미지 콘텐츠 필터는 다음 리전에서 지원됩니다(Amazon Bedrock에서 지원되는 리전에 대한 자세한 내용은 Amazon Bedrock 엔드포인트 및 할당량 참조).

Amazon Bedrock Guardrails 이미지 콘텐츠 필터는 다음 파운데이션 모델에 대해 지원됩니다(각 모델을 지원하는 리전을 확인하려면 섹션을 참조하세요Amazon Bedrock에서 지원되는 파운데이션 모델).

이미지 콘텐츠 필터 사용

이미지용 콘텐츠 필터를 사용하여 Guardrail 생성 또는 업데이트

새 가드레일을 생성하거나 기존 가드레일을 업데이트하는 동안 사용자는 이제 기존 텍스트 옵션 외에도 이미지(미리 보기)를 선택할 수 있는 옵션이 표시됩니다. 이미지 옵션은 증오, 모욕, 성적 또는 폭력 범주에 사용할 수 있습니다. (참고: 기본적으로 텍스트 옵션이 활성화되어 있으며 이미지 옵션을 명시적으로 활성화해야 합니다. 사용자는 사용 사례에 따라 텍스트와 이미지를 모두 선택하거나 둘 중 하나를 선택할 수 있습니다.

필터 분류 및 차단 수준

필터링은 사용자 입력 및 FM 응답의 신뢰도 분류를 기반으로 수행됩니다. 모든 사용자 입력 및 모델 응답은 없음, 낮음, 중간, 높음의 네 가지 강도 수준으로 분류됩니다. 필터 강도는 유해한 콘텐츠 필터링의 민감도를 결정합니다. 필터 강도가 증가하면 유해한 콘텐츠를 필터링할 가능성이 높아지고 애플리케이션에서 유해한 콘텐츠를 볼 확률이 줄어듭니다. 이미지와 텍스트 옵션을 모두 선택하면 특정 범주의 두 기법에 동일한 필터 강도가 적용됩니다.

API를 사용하여 이미지에 대한 콘텐츠 필터 구성

가드레일 API를 사용하여 Amazon Bedrock 가드레일에서 이미지 콘텐츠 필터를 구성할 수 있습니다. 아래 예제는 다양한 유해한 콘텐츠 범주와 필터 강도가 적용된 Amazon Bedrock Guardrails 필터를 보여줍니다. 이 템플릿을 자체 사용 사례의 예로 사용할 수 있습니다.

다음 예제와 같이 contentPolicyConfig 작업을 사용하면 filtersConfig가 객체입니다.

이미지 콘텐츠 필터를 사용하여 가드레일을 생성하기 위한 Python Boto3 코드 예제

import boto3
import botocore
import json


def main():
    bedrock = boto3.client('bedrock', region_name='us-east-1')
    try:
        create_guardrail_response = bedrock.create_guardrail(
            name='my-image-guardrail',
            contentPolicyConfig={
                'filtersConfig': [
                    {
                        'type': 'SEXUAL',
                        'inputStrength': 'HIGH',
                        'outputStrength': 'HIGH',
                        'inputModalities': ['TEXT', 'IMAGE'],
                        'outputModalities': ['TEXT', 'IMAGE']
                    },
                    {
                        'type': 'VIOLENCE',
                        'inputStrength': 'HIGH',
                        'outputStrength': 'HIGH',
                        'inputModalities': ['TEXT', 'IMAGE'],
                        'outputModalities': ['TEXT', 'IMAGE']
                    },
                    {
                        'type': 'HATE',
                        'inputStrength': 'HIGH',
                        'outputStrength': 'HIGH',
                        'inputModalities': ['TEXT', 'IMAGE'],
                        'outputModalities': ['TEXT', 'IMAGE']
                    },
                    {
                        'type': 'INSULTS',
                        'inputStrength': 'HIGH',
                        'outputStrength': 'HIGH',
                        'inputModalities': ['TEXT', 'IMAGE'],
                        'outputModalities': ['TEXT', 'IMAGE']
                    },
                    {
                        'type': 'MISCONDUCT',
                        'inputStrength': 'HIGH',
                        'outputStrength': 'HIGH',
                        'inputModalities': ['TEXT'],
                        'outputModalities': ['TEXT']
                    },
                    {
                        'type': 'PROMPT_ATTACK',
                        'inputStrength': 'HIGH',
                        'outputStrength': 'NONE',
                        'inputModalities': ['TEXT'],
                        'outputModalities': ['TEXT']
                    }
                ]
            },
            blockedInputMessaging='Sorry, the model cannot answer this question.',
            blockedOutputsMessaging='Sorry, the model cannot answer this question.',
        )
        create_guardrail_response['createdAt'] = create_guardrail_response['createdAt'].strftime('%Y-%m-%d %H:%M:%S')
        print("Successfully created guardrail with details:")
        print(json.dumps(create_guardrail_response, indent=2))
    except botocore.exceptions.ClientError as err:
        print("Failed while calling CreateGuardrail API with RequestId = " + err.response['ResponseMetadata']['RequestId'])
        raise err


if __name__ == "__main__":
    main()

ApplyGuardrail API와 함께 작동하도록 이미지 필터 구성

ApplyGuardrail API를 사용하여 이미지 및 텍스트 콘텐츠 모두에 콘텐츠 필터를 사용할 수 있습니다. 이 옵션을 사용하면 Amazon Bedrock 모델을 호출하지 않고 콘텐츠 필터 설정을 사용할 수 있습니다. Amazon Bedrock Guardrails에서 지원하는 각 Bedrock 파운데이션 모델에 대한 추론 파라미터 설명서에 따라 다양한 모델의 아래 스크립트에서 요청 페이로드를 업데이트할 수 있습니다.

Amazon Bedrock Guardrails에서 지원하는 각 Bedrock 파운데이션 모델에 대한 추론 파라미터 설명서에 따라 다양한 모델의 아래 스크립트에서 요청 페이로드를 업데이트할 수 있습니다.

import boto3
import botocore
import json


guardrail_id = 'guardrail-id'
guardrail_version = 'DRAFT'
content_source = 'INPUT'
image_path = '/path/to/image.jpg'

with open(image_path, 'rb') as image:
    image_bytes = image.read()

content = [
    {
        "text": {
            "text": "Hi, can you explain this image art to me."
        }
    },
    {
        "image": {
            "format": "jpeg",
            "source": {
                "bytes": image_bytes
            }
        }
    }
]


def main():
    bedrock_runtime_client = boto3.client("bedrock-runtime", region_name="us-east-1")
    try:
        print("Making a call to ApplyGuardrail API now")
        response = bedrock_runtime_client.apply_guardrail(
            guardrailIdentifier=guardrail_id,
            guardrailVersion=guardrail_version,
            source=content_source,
            content=content
        )
        print("Received response from ApplyGuardrail API:")
        print(json.dumps(response, indent=2))
    except botocore.exceptions.ClientError as err:
        print("Failed while calling ApplyGuardrail API with RequestId = " + err.response['ResponseMetadata']['RequestId'])
        raise err


if __name__ == "__main__":
    main()