기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon Q in Connect에 AI 가드레일 사용

AI 가드레일을 사용하면 사용 사례와 책임 있는 AI 정책에 따라 보호 기능을 구현할 수 있습니다. Amazon Q in Connect에 대한 회사별 가드레일을 구성하여 유해하고 부적절한 응답을 필터링하고, 민감한 개인 정보를 수정하고, 잠재적 대규모 언어 모델(LLM) 할루시네이션으로 인한 응답의 잘못된 정보를 제한할 수 있습니다.

AI 가드레일은 Amazon Q in Connect AI 에이전트와 연결한 후 생성할 수 있는 Amazon Connect 리소스입니다. AI 에이전트를 연결하는 방법에 대한 자세한 내용은 섹션을 참조하세요Amazon Q in Connect 사용자 지정. AI 가드레일은 Q가 정책에 따라 응답을 차단했을 때 사용자에게 알리는 기본 메시지와 함께 제공됩니다. 이 기본 메시지는 Amazon Q in Connect의 AI 프롬프트를 사용자 지정하여 선택한 모든 메시지로 덮어쓸 수 있습니다.

다음 이미지는 고객에게 표시되는 기본 가드레일 메시지의 예를 보여줍니다. 기본 메시지는 "가드레일별 차단된 입력 텍스트"입니다.

가드레일 정책 구성

다음은 AI 가드레일에 추가하는 5가지 정책 구성의 예입니다. 

주제

이 정책 구성을 사용하면 원치 않는 주제를 차단할 수 있습니다.

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "topicPolicyConfig": {
                  "topicsConfig": [
                    {
                      "name": "Financial Advice",
                      "definition": "Investment advice refers to financial inquiries, guidance, or recommendations with the goal of generating returns or achieving specific financial objectives.",
                      "examples": ["- Is investment in stocks better than index funds?", "Which stocks should I invest into?", "- Can you manage my personal finance?"],
                      "type": "DENY"
                    }
                  ]
                }
    }

내용

이 정책 구성을 사용하면 유해하고 부적절한 콘텐츠를 필터링할 수 있습니다.

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "contentPolicyConfig": {
                  "filtersConfig": [
                    {
                       "inputStrength": "HIGH",
                       "outputStrength": "HIGH",
                       "type": "INSULTS"
                    }
                  ]
                }
    }

단어

이 정책 구성을 사용하면 유해하고 부적절한 단어를 필터링할 수 있습니다. 

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "wordPolicyConfig": {
                  "wordsConfig": [
                    {
                       "text": "Nvidia",
                    },
                  ]
                }
    }

컨텍스트 근거

이 정책 구성을 통해 Q는 모델 응답에서 할루시네이션을 감지할 수 있습니다. 

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "contextualGroundPolicyConfig": {
                  "filtersConfig": [
                    {
                       "type": "RELEVANCE",
                       "threshold": 0.50
                    },
                  ]
                }
    }

민감한 정보

이 정책 구성은 개인 식별 정보(PII)와 같은 민감한 정보를 수정합니다. 

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "sensitiveInformationPolicyConfig": {
                  "piiEntitiesConfig": [
                    {
                       "type": "CREDIT_DEBIT_CARD_NUMBER",
                       "action":"BLOCK",
                    },
                  ]
                }
    }