애플리케이션에 Amazon Bedrock 에이전트 배포 및 통합 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

애플리케이션에 Amazon Bedrock 에이전트 배포 및 통합

Amazon Bedrock 에이전트를 처음 만들 때 규격 초안 버전(DRAFT)과 규격 초안 버전을 가리키는 테스트 별칭(TSTALIASID)이 있습니다. 에이전트를 변경하면 변경 사항이 규격 초안에 적용됩니다. 만족스러운 에이전트 동작이 나올 때까지 규격 초안을 반복합니다. 그런 다음 에이전트의 별칭을 만들어 애플리케이션에 대한 배포 및 통합을 위해 에이전트를 설정할 수 있습니다.

에이전트를 배포하려면 별칭을 만들어야 합니다. 별칭을 만드는 과정에서 Amazon Bedrock은 에이전트의 버전을 자동으로 생성합니다. 별칭은 이러한 새로 생성된 버전을 가리킵니다. 또는 별칭을 이전에 생성한 에이전트 버전으로 지정할 수 있습니다. 그런 다음 해당 별칭을 API 호출하도록 애플리케이션을 구성합니다.

버전은 리소스가 만들어진 시점의 리소스를 그대로 보존하는 스냅샷과 같습니다. 규격 초안을 계속 수정하고, 필요에 따라 에이전트의 새 별칭(및 그에 따른 버전)을 만들 수 있습니다. Amazon Bedrock에서는 기본적으로 새 버전을 가리키는 별칭을 생성하여 에이전트의 새 버전을 생성합니다. Amazon Bedrock은 1부터 시작하여 번호순으로 버전을 생성합니다.

버전은 해당 버전이 만들어진 당시 에이전트의 스냅샷 역할을 하므로 변경이 불가합니다. 프로덕션 환경에서 에이전트를 업데이트하려면, 먼저 새 버전을 만들고 해당 버전을 가리키는 별칭을 직접적으로 호출하도록 애플리케이션을 설정해야 합니다.

별칭을 사용하면 애플리케이션이 버전을 추적하지 않아도 에이전트의 여러 버전을 서로 전환할 수 있습니다. 예를 들어, 변경 사항을 신속히 되돌려야 할 경우, 이전 버전의 에이전트를 가리키도록 별칭을 변경할 수 있습니다.

에이전트를 배포하는 방법

  1. 에이전트의 별칭 및 버전을 만듭니다. 원하는 메서드의 탭을 선택한 다음 다음 단계를 따릅니다.

    Console
    별칭(및 필요한 경우 새 버전)을 생성하는 방법

    1. IAM Amazon Bedrock 권한이 있는 역할을 AWS Management Console 사용하여에 로그인하고에서 Amazon Bedrock 콘솔을 엽니다https://console.aws.amazon.com/bedrock/.

    2. 왼쪽 탐색 창에서 에이전트를 선택합니다. 에이전트 섹션에서 에이전트를 선택합니다.

    3. 별칭 섹션에서 생성을 선택합니다.

    4. 고유한 별칭 이름을 입력하고, 필요한 경우 설명을 제공합니다.

    5. 버전 연결에서 다음 옵션 중 하나를 선택합니다.

      • 새 버전을 만들려면 새 버전을 생성하고 이 별칭에 연결을 선택합니다.

      • 기존 버전을 사용하려면 기존 버전을 사용하여 이 별칭에 연결을 선택합니다. 드롭다운 메뉴에서 별칭을 연결할 버전을 선택합니다.

    6. 처리량 선택에서 다음 옵션 중 하나를 선택합니다.

      • 에이전트가 계정에 설정된 속도로 모델 추론을 실행하도록 하려면 온디맨드(ODT)를 선택합니다. 자세한 내용은 Amazon Bedrock의 할당량 단원을 참조하십시오.

      • 이전에 모델에 대해 구매한 프로비저닝된 처리량을 사용하여 에이전트가 증가된 속도로 모델 추론을 실행하도록 하려면 프로비저닝된 처리량(PT)을 선택한 다음 프로비저닝된 모델을 선택합니다. 자세한 내용은 Amazon Bedrock에서 프로비저닝된 처리량으로 모델 간접 호출 용량 증대 단원을 참조하십시오.

    7. 별칭 생성을 선택합니다.

    API

    에이전트의 별칭을 생성하려면 Amazon Bedrock용 에이전트 빌드 시간 엔드포인트로 CreateAgentAlias 요청을 보냅니다.

    필수 필드는 다음과 같습니다.

    필드 사용 사례
    agentId 별칭을 만들 에이전트의 ID를 지정합니다.
    agentName 별칭의 이름을 지정합니다.

    다음 필드는 선택 사항입니다.

    필드 사용 사례
    설명 별칭에 대한 설명을 제공합니다.
    routingConfiguration 별칭에 연결할 버전(새 버전을 만들려면 비워둠) 및 별칭에 연결할 프로비저닝된 처리량을 지정합니다.
    clientToken API 요청이 한 번만 완료되도록 하려면 자세한 내용은 Ensuring idempotency를 참조하세요.
    tags 별칭에 태그를 연결합니다.

    코드 예시 보기

  2. 를 생성하도록 애플리케이션을 설정하여 에이전트 배포 InvokeAgent Amazon Bedrock용 에이전트 런타임 엔드포인트를 통한 요청. agentAliasId 필드에서, 사용하려는 에이전트의 버전을 가리키는 별칭의 ID를 지정합니다.

    InvokeAgent 응답 스트림에는 응답의 각 부분에 대해 청크가 있는 여러 이벤트가 순서대로 포함됩니다. 스트리밍 구성true에서를 로 설정하여 선택적으로 스트리밍을 활성화streamFinalResponse할 수 있습니다.

    • 에이전트가 Guardrail로 구성된 경우 applyGuardrailInterval에서를 지정StreamingConfigurations하여 발신 응답 문자에 대한 ApplyGuardrail 호출 빈도(예: 50자마다)를 제어할 수도 있습니다.

    • 응답 스트리밍은 현재 오케스트레이션 프롬프트에서만 지원됩니다.

    • 인용은 현재 스트리밍에서 지원되지 않습니다.

    • 에이전트 실행 역할에 구성된 에이전트 모델에 대한 bedrock:InvokeModelWithResponseStream 권한이 포함되어 있는지 확인합니다.