Amazon Bedrock에서 고급 프롬프트 템플릿을 사용하여 에이전트의 정확도 향상 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon Bedrock에서 고급 프롬프트 템플릿을 사용하여 에이전트의 정확도 향상

생성 후 에이전트는 에이전트 시퀀스의 각 단계에서 파운데이션 모델로 전송하라는 프롬프트를 구성하는 방법을 설명하는 다음 네 가지 기본 프롬프트 템플릿 으로 구성됩니다. 각 단계에 포함되는 사항에 대한 자세한 내용은 섹션을 참조하세요런타임 프로세스.

  • 사전 처리

  • 오케스트레이션

  • 지식 기반 응답 생성

  • 후처리(기본적으로 비활성화됨)

프롬프트 템플릿은 에이전트가 다음을 수행하는 방법을 정의합니다.

  • 파운데이션 모델의 사용자 입력 텍스트 및 출력 프롬프트를 처리합니다(FMs).

  • FM, 작업 그룹 및 지식 기반 간 오케스트레이션

  • 응답을 포맷하고 사용자에게 반환합니다.

고급 프롬프트를 사용하면 세부 구성을 제공하도록 이러한 프롬프트 템플릿을 수정하여 에이전트의 정확도를 높일 수 있습니다. 또한 특정 작업에 대해 레이블이 지정된 예제를 제공하여 모델 성능을 개선하는 몇 번의 샷 프롬프트에 대해 수동으로 큐레이팅된 예제를 제공할 수 있습니다.

주제를 선택하여 고급 프롬프트에 대해 자세히 알아보세요.

고급 프롬프트 용어

다음 용어는 고급 프롬프트의 작동 방식을 이해하는 데 도움이 됩니다.

  • 세션 - 세션 ID가 동일한 동일한 에이전트에 대한 InvokeAgent 요청 그룹입니다. InvokeAgent 요청을 생성할 때 이전 직접 호출의 응답에서 반환된 sessionId를 다시 사용하여 에이전트와 동일한 세션을 계속해서 진행할 수 있습니다. 에이전트 구성의 idleSessionTTLInSeconds 시간이 만료되지 않은 한 에이전트와 동일한 세션을 유지합니다.

  • - 한 번의 InvokeAgent 직접 호출입니다. 세션은 하나 이상의 턴으로 구성됩니다.

  • 반복 - 다음 작업의 시퀀스입니다.

    1. (필수) 파운데이션 모델에 대한 직접 호출

    2. (선택 사항) 작업 그룹 간접 호출

    3. (선택 사항) 지식 기반 간접 호출

    4. (선택 사항) 추가 정보를 요청하는 사용자에 대한 응답

    에이전트의 구성 또는 현재 에이전트의 요구 사항에 따라 작업을 건너뛸 수 있습니다. 턴은 한 번 이상의 반복으로 구성됩니다.

  • 프롬프트 - 프롬프트는 에이전트에 대한 지침, 컨텍스트 및 텍스트 입력으로 구성됩니다. 텍스트 입력은 사용자 또는 에이전트 시퀀스의 다른 단계의 출력에서 가져올 수 있습니다. 에이전트가 사용자 입력에 응답하는 데 필요한 다음 단계를 결정하기 위해 파운데이션 모델에 프롬프트가 제공됩니다.

  • 기본 프롬프트 템플릿 - 프롬프트를 구성하는 구조적 요소입니다. 템플릿은 런타임 시 사용자 입력, 에이전트 구성 및 컨텍스트로 채워진 자리 표시자로 구성되어 에이전트가 해당 단계에 도달할 때 파운데이션 모델이 처리할 프롬프트를 생성합니다. 이러한 자리 표시자에 대한 자세한 내용은 섹션을 참조하세요Amazon Bedrock 에이전트 프롬프트 템플릿에서 자리 표시자 변수 사용). 고급 프롬프트를 사용하면 이러한 템플릿을 편집할 수 있습니다.