Amazon Bedrock의 고급 프롬프트 템플릿을 사용하여 에이전트의 정확도 향상 - Amazon Bedrock
용어

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon Bedrock의 고급 프롬프트 템플릿을 사용하여 에이전트의 정확도 향상

만들어진 에이전트는 아래와 같은 네 가지 기본 프롬프트 템플릿으로 구성되며, 이를 통해 에이전트 시퀀스의 각 단계에서 파운데이션 모델로 전송할 프롬프트를 구성하는 방법을 알 수 있습니다. 각 단계에 포함되는 사항을 자세히 알아보려면 런타임 프로세스 섹션을 참조하세요.

  • 사전 처리

  • 오케스트레이션

  • 지식 기반 응답 생성

  • 사후 처리(기본적으로 비활성화됨)

  • 메모리 요약

프롬프트 템플릿은 에이전트가 아래 작업을 수행하는 방법을 정의합니다.

  • 파운데이션 모델의 사용자 입력 텍스트 및 출력 프롬프트를 처리합니다(FMs).

  • FM, 작업 그룹, 지식 기반 간 오케스트레이션

  • 응답을 포맷하고 사용자에게 반환

고급 프롬프트를 사용하면 이러한 프롬프트 템플릿이 상세한 구성을 제공하도록 수정하여 에이전트의 정확도를 높일 수 있습니다. 또한 퓨샷 프롬프팅을 위해 직접 선별한 예제를 제공할 수도 있습니다. 이렇게 하면 특정 작업에 대해 레이블이 지정된 예제를 제공하여 모델 성능을 개선할 수 있습니다.

고급 프롬프트에 대해 자세히 알아볼 수 있는 주제들을 살펴보세요.

주제

고급 프롬프트 용어

다음 용어는 고급 프롬프트의 작동 방식을 이해하는 데 도움이 됩니다.

  • 세션 - 세션 ID가 동일한 동일한 에이전트에 대한 InvokeAgent 요청 그룹입니다. InvokeAgent 요청을 생성할 때 이전 직접 호출의 응답에서 반환된 sessionId를 다시 사용하여 에이전트와 동일한 세션을 계속해서 진행할 수 있습니다. 에이전트 구성의 idleSessionTTLInSeconds 시간이 만료되지 않는 한 에이전트와 동일한 세션을 유지할 수 있습니다.

  • 턴 - 한 번의 InvokeAgent 직접 호출입니다. 세션은 하나 이상의 턴으로 구성되어 있습니다.

  • 반복 - 다음 작업의 시퀀스입니다.

    1. (필수) 파운데이션 모델에 대한 직접 호출

    2. (선택 사항) 작업 그룹 간접 호출

    3. (선택 사항) 지식 기반 간접 호출

    4. (선택 사항) 추가 정보를 요청하는 사용자에 대한 응답

    에이전트의 구성 또는 현재 에이전트의 요구 사항에 따라 작업을 건너뛸 수 있습니다. 턴은 한 번 이상의 반복으로 구성됩니다.

  • 프롬프트 - 프롬프트는 에이전트에 대한 지침, 컨텍스트 및 텍스트 입력으로 구성됩니다. 텍스트 입력은 사용자가 입력하거나 에이전트 시퀀스의 다른 단계 출력에서 가져올 수 있습니다. 에이전트가 사용자 입력에 대한 응답으로 수행할 다음 단계를 결정하기 위해 파운데이션 모델에 프롬프트가 제공됩니다.

  • 기본 프롬프트 템플릿 - 프롬프트를 구성하는 구조적 요소입니다. 템플릿은 런타임 시 사용자 입력과 에이전트 구성, 컨텍스트로 채워진 자리 표시자로 구성되어 에이전트가 해당 단계에 도달했을 때 파운데이션 모델이 처리할 프롬프트를 만듭니다. 자리 표시자에 대한 자세한 내용은 Amazon Bedrock 에이전트 프롬프트 템플릿에서 자리 표시자 변수 사용 섹션을 참조하세요. 고급 프롬프트를 사용하면 이러한 템플릿을 편집할 수 있습니다.