고급 프롬프트 구성

에이전트의 고급 프롬프트를 보거나 편집하려면 다음을 수행하세요.

1. Amazon Bedrock 권한이 있는 IAM 역할을 AWS Management Console 사용하여에 로그인하고 https://console.aws.amazon.com/bedrock/ Amazon Bedrock 콘솔을 엽니다.

2. 왼쪽 탐색 창에서 에이전트를 선택합니다. 에이전트 섹션에서 에이전트를 선택합니다.

3. 에이전트 세부 정보 페이지의 규격 초안 섹션에서 규격 초안을 선택합니다.

4. 작업 초안 페이지의 오케스트레이션 전략 섹션에서 편집을 선택합니다.

5. 오케스트레이션 전략 페이지의 오케스트레이션 전략 세부 정보 섹션에서 기본 오케스트레이션이 선택되어 있는지 확인한 다음 편집하려는 에이전트 시퀀스의 단계에 해당하는 탭을 선택합니다.

6. 템플릿 편집을 사용하려면 템플릿 기본값 재정의를 사용 설정합니다. 템플릿 기본값 재정의 대화 상자에서 확인을 선택합니다.

   주의

   템플릿 기본값 재정의를 사용 해제하거나 모델을 변경하면 기본 Amazon Bedrock 템플릿이 사용되며 기존 템플릿이 즉시 삭제됩니다. 확인하려면 텍스트 상자에 confirm을 입력하여 표시되는 메시지를 확인합니다.

7. 에이전트가 응답을 생성할 때 템플릿을 사용할 수 있도록 하려면 템플릿 활성화를 사용 설정합니다. 이 구성을 끄면 에이전트는 템플릿을 사용하지 않습니다.

8. 예제 프롬프트 템플릿을 수정하려면 프롬프트 템플릿 편집기를 사용합니다.

9. 구성 에서 프롬프트에 대한 추론 파라미터를 수정할 수 있습니다. 파라미터의 정의 및 다양한 모델의 파라미터에 대한 자세한 내용은 파운데이션 모델의 추론 요청 파라미터 및 응답 필드 섹션을 참조하세요.

10. (선택 사항) 원시 파운데이션 모델 출력을 구문 분석하도록 정의한 Lambda 함수를 사용하려면 다음 작업을 수행합니다.

    참고

    Lambda 함수 하나가 모든 프롬프트 템플릿에 사용됩니다.

    1. 구성 섹션에서 구문 분석에 Lambda 함수 사용을 선택합니다. 이 설정을 끄면 에이전트는 프롬프트에 기본 구문 분석을 사용합니다.

    2. 파서 Lambda 함수 의 경우 드롭다운 메뉴에서 Lambda 함수를 선택합니다.

       참고

       에이전트가 Lambda 함수에 액세스할 수 있도록 하려면 에이전트에 권한을 연결해야 합니다. 자세한 내용은 Amazon Bedrock이 작업 그룹 Lambda 함수를 간접적으로 호출하도록 허용하는 리소스 기반 정책 섹션을 참조하세요.

11. 다음 옵션 중 하나를 선택하여 설정을 저장합니다.

    1. 업데이트된 에이전트를 테스트하는 동안 프롬프트 설정을 동적으로 업데이트할 수 있도록 동일한 창에 유지하려면 저장을 선택합니다.

    2. 설정을 저장하고 규격 초안 페이지로 돌아가려면 저장 및 종료를 선택합니다.

12. 업데이트된 설정을 테스트하려면 테스트 창에서 준비를 선택합니다.

1. 편집하려는 각 프롬프트 템플릿의 promptConfiguration 객체를 promptConfigurations 목록에 포함합니다.

2. promptType 필드에 수정할 프롬프트를 지정합니다.

3. 다음 단계에 따라 프롬프트 템플릿을 수정합니다.

   1. 프롬프트 템플릿으로 basePromptTemplate 필드를 지정합니다.

   2. inferenceConfiguration 객체에 추론 파라미터를 포함합니다. 이 추론 구성에 대한 자세한 내용은 파운데이션 모델의 추론 요청 파라미터 및 응답 필드 섹션을 참조하세요.

4. 프롬프트 템플릿을 활성화하려면 promptCreationMode를 OVERRIDDEN으로 설정합니다.

5. 에이전트가 promptType 필드에서 단계를 수행하도록 허용하거나 금지하려면 promptState 값을 수정합니다. 이 설정은 에이전트의 동작 문제를 해결하는 데 유용할 수 있습니다.

   • PRE_PROCESSING, KNOWLEDGE_BASE_RESPONSE_GENERATION, POST_PROCESSING 단계의 promptState를 DISABLED로 설정하면 에이전트는 해당 단계를 건너뛰게 됩니다.

   • ORCHESTRATION 단계에 대해 promptState를 DISABLED로 설정하면 에이전트는 오케스트레이션의 파운데이션 모델로 사용자 입력만 전송합니다. 또한 에이전트는 API 작업과 지식 기반 간의 직접 호출을 오케스트레이션하지 않고 응답을 있는 그대로 반환합니다.

   • 기본적으로 POST_PROCESSING 단계는 DISABLED입니다. 기본적으로, PRE_PROCESSING, ORCHESTRATION, KNOWLEDGE_BASE_RESPONSE_GENERATION 단계는 ENABLED입니다.

   • 기본적으로 MEMORY_SUMMARIZATION 단계는 메모리가 활성화된 ENABLED 경우 이고MEMORY_SUMMARIZATION, 단계는 메모리가 비활성화된 DISABLED 경우 입니다.

6. 원시 파운데이션 모델 출력을 구문 분석하도록 정의한 Lambda 함수를 사용하려면 다음 단계를 수행합니다.

   1. Lambda 함수를 사용하려는 각 프롬프트 템플릿에서 parserMode를 OVERRIDDEN으로 설정합니다.

   2. promptOverrideConfiguration 객체의 overrideLambda 필드에 Lambda 함수의 Amazon 리소스 이름(ARN)을 지정합니다.

7. (선택 사항) 컨텍스트가 길고 반복되는 입력이 있는 경우 지연 시간을 줄이기 위해 프롬프트 캐싱을 활성화하려면 cachingState 필드를 로 설정합니다ENABLED. 프롬프트 캐싱에 대한 자세한 내용은 섹션을 참조하세요더 빠른 모델 추론을 위한 프롬프트 캐싱.

   참고

   Amazon Bedrock 프롬프트 캐싱은 현재 일부 고객만 사용할 수 있습니다. 미리 보기 참여에 대한 자세한 내용은 Amazon Bedrock 프롬프트 캐싱을 참조하세요.