기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
플레이그라운드
중요
기본 모델을 사용하려면 먼저 Amazon Bedrock 콘솔을 통해 해당 모델에 대한 액세스를 요청해야 합니다. 콘솔을 통해서만 모델 액세스를 관리할 수 있습니다. 액세스 권한을 요청하기 전에 모델을 API 사용 또는 콘솔 내에서 사용하려고 하면 오류 메시지가 표시됩니다. 자세한 정보는 Amazon 베드락 기반 모델에 대한 액세스 관리을 참조하세요.
Amazon Bedrock 플레이그라운드는 애플리케이션에서 사용하기로 결정하기 전에 다양한 모델 및 구성에서 추론 실행을 실험할 수 있는 콘솔 환경을 제공합니다. 콘솔의 왼쪽 탐색 창에서 플레이그라운드를 선택하여 플레이그라운드에 액세스합니다. 모델 세부 정보 페이지 또는 예시 페이지에서 모델을 선택하면 플레이그라운드로 바로 이동할 수도 있습니다.
텍스트, 채팅, 이미지 모델용 플레이그라운드가 있습니다.
각 플레이그라운드 내에서 프롬프트를 입력하고 추론 파라미터를 실험해 볼 수 있습니다. 프롬프트는 일반적으로 모델의 시나리오, 질문 또는 작업을 설정하는 하나 이상의 텍스트 문장입니다. 프롬프트 생성에 대한 자세한 내용은 프롬프트 엔지니어링 지침 섹션을 참조하세요.
추론 파라미터는 생성된 텍스트의 무작위성과 같이 모델이 생성하는 응답에 영향을 줍니다. 모델을 플레이그라운드로 로드하면 플레이그라운드는 기본 추론 설정으로 모델을 구성합니다. 모델을 실험하면서 설정을 변경하고 재설정할 수 있습니다. 각 모델에는 자체 추론 파라미터 집합이 있습니다. 자세한 정보는 파운데이션 모델의 추론 파라미터을 참조하세요.
와 같은 Anthropic Claude 3 Sonnet 모델이 지원하는 경우 시스템 프롬프트를 지정할 수 있습니다. 시스템 프롬프트는 모델이 수행해야 하는 작업 또는 대화 중에 채택해야 하는 페르소나에 대한 지침이나 컨텍스트를 모델에 제공하는 일종의 프롬프트입니다. 예를 들어 응답에서 코드를 생성하도록 모델에 지시하는 시스템 프롬프트를 지정하거나, 모델이 응답을 생성할 때 학교 교사의 페르소나를 채택하도록 요청할 수 있습니다.
응답을 제출하면 모델이 생성된 출력으로 응답합니다.
채팅 또는 텍스트 모델이 스트리밍을 지원하는 경우 기본값은 모델에서 응답을 스트리밍하는 것입니다. 필요에 따라 스트리밍을 끌 수 있습니다.
채팅 플레이그라운드
채팅 플레이그라운드를 통해 Amazon Bedrock에서 제공하는 채팅 모델을 실험해 볼 수 있습니다. 프롬프트를 모델에 제출할 때 사용할 수 있는 옵션은 다음과 같습니다.
-
응답에 영향을 미치도록 구성을 수정하십시오.
-
이미지 (모델이 멀티모달 프롬프트를 지원하는 경우) 또는 문서를 포함시키고 문서와 관련된 프롬프트를 모델에 제출하십시오.
응답은 모델 지표와 함께 반환됩니다.
구성 변경
가능한 구성 변경은 모델마다 다르지만 일반적으로 온도 및 상위 K와 같은 추론 파라미터 변경을 포함합니다. 자세한 내용은 을 참조하십시오. 추론 파라미터 특정 모델의 추론 파라미터를 보려면 을 참조하십시오파운데이션 모델의 추론 파라미터.
모델에서 생성되는 경우 모델이 추가 출력 생성을 중단해야 한다는 신호를 보내는 중지 시퀀스를 하나 이상 설정할 수 있습니다.
모델 메트릭
채팅 플레이그라운드는 처리하는 프롬프트에 대해 다음과 같은 지표를 생성합니다.
-
지연 시간 - 모델이 각 토큰(단어)을 시퀀스대로 생성하는 데 걸리는 시간입니다.
-
입력 토큰 수 - 추론 중에 입력으로 모델에 제공되는 토큰 수입니다.
-
출력 토큰 수 - 프롬프트에 대한 응답으로 생성된 토큰 수입니다. 더 길고 대화가 많은 응답에는 더 많은 토큰이 필요합니다.
-
비용 - 입력을 처리하고 출력 토큰을 생성하는 데 드는 비용입니다.
모델 응답과 일치시킬 기준을 정의할 수도 있습니다.
비교 모델을 켜면 단일 프롬프트에 대한 채팅 응답을 최대 3개 모델의 응답과 비교할 수 있습니다. 이렇게 하면 모델 간에 전환하지 않고도 각 모델의 상대적인 성능을 이해할 수 있습니다. 자세한 정보는 플레이그라운드 사용을 참조하세요.
텍스트 플레이그라운드
텍스트 플레이그라운드를 통해 Amazon Bedrock에서 제공하는 텍스트 모델을 실험해 볼 수 있습니다. 모델에 텍스트를 제출할 수 있으며, 그러면 텍스트 플레이그라운드에 모델이 프롬프트에서 생성한 텍스트가 표시됩니다.
이미지 플레이그라운드
이미지 플레이그라운드를 통해 Amazon Bedrock에서 제공하는 이미지 모델을 실험해 볼 수 있습니다. 모델에 텍스트 프롬프트를 제출할 수 있으며, 이렇게 하면 이미지 플레이그라운드에는 모델이 프롬프트에서 생성한 이미지가 표시됩니다.
추론 파라미터 설정과 함께 구성을 추가로 변경할 수 있습니다 (모델별로 다름).
플레이그라운드 사용
다음 절차는 플레이그라운드에 프롬프트를 제출하고 응답을 보는 방법을 보여 줍니다. 각 플레이그라운드에서 모델의 추론 파라미터를 구성할 수 있습니다. 채팅 플레이그라운드에서는 지표를 볼 수 있으며 필요에 따라 최대 3개 모델의 출력을 비교할 수 있습니다. 이미지 플레이그라운드에서는 고급 구성 변경 사항을 수행할 수 있으며, 이는 모델별로 다릅니다.
플레이그라운드를 사용하려면 다음을 수행하세요.
아직 요청하지 않은 경우 사용하려는 모델에 대한 액세스 권한을 요청하세요. 자세한 정보는 Amazon 베드락 기반 모델에 대한 액세스 관리을 참조하세요.
-
Amazon Bedrock 콘솔을 엽니다.
-
탐색 창의 플레이그라운드에서 채팅, 텍스트 또는 이미지를 선택합니다.
-
모델 선택을 선택하여 모델 선택 대화 상자를 엽니다.
-
카테고리에서 사용 가능한 공급자 또는 사용자 지정 모델 중에서 선택합니다.
모델에서 모델을 선택합니다.
-
처리량에서 모델에 사용할 처리량(온디맨드 또는 프로비저닝된 처리량)을 선택합니다. 사용자 지정 모델을 사용할 경우 해당 모델에 대한 프로비저닝된 처리량을 미리 설정해야 합니다. 자세한 정보는 Amazon Bedrock의 프로비저닝된 처리량섹션을 참조하십시오.
적용를 선택합니다.
-
-
모델 응답에 영향을 주는 다음 단계는 선택 사항입니다.
-
구성에서 사용하려는 추론 파라미터를 선택합니다. 자세한 정보는 파운데이션 모델의 추론 파라미터을 참조하세요. 이미지 플레이그라운드에서 만들 수 있는 구성 변경 사항에 대한 내용은 이미지 플레이그라운드 섹션을 참조하세요.
-
모델이 시스템 프롬프트를 지원하는 경우 시스템 프롬프트 텍스트 상자에 시스템 프롬프트를 입력할 수 있습니다.
-
채팅 플레이그라운드를 사용하는 경우 파일 선택을 선택하거나 파일을 프롬프트 텍스트 필드로 드래그하여 프롬프트를 보완하는 다음 유형의 파일을 포함시킬 수 있습니다.
-
문서 — 프롬프트를 보완할 문서를 추가합니다. 지원되는 파일 유형 목록은 의
format
필드를 참조하십시오 DocumentBlock.주의
문서 이름은 모델에서 실수로 명령으로 해석할 수 있기 때문에 프롬프트 삽입에 취약합니다. 따라서 중립적인 이름을 지정하는 것이 좋습니다.
-
이미지 - 모델이 멀티모달 프롬프트를 지원하는 경우 프롬프트를 보완할 이미지를 추가합니다. 지원되는 파일 유형 목록은 의
format
필드를 참조하십시오. ImageBlock
참고
채팅 플레이그라운드에 파일을 추가할 때는 다음과 같은 제한 사항이 적용됩니다.
-
최대 20개의 이미지를 포함할 수 있습니다. 각 이미지의 크기, 높이, 너비는 각각 3.75MB, 8,000픽셀, 8,000픽셀을 넘지 않아야 합니다.
-
문서는 최대 5개까지 포함할 수 있습니다. 각 문서의 크기는 4.5MB를 넘지 않아야 합니다.
-
-
-
텍스트 필드에 프롬프트를 입력합니다. 프롬프트는 자연어 구문 또는 명령(예:
Tell me about the best restaurants to visit in Seattle
)입니다. 이미지나 문서를 포함하는 경우 프롬프트에서 이를 참조할 수 있습니다 (예:Summarize this document for me
또는)Tell me what's in this image
. 자세한 정보는 프롬프트 엔지니어링 지침을 참조하세요.참고
Amazon Bedrock은 사용자가 제공하는 텍스트, 이미지 또는 문서를 저장하지 않습니다. 데이터는 응답을 생성하는 데만 사용됩니다.
-
Amazon Bedrock은 사용자가 제공하는 텍스트, 이미지 또는 문서를 저장하지 않습니다. 데이터는 응답을 생성하는 데만 사용됩니다. 프롬프트를 실행하려면 [Run] 을 선택합니다.
참고
응답이 콘텐츠 조정 정책을 위반할 경우 Amazon Bedrock에서는 해당 응답을 표시하지 않습니다. 스트리밍을 활성화하면 정책을 위반하는 콘텐츠가 생성된 경우 Amazon Bedrock은 전체 응답을 지웁니다. 자세한 내용을 보려면 Amazon Bedrock 콘솔로 이동하여 제공업체를 선택하고 콘텐츠 제한 사항 섹션 아래의 텍스트를 참조하세요.
프롬프트 엔지니어링에 대한 내용은 프롬프트 엔지니어링 지침 섹션을 참조하세요.
-
채팅 플레이그라운드를 사용하는 경우 다음을 수행하여 모델 지표를 보고 모델을 비교하세요.
-
모델 지표 섹션에서 각 모델의 지표를 확인합니다.
-
(선택 사항) 다음을 수행하여 일치시키려는 기준을 정의합니다.
-
지표 기준 정의를 선택합니다.
-
사용하려는 지표에서 조건과 값을 선택합니다. 다음 조건을 설정할 수 있습니다.
-
미만 - 지표 값이 지정된 값보다 작습니다.
-
초과 - 지표 값이 지정된 값보다 큽니다.
-
-
적용을 선택하여 기준을 적용합니다.
-
어떤 기준이 충족되는지 확인합니다. 모든 기준이 충족되면 전체 요약에 모든 기준 충족으로 표시됩니다. 하나 이상의 기준이 충족되지 않는 경우 전체 요약에 기준 미충족으로 표시되고 미충족 기준은 빨간색으로 강조 표시됩니다.
-
-
(선택 사항) 다음 작업을 수행하여 비교할 모델을 추가합니다.
비교 모드를 켭니다.
-
모델 선택을 선택하여 모델을 선택합니다.
-
대화 상자에서 공급자, 모델, 처리량을 선택합니다.
-
적용를 선택합니다.
-
(선택 사항) 각 모델 옆에 있는 메뉴 아이콘을 선택하여 해당 모델에 대한 추론 파라미터를 구성합니다. 자세한 정보는 파운데이션 모델의 추론 파라미터을 참조하세요.
-
채팅 플레이그라운드 섹션 오른쪽에 있는 + 아이콘을 선택하여 비교할 두 번째 또는 세 번째 모델을 추가하세요.
-
A~C 단계를 반복하여 비교하려는 모델을 추가합니다.
텍스트 필드에 프롬프트를 입력하고 실행을 선택합니다.
-