플레이그라운드 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

플레이그라운드

중요

기본 모델을 사용하려면 먼저 Amazon Bedrock 콘솔을 통해 해당 모델에 대한 액세스를 요청해야 합니다. 콘솔을 통해서만 모델 액세스를 관리할 수 있습니다. 액세스 권한을 요청하기 전에 모델을 API 사용 또는 콘솔 내에서 사용하려고 하면 오류 메시지가 표시됩니다. 자세한 정보는 Amazon 베드락 기반 모델에 대한 액세스 관리을 참조하세요.

Amazon Bedrock 플레이그라운드는 애플리케이션에서 사용하기로 결정하기 전에 다양한 모델 및 구성에서 추론 실행을 실험할 수 있는 콘솔 환경을 제공합니다. 콘솔의 왼쪽 탐색 창에서 플레이그라운드를 선택하여 플레이그라운드에 액세스합니다. 모델 세부 정보 페이지 또는 예시 페이지에서 모델을 선택하면 플레이그라운드로 바로 이동할 수도 있습니다.

텍스트, 채팅, 이미지 모델용 플레이그라운드가 있습니다.

각 플레이그라운드 내에서 프롬프트를 입력하고 추론 파라미터를 실험해 볼 수 있습니다. 프롬프트는 일반적으로 모델의 시나리오, 질문 또는 작업을 설정하는 하나 이상의 텍스트 문장입니다. 프롬프트 생성에 대한 자세한 내용은 프롬프트 엔지니어링 지침 섹션을 참조하세요.

추론 파라미터는 생성된 텍스트의 무작위성과 같이 모델이 생성하는 응답에 영향을 줍니다. 모델을 플레이그라운드로 로드하면 플레이그라운드는 기본 추론 설정으로 모델을 구성합니다. 모델을 실험하면서 설정을 변경하고 재설정할 수 있습니다. 각 모델에는 자체 추론 파라미터 집합이 있습니다. 자세한 정보는 파운데이션 모델의 추론 파라미터을 참조하세요.

와 같은 Anthropic Claude 3 Sonnet 모델이 지원하는 경우 시스템 프롬프트를 지정할 수 있습니다. 시스템 프롬프트는 모델이 수행해야 하는 작업 또는 대화 중에 채택해야 하는 페르소나에 대한 지침이나 컨텍스트를 모델에 제공하는 일종의 프롬프트입니다. 예를 들어 응답에서 코드를 생성하도록 모델에 지시하는 시스템 프롬프트를 지정하거나, 모델이 응답을 생성할 때 학교 교사의 페르소나를 채택하도록 요청할 수 있습니다.

응답을 제출하면 모델이 생성된 출력으로 응답합니다.

채팅 또는 텍스트 모델이 스트리밍을 지원하는 경우 기본값은 모델에서 응답을 스트리밍하는 것입니다. 필요에 따라 스트리밍을 끌 수 있습니다.

채팅 플레이그라운드

채팅 플레이그라운드를 통해 Amazon Bedrock에서 제공하는 채팅 모델을 실험해 볼 수 있습니다. 프롬프트를 모델에 제출할 때 사용할 수 있는 옵션은 다음과 같습니다.

  • 응답에 영향을 미치도록 구성을 수정하십시오.

  • 이미지 (모델이 멀티모달 프롬프트를 지원하는 경우) 또는 문서를 포함시키고 문서와 관련된 프롬프트를 모델에 제출하십시오.

응답은 모델 지표와 함께 반환됩니다.

구성 변경

가능한 구성 변경은 모델마다 다르지만 일반적으로 온도 및 상위 K와 같은 추론 파라미터 변경을 포함합니다. 자세한 내용은 을 참조하십시오. 추론 파라미터 특정 모델의 추론 파라미터를 보려면 을 참조하십시오파운데이션 모델의 추론 파라미터.

모델에서 생성되는 경우 모델이 추가 출력 생성을 중단해야 한다는 신호를 보내는 중지 시퀀스를 하나 이상 설정할 수 있습니다.

모델 메트릭

채팅 플레이그라운드는 처리하는 프롬프트에 대해 다음과 같은 지표를 생성합니다.

  • 지연 시간 - 모델이 각 토큰(단어)을 시퀀스대로 생성하는 데 걸리는 시간입니다.

  • 입력 토큰 수 - 추론 중에 입력으로 모델에 제공되는 토큰 수입니다.

  • 출력 토큰 수 - 프롬프트에 대한 응답으로 생성된 토큰 수입니다. 더 길고 대화가 많은 응답에는 더 많은 토큰이 필요합니다.

  • 비용 - 입력을 처리하고 출력 토큰을 생성하는 데 드는 비용입니다.

모델 응답과 일치시킬 기준을 정의할 수도 있습니다.

비교 모델을 켜면 단일 프롬프트에 대한 채팅 응답을 최대 3개 모델의 응답과 비교할 수 있습니다. 이렇게 하면 모델 간에 전환하지 않고도 각 모델의 상대적인 성능을 이해할 수 있습니다. 자세한 정보는 플레이그라운드 사용을 참조하세요.

텍스트 플레이그라운드

텍스트 플레이그라운드를 통해 Amazon Bedrock에서 제공하는 텍스트 모델을 실험해 볼 수 있습니다. 모델에 텍스트를 제출할 수 있으며, 그러면 텍스트 플레이그라운드에 모델이 프롬프트에서 생성한 텍스트가 표시됩니다.

이미지 플레이그라운드

이미지 플레이그라운드를 통해 Amazon Bedrock에서 제공하는 이미지 모델을 실험해 볼 수 있습니다. 모델에 텍스트 프롬프트를 제출할 수 있으며, 이렇게 하면 이미지 플레이그라운드에는 모델이 프롬프트에서 생성한 이미지가 표시됩니다.

추론 파라미터 설정과 함께 구성을 추가로 변경할 수 있습니다 (모델별로 다름).

Stable Diffusion XL
  • 조치 — 이미지 생성, 이미지 변형 생성 또는 이미지 편집과 같은 다른 작업을 선택할지 결정합니다.

    참조 이미지를 편집하는 경우 모델에서 편집하려는 이미지 영역을 포괄하는 분할 마스크가 모델에 필요합니다. 이미지 평판을 사용하여 참조 영상에 직사각형을 그려 분할 마스크를 만듭니다.

  • 네거티브 프롬프트 — 이미지에 포함하지 말아야 할 내용을 설명하십시오. 만화 또는 폭력 등을 예로 들 수 있습니다.

  • 참조 이미지 - 응답을 생성하거나 모델이 편집하기를 원하는 이미지입니다.

  • 응답 이미지 - 생성된 이미지에 대한 출력을 설정합니다(예: 품질, 방향, 크기, 생성할 이미지 수 등).

  • 고급 구성

    • 프롬프트 강도 — 이를 사용하여 최종 이미지가 프롬프트를 얼마나 잘 나타내는지 결정할 수 있습니다.

    • 단계 생성 - 이 단계를 사용하여 이미지가 샘플링되는 횟수를 결정할 수 있습니다. 단계가 많을수록 더 정확한 결과를 얻을 수 있습니다.

    • 시드 — 비슷한 결과를 생성하려면 이 옵션을 사용하십시오. 다른 추론 파라미터에 대한 자세한 내용은 아래 설명서 링크를 참조하십시오.

Titan Image Generator G1
  • 조치 — 이미지 생성, 이미지 변형 생성, 개체, 개체 제거 또는 이미지 배경 바꾸기와 같은 다른 작업을 선택할지 결정합니다.

  • 네거티브 프롬프트 - 만화나 폭력 등 모델에서 생성하지 않으려는 항목이나 컨셉입니다.

  • 참조 이미지 - 응답을 생성하거나 모델이 편집하기를 원하는 이미지입니다.

  • 응답 이미지 - 생성된 이미지에 대한 출력을 설정합니다(예: 품질, 방향, 크기, 생성할 이미지 수 등).

  • 마스크 도구 — 선택기 또는 프롬프트 도구 중에서 선택하여 마스크를 정의합니다.

  • 고급 구성

    • 프롬프트 강도 — 이를 사용하여 최종 이미지가 프롬프트를 얼마나 잘 나타내는지를 결정할 수 있습니다.

    • 시드 - 이 옵션을 사용하면 비슷한 결과를 얻을 수 있습니다. 다른 추론 파라미터에 대한 자세한 내용은 아래 설명서 링크를 참조하십시오.

플레이그라운드 사용

다음 절차는 플레이그라운드에 프롬프트를 제출하고 응답을 보는 방법을 보여 줍니다. 각 플레이그라운드에서 모델의 추론 파라미터를 구성할 수 있습니다. 채팅 플레이그라운드에서는 지표를 볼 수 있으며 필요에 따라 최대 3개 모델의 출력을 비교할 수 있습니다. 이미지 플레이그라운드에서는 고급 구성 변경 사항을 수행할 수 있으며, 이는 모델별로 다릅니다.

플레이그라운드를 사용하려면 다음을 수행하세요.
  1. 아직 요청하지 않은 경우 사용하려는 모델에 대한 액세스 권한을 요청하세요. 자세한 정보는 Amazon 베드락 기반 모델에 대한 액세스 관리을 참조하세요.

  2. Amazon Bedrock 콘솔을 엽니다.

  3. 탐색 창의 플레이그라운드에서 채팅, 텍스트 또는 이미지를 선택합니다.

  4. 모델 선택을 선택하여 모델 선택 대화 상자를 엽니다.

    1. 카테고리에서 사용 가능한 공급자 또는 사용자 지정 모델 중에서 선택합니다.

    2. 모델에서 모델을 선택합니다.

    3. 처리량에서 모델에 사용할 처리량(온디맨드 또는 프로비저닝된 처리량)을 선택합니다. 사용자 지정 모델을 사용할 경우 해당 모델에 대한 프로비저닝된 처리량을 미리 설정해야 합니다. 자세한 정보는 Amazon Bedrock의 프로비저닝된 처리량섹션을 참조하십시오.

    4. 적용를 선택합니다.

  5. 모델 응답에 영향을 주는 다음 단계는 선택 사항입니다.

    1. 구성에서 사용하려는 추론 파라미터를 선택합니다. 자세한 정보는 파운데이션 모델의 추론 파라미터을 참조하세요. 이미지 플레이그라운드에서 만들 수 있는 구성 변경 사항에 대한 내용은 이미지 플레이그라운드 섹션을 참조하세요.

    2. 모델이 시스템 프롬프트를 지원하는 경우 시스템 프롬프트 텍스트 상자에 시스템 프롬프트를 입력할 수 있습니다.

    3. 채팅 플레이그라운드를 사용하는 경우 파일 선택을 선택하거나 파일을 프롬프트 텍스트 필드로 드래그하여 프롬프트를 보완하는 다음 유형의 파일을 포함시킬 수 있습니다.

      • 문서 — 프롬프트를 보완할 문서를 추가합니다. 지원되는 파일 유형 목록은 의 format 필드를 참조하십시오 DocumentBlock.

        주의

        문서 이름은 모델에서 실수로 명령으로 해석할 수 있기 때문에 프롬프트 삽입에 취약합니다. 따라서 중립적인 이름을 지정하는 것이 좋습니다.

      • 이미지 - 모델이 멀티모달 프롬프트를 지원하는 경우 프롬프트를 보완할 이미지를 추가합니다. 지원되는 파일 유형 목록은 의 format 필드를 참조하십시오. ImageBlock

      참고

      채팅 플레이그라운드에 파일을 추가할 때는 다음과 같은 제한 사항이 적용됩니다.

      • 최대 20개의 이미지를 포함할 수 있습니다. 각 이미지의 크기, 높이, 너비는 각각 3.75MB, 8,000픽셀, 8,000픽셀을 넘지 않아야 합니다.

      • 문서는 최대 5개까지 포함할 수 있습니다. 각 문서의 크기는 4.5MB를 넘지 않아야 합니다.

  6. 텍스트 필드에 프롬프트를 입력합니다. 프롬프트는 자연어 구문 또는 명령(예: Tell me about the best restaurants to visit in Seattle)입니다. 이미지나 문서를 포함하는 경우 프롬프트에서 이를 참조할 수 있습니다 (예: Summarize this document for me 또는)Tell me what's in this image. 자세한 정보는 프롬프트 엔지니어링 지침을 참조하세요.

    참고

    Amazon Bedrock은 사용자가 제공하는 텍스트, 이미지 또는 문서를 저장하지 않습니다. 데이터는 응답을 생성하는 데만 사용됩니다.

  7. Amazon Bedrock은 사용자가 제공하는 텍스트, 이미지 또는 문서를 저장하지 않습니다. 데이터는 응답을 생성하는 데만 사용됩니다. 프롬프트를 실행하려면 [Run] 을 선택합니다.

    참고

    응답이 콘텐츠 조정 정책을 위반할 경우 Amazon Bedrock에서는 해당 응답을 표시하지 않습니다. 스트리밍을 활성화하면 정책을 위반하는 콘텐츠가 생성된 경우 Amazon Bedrock은 전체 응답을 지웁니다. 자세한 내용을 보려면 Amazon Bedrock 콘솔로 이동하여 제공업체를 선택하고 콘텐츠 제한 사항 섹션 아래의 텍스트를 참조하세요.

    프롬프트 엔지니어링에 대한 내용은 프롬프트 엔지니어링 지침 섹션을 참조하세요.

  8. 채팅 플레이그라운드를 사용하는 경우 다음을 수행하여 모델 지표를 보고 모델을 비교하세요.

    1. 모델 지표 섹션에서 각 모델의 지표를 확인합니다.

    2. (선택 사항) 다음을 수행하여 일치시키려는 기준을 정의합니다.

      1. 지표 기준 정의를 선택합니다.

      2. 사용하려는 지표에서 조건과 값을 선택합니다. 다음 조건을 설정할 수 있습니다.

        • 미만 - 지표 값이 지정된 값보다 작습니다.

        • 초과 - 지표 값이 지정된 값보다 큽니다.

      3. 적용을 선택하여 기준을 적용합니다.

      4. 어떤 기준이 충족되는지 확인합니다. 모든 기준이 충족되면 전체 요약모든 기준 충족으로 표시됩니다. 하나 이상의 기준이 충족되지 않는 경우 전체 요약기준 미충족으로 표시되고 미충족 기준은 빨간색으로 강조 표시됩니다.

    3. (선택 사항) 다음 작업을 수행하여 비교할 모델을 추가합니다.

      1. 비교 모드를 켭니다.

      2. 모델 선택을 선택하여 모델을 선택합니다.

      3. 대화 상자에서 공급자, 모델, 처리량을 선택합니다.

      4. 적용를 선택합니다.

      5. (선택 사항) 각 모델 옆에 있는 메뉴 아이콘을 선택하여 해당 모델에 대한 추론 파라미터를 구성합니다. 자세한 정보는 파운데이션 모델의 추론 파라미터을 참조하세요.

      6. 채팅 플레이그라운드 섹션 오른쪽에 있는 + 아이콘을 선택하여 비교할 두 번째 또는 세 번째 모델을 추가하세요.

      7. A~C 단계를 반복하여 비교하려는 모델을 추가합니다.

      8. 텍스트 필드에 프롬프트를 입력하고 실행을 선택합니다.