기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
기초 모델 사용
모델을 사용하려면 먼저 모델에 대한 액세스 권한을 요청해야 합니다. 이렇게 하면 다음과 같은 방법으로 FM을 사용할 수 있습니다.
-
모델에 프롬프트를 보내고 응답을 생성하여 추론을 실행합니다. 플레이그라운드는 텍스트, 이미지 또는 채팅을 생성할 수 AWS Management Console 있는 사용자 친화적인 인터페이스를 제공합니다. 출력 양식 열을 참조하여 각 플레이그라운드에서 사용할 수 있는 모델을 결정하세요.
참고
콘솔 플레이그라운드는 임베딩 모델에 대한 추론 실행을 지원하지 않습니다. API를 사용하여 임베딩 모델에서 추론을 실행하세요.
-
모델을 평가하여 결과를 비교하고 사용 사례에 가장 적합한 모델을 결정하세요.
-
임베딩 모델을 사용하여 지식 베이스를 설정하세요. 그런 다음 텍스트 모델을 사용하여 쿼리에 대한 응답을 생성합니다.
-
에이전트를 만들고 모델을 사용하여 프롬프트에 대한 추론을 실행하여 오케스트레이션을 수행합니다.
-
학습 및 검증 데이터를 제공하여 사용 사례에 맞게 모델 파라미터를 조정하여 모델을 사용자 정의하세요. 사용자 지정 모델을 사용하려면 해당 모델의 프로비저닝된 처리량을 구매해야 합니다.
-
모델의 처리량을 늘리려면 모델용 프로비저닝 처리량을 구매하세요.
API에서 FM을 사용하려면 사용할 적절한 모델 ID를 결정해야 합니다.
| 사용 사례 | 모델 ID를 찾는 방법 |
|---|---|
| 기본 모델 사용 | 기본 모델 ID 차트에서 ID를 찾아보세요. |
| 기본 모델의 구매 프로비저닝 처리량 | 프로비저닝된 처리량 차트의 모델 ID에서 ID를 찾아 요청과 같이 사용하십시오. modelId CreateProvisionedModelThroughput |
| 커스텀 모델을 위해 프로비저닝된 처리량을 구매하세요. | 요청과 같이 사용자 지정 모델 또는 해당 modelId ARN의 CreateProvisionedModelThroughput이름을 사용합니다. |
| 프로비저닝된 모델 사용 | 프로비저닝된 처리량을 생성하면 a가 반환됩니다. provisionedModelArn 이 ARN은 모델 ID입니다. |
| 사용자 지정 모델 사용 | 커스텀 모델의 프로비저닝 처리량을 구매하고 반환된 처리량을 모델 provisionedModelArn ID로 사용하십시오. |
