추론 데이터의 형식 지정 및 업로드 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

추론 데이터의 형식 지정 및 업로드

참고

배치 추론은 현재 미리 보기이므로 변경될 수도 있습니다. Batch 추론은 현재 를 통해서만 사용할 수 있습니다. API 다음을 APIs 통해 일괄 액세스하십시오. SDKs

를 사용할 가상 환경을 만드는 것이 좋습니다SDK. 최신 SDKs 버전에서는 일괄 추론을 APIs 사용할 수 없으므로 일괄 추론이 포함된 버전을 설치하기 전에 가상 환경에서 최신 버전을 SDK 제거하는 것이 좋습니다. APIs 안내 예제를 보려면 을 참조하십시오. 코드 샘플

모델에 입력할 데이터가 포함된 JSONL 파일을 다음 형식으로 S3 버킷에 업로드합니다. 각 줄은 다음 형식과 일치해야 하며 추론을 위한 항목도 다릅니다. recordId 필드를 생략하면 Amazon Bedrock에서 해당 필드를 출력에 추가합니다.

참고

modelInputJSONL객체 형식은 InvokeModel 요청에 사용한 모델의 body 필드와 일치해야 합니다. 자세한 내용은 파운데이션 모델의 추론 파라미터 단원을 참조하십시오.

{ "recordId" : "11 character alphanumeric string", "modelInput" : {JSON body} }
...

예를 들어, 다음 데이터가 포함된 JSONL 파일을 제공하고 Titan 텍스트 모델에서 일괄 추론을 실행할 수 있습니다.

{ "recordId" : "3223593EFGH", "modelInput" : {"inputText": "Roses are red, violets are"} }
{ "recordId" : "1223213ABCD", "modelInput" : {"inputText": "Hello world"} }