배치 추론을 위한 사전 조건 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

배치 추론을 위한 사전 조건

배치 추론을 수행하려면 다음 사전 조건을 충족해야 합니다.

  1. 자격 IAM 증명에 배치 추론 작업 을 제출하고 관리하는 데 필요한 권한이 있는지 확인합니다.

  2. 데이터 세트를 준비하고 Amazon S3 버킷에 업로드합니다.

  3. 출력 데이터에 대한 S3 버킷을 생성합니다.

다음 단계는 선택 사항입니다.

배치 추론에 필요한 권한

자격 IAM 증명이 배치 추론 작업을 제출하고 관리하려면 필요한 권한으로 구성해야 합니다. AmazonBedrockFullAccess 정책을 연결하여 역할에 적절한 권한을 부여할 수 있습니다.

배치 추론에 사용되는 작업으로만 권한을 제한하려면 IAM 역할에 다음 자격 증명 기반 정책을 연결합니다.

{ "Version": "2012-10-17", "Statement": [ { "Sid": "PermissionsBatchInference", "Effect": "Allow", "Action": [ "bedrock:ListFoundationModels", "bedrock:GetFoundationModel", "bedrock:TagResource", "bedrock:UntagResource", "bedrock:ListTagsForResource", "bedrock:CreateModelInvocationJob", "bedrock:GetModelInvocationJob", "bedrock:ListModelInvocationJobs", "bedrock:StopModelInvocationJob" ], "Resource": "*" } ] }

작업을 생략하거나 리소스조건 키 를 지정하여 권한을 추가로 제한할 수 있습니다. IAM 자격 증명은 특정 리소스에 대한 API 작업을 호출할 수 있습니다. 정책에 지정된 리소스에서 사용할 수 없는 API 작업을 지정하면 Amazon Bedrock이 오류를 반환합니다.

배치 추론 작업은 foundation-model, custom-modelmodel-invocation-job 리소스 유형을 사용합니다. Resource 필드에 이러한 리소스를 지정하여 권한 범위를 축소할 수 있습니다. 예를 들어 다음 정책은 계정 ID가 있는 사용자가 123456789012 us-west-2 Anthropic Claude 3 Haiku 모델:

{ "Version": "2012-10-17", "Statement": [ { "Sid": "CreateBatchInferenceJob", "Effect": "Allow", "Action": [ "bedrock:CreateModelInvocationJob" ], "Resource": [ "arn:aws:bedrock:us-west-2::foundation-model/anthropic.claude-3-haiku-20240307-v1:0" "arn:aws:bedrock:us-west-2:123456789012:model-invocation-job/*" ] } ] }