기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
추론 프로파일을 사용하려면 먼저 다음 사전 조건을 충족했는지 확인합니다.
-
역할은 추론 프로파일 API 작업에 액세스할 수 있습니다. 역할에 AmazonBedrockFullAccess AWS관리형 정책이 연결되어 있는 경우이 단계를 건너뛸 수 있습니다. 그렇지 않으면 다음을 수행하세요.
-
IAM 정책 생성의 단계를 따르고 다음 정책을 생성합니다.이 정책을 통해 역할은 추론 프로파일 관련 작업을 수행하고 모든 파운데이션 모델 및 추론 프로파일을 사용하여 모델 추론을 실행할 수 있습니다.
{ "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "bedrock:InvokeModel*", "bedrock:CreateInferenceProfile" ], "Resource": [ "arn:aws:bedrock:*::foundation-model/*", "arn:aws:bedrock:*:*:inference-profile/*", "arn:aws:bedrock:*:*:application-inference-profile/*" ] }, { "Effect": "Allow", "Action": [ "bedrock:GetInferenceProfile", "bedrock:ListInferenceProfiles", "bedrock:DeleteInferenceProfile", "bedrock:TagResource", "bedrock:UntagResource", "bedrock:ListTagsForResource" ], "Resource": [ "arn:aws:bedrock:*:*:inference-profile/*", "arn:aws:bedrock:*:*:application-inference-profile/*" ] } ] }(선택 사항) 다음과 같은 방법으로 역할의 액세스를 제한할 수 있습니다.
-
역할이 수행할 수 있는 API 작업을 제한하려면 액세스를 허용하려는 API 작업만 포함하도록
Action필드의 목록을 수정합니다. -
역할의 특정 추론 프로파일에 대한 액세스를 제한하려면 액세스를 허용하려는 추론 프로파일 및 파운데이션 모델만 포함하도록
Resource목록을 수정합니다. 시스템 정의 추론 프로필은 로 시작하고inference-profile애플리케이션 추론 프로필은 로 시작합니다application-inference-profile.중요
첫 번째 문에 있는
Resource필드에 추론 프로파일을 지정할 때 이와 연결된 각 리전에서 파운데이션 모델도 지정해야 합니다. -
추론 프로파일을 통해서만 파운데이션 모델을 간접 호출할 수 있도록 사용자 액세스를 제한하려면
Condition필드를 추가하고aws:InferenceProfileArn조건 키를 사용합니다. 액세스를 필터링할 추론 프로파일을 지정합니다. 이 조건은foundation-model리소스 범위를 지정하는 문에 포함될 수 있습니다. -
예를 들어 다음 정책을 역할에 연결하여 us-west-2의 계정
111122223333에서 미국 Anthropic Claude 3 Haiku 추론 프로파일을 통해서만 Anthropic Claude 3 Haiku 모델을 호출할 수 있습니다.{ "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "bedrock:InvokeModel*" ], "Resource": [ "arn:aws:bedrock:us-west-2:111122223333:inference-profile/us.anthropic.claude-3-haiku-20240307-v1:0" ] }, { "Effect": "Allow", "Action": [ "bedrock:InvokeModel*" ], "Resource": [ "arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-3-haiku-20240307-v1:0" "arn:aws:bedrock:us-west-2::foundation-model/anthropic.claude-3-haiku-20240307-v1:0" ], "Condition": { "StringLike": { "bedrock:InferenceProfileArn": "arn:aws:bedrock:us-west-2:111122223333:inference-profile/us.anthropic.claude-3-haiku-20240307-v1:0" } } } ] }
-
-
IAM 자격 증명 권한 추가 및 제거의 단계에 따라 정책을 역할에 연결하여 역할이 모든 추론 프로파일을 보고 사용할 수 있는 권한을 부여합니다.
-
-
추론 프로파일을 호출하려는 리전에서 사용하려는 추론 프로파일에 정의된 모델에 대한 액세스를 요청했습니다.
