추론 프로파일의 사전 조건 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

추론 프로파일의 사전 조건

추론 프로파일을 사용하려면 먼저 다음 사전 조건을 충족했는지 확인합니다.

  • 역할은 추론 프로파일 API 작업에 액세스할 수 있습니다. 역할에 AmazonBedrockFullAccess AWS관리형 정책이 연결되어 있는 경우이 단계를 건너뛸 수 있습니다. 그렇지 않으면 다음을 수행하세요.

    1. IAM 정책 생성의 단계를 따르고 다음 정책을 생성합니다.이 정책을 통해 역할은 추론 프로파일 관련 작업을 수행하고 모든 파운데이션 모델 및 추론 프로파일을 사용하여 모델 추론을 실행할 수 있습니다.

      {
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*",
                "bedrock:CreateInferenceProfile"
            ],
            "Resource": [
                "arn:aws:bedrock:*::foundation-model/*",
                "arn:aws:bedrock:*:*:inference-profile/*",
                "arn:aws:bedrock:*:*:application-inference-profile/*"
            ]
        },
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:DeleteInferenceProfile",
                "bedrock:TagResource",
                "bedrock:UntagResource",
                "bedrock:ListTagsForResource"
            ],
            "Resource": [
                "arn:aws:bedrock:*:*:inference-profile/*",
                "arn:aws:bedrock:*:*:application-inference-profile/*"
            ]
        }
    ]
}

      (선택 사항) 다음과 같은 방법으로 역할의 액세스를 제한할 수 있습니다.

      • 역할이 수행할 수 있는 API 작업을 제한하려면 액세스를 허용하려는 API 작업만 포함하도록 Action 필드의 목록을 수정합니다.

      • 역할의 특정 추론 프로파일에 대한 액세스를 제한하려면 액세스를 허용하려는 추론 프로파일 및 파운데이션 모델만 포함하도록 Resource 목록을 수정합니다. 시스템 정의 추론 프로필은 로 시작하고 inference-profile 애플리케이션 추론 프로필은 로 시작합니다application-inference-profile.

        중요

        첫 번째 문에 있는 Resource 필드에 추론 프로파일을 지정할 때 이와 연결된 각 리전에서 파운데이션 모델도 지정해야 합니다.

      • 추론 프로파일을 통해서만 파운데이션 모델을 간접 호출할 수 있도록 사용자 액세스를 제한하려면 Condition 필드를 추가하고 aws:InferenceProfileArn 조건 키를 사용합니다. 액세스를 필터링할 추론 프로파일을 지정합니다. 이 조건은 foundation-model 리소스 범위를 지정하는 문에 포함될 수 있습니다.

      • 예를 들어 다음 정책을 역할에 연결하여 us-west-2의 계정 111122223333에서 미국 Anthropic Claude 3 Haiku 추론 프로파일을 통해서만 Anthropic Claude 3 Haiku 모델을 호출할 수 있습니다.

        {
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*"
            ],
            "Resource": [
                "arn:aws:bedrock:us-west-2:111122223333:inference-profile/us.anthropic.claude-3-haiku-20240307-v1:0"
            ]
        },
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*"
            ],
            "Resource": [
                "arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-3-haiku-20240307-v1:0"
                "arn:aws:bedrock:us-west-2::foundation-model/anthropic.claude-3-haiku-20240307-v1:0"
            ],
            "Condition": {
                "StringLike": {
                    "bedrock:InferenceProfileArn": "arn:aws:bedrock:us-west-2:111122223333:inference-profile/us.anthropic.claude-3-haiku-20240307-v1:0"
                }
            }
        }
    ]
}

    2. IAM 자격 증명 권한 추가 및 제거의 단계에 따라 정책을 역할에 연결하여 역할이 모든 추론 프로파일을 보고 사용할 수 있는 권한을 부여합니다.

  • 추론 프로파일을 호출하려는 리전에서 사용하려는 추론 프로파일에 정의된 모델에 대한 액세스를 요청했습니다.