SageMaker Canvas에서 파운데이션 모델의 사전 조건 충족 완료 - Amazon SageMaker AI
파운데이션 모델의 사전 조건문서 쿼리를 위한 사전 조건

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

SageMaker Canvas에서 파운데이션 모델의 사전 조건 충족 완료

다음 섹션에서는 파운데이션 모델과 상호 작용하고 Canvas의 문서 쿼리 기능을 사용하기 위한 사전 조건을 설명합니다. 이 페이지의 나머지 콘텐츠에서는 파운데이션 모델의 사전 조건을 충족했다고 가정합니다. 문서 쿼리 기능에는 추가 권한이 필요합니다.

파운데이션 모델의 사전 조건

모델과 상호 작용하는 데 필요한 권한은 Canvas 즉시 사용 가능 모델 권한에 포함되어 있습니다. Canvas에서 생성형 AI 기반 모델을 사용하려면 Amazon SageMaker AI 도메인을 설정할 때 Canvas Ready-to-use 가능 모델 구성 권한을 켜야 합니다. 자세한 내용은 Amazon SageMaker Canvas를 설정하기 위한 사전 조건 단원을 참조하십시오. Canvas 즉시 사용 가능 모델 구성은 AmazonSageMakerCanvasAIServicesAccess 정책을 Canvas 사용자의 AWS Identity and Access Management (IAM) 실행 역할에 연결합니다. 권한 부여와 관련하여 문제가 발생하는 경우 SageMaker AI 콘솔을 통한 권한 부여 문제 해결항목을 참조하세요.

도메인을 이미 설정한 경우 도메인 설정을 편집하고 권한을 설정할 수 있습니다. 도메인 설정을 편집하는 방법에 대한 지침은 도메인 설정 편집 섹션을 참조하세요. 도메인 설정을 편집할 때는 Canvas 설정으로 이동하여 Canvas 즉시 사용 가능 모델 활성화 옵션을 설정하세요.

또한 특정 JumpStart 파운데이션 모델에서는 SageMaker AI 인스턴스 할당량 증가를 요청해야 합니다. Canvas는 이러한 인스턴스에서 현재 상호 작용하고 있는 모델을 호스팅하지만 계정의 기본 할당량이 충분하지 않을 수 있습니다. 다음 모델을 실행하는 동안 오류가 발생하는 경우 연결된 인스턴스 유형에 대한 할당량 증가를 요청하세요.

  • Falcon-40B – ml.g5.12xlarge, ml.g5.24xlarge

  • Falcon-13B – ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

  • MPT-7B-Instruct – ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

이전 인스턴스 유형의 경우 엔드포인트 사용 할당량을 0에서 1로 늘리도록 요청하세요. 계정의 인스턴스 할당량을 늘리는 방법에 대한 자세한 내용은 서비스 할당량 사용 설명서의 할당량 증가 요청을 참조하세요.

문서 쿼리를 위한 사전 조건

참고

문서 쿼리는 AWS 리전미국 동부(버지니아 북부), 미국 동부(오하이오), 미국 서부(오레곤), 유럽(아일랜드), 아시아 태평양(싱가포르), 아시아 태평양(시드니), 아시아 태평양(도쿄), 아시아 태평양(뭄바이)에서 지원됩니다.

문서 쿼리 기능을 사용하려면 문서와 문서 메타데이터를 저장하는 Amazon Kendra 인덱스가 이미 있어야 합니다. Amazon Kendra에 대한 자세한 내용은 Amazon Kendra 개발자 안내서를 참조하세요. 인덱스 쿼리 할당량에 대해 자세히 알아보려면 Amazon Kendra 개발자 안내서의 할당량을 참조하세요.

또한 Canvas 사용자 프로필에 문서 쿼리에 필요한 권한이 있는지 확인해야 합니다. AmazonSageMakerCanvasFullAccess 정책은 Canvas 애플리케이션을 호스팅하는 SageMaker AI 도메인의 IAM 실행 역할에 연결 AWS 되어야 합니다(이 정책은 기본적으로 모든 신규 및 기존 Canvas 사용자 프로필에 연결됨). 또한 문서 쿼리 권한을 구체적으로 부여하고 하나 이상의 Amazon Kendra 인덱스에 대한 액세스 권한을 지정해야 합니다.

Canvas 관리자가 새 도메인 또는 사용자 프로필을 설정하는 경우 Amazon SageMaker Canvas를 설정하기 위한 사전 조건의 지침에 따라 도메인을 설정하도록 하세요. 도메인을 설정하는 동안 Canvas 즉시 사용 가능 모델 구성을 통해 문서 쿼리 권한을 활성화할 수 있습니다.

Canvas 관리자는 사용자 프로필 수준에서도 문서 쿼리 권한을 관리할 수 있습니다. 예를 들어 관리자가 일부 사용자 프로필에는 문서 쿼리 권한을 부여하고 다른 사용자 프로필에 대한 권한은 제거하려는 경우 특정 사용자에 대한 권한을 편집할 수 있습니다.

다음 절차에서는 특정 사용자 프로필에 대한 문서 쿼리 권한을 설정하는 방법을 보여줍니다.

  1. https://console.aws.amazon.com/sagemaker/ SageMaker AI 콘솔을 엽니다.

  2. 왼쪽 탐색 창에서 관리자 구성을 선택합니다.

  3. 관리자 구성에서 도메인을 선택합니다.

  4. 도메인 목록에서 사용자 프로필의 도메인을 선택합니다.

  5. 도메인 세부 정보 페이지에서 권한을 편집하려는 사용자 프로필을 선택합니다.

  6. 사용자 세부 정보 페이지에서 편집을 선택합니다.

  7. 왼쪽의 탐색 창에서 Canvas 설정을 선택합니다.

  8. Canvas 즉시 사용 가능 모델 구성 섹션에서 Amazon Kendra를 사용하여 문서 쿼리 활성화 토글을 활성화합니다.

  9. 드롭다운에서 액세스 권한을 부여하려는 Amazon Kendra 인덱스를 하나 이상 선택합니다.

  10. 제출을 선택하여 도메인 설정 변경 내용을 저장합니다.

이제 Canvas 기반 모델을 사용하여 지정된 Amazon Kendra 인덱스의 문서를 쿼리할 수 있습니다.