빠른 시작: SageMaker 샌드박스 도메인을 생성하여 Studio에서 Amazon EMR 클러스터를 시작합니다.

다음 단계에 따라 Studio에서 Amazon EMR 클러스터를 시작하기 위한 SageMaker 도메인을 설정합니다.

1. sagemaker-studio-emr GitHub리포지토리에서 이 AWS CloudFormation 템플릿의 원시 파일을 다운로드하십시오.

2. AWS CloudFormation 콘솔로 이동: https://console.aws.amazon.com/cloudformation

3. 스택 생성을 선택하고 드롭다운 메뉴에서 새 리소스 포함 (표준) 을 선택합니다.

4. 1단계에서:

   1. 템플릿 준비 섹션에서 기존 템플릿 선택을 선택합니다.

   2. 템플릿 지정 섹션에서 템플릿 파일 업로드를 선택합니다.

   3. 다운로드한 AWS CloudFormation 템플릿을 업로드하고 다음을 선택합니다.

5. 2단계에서 스택 이름을 입력하고 다음을 선택합니다. SageMakerDomainName

6. 3단계에서 모든 기본값을 유지하고 다음을 선택합니다.

7. 4단계에서 확인란을 선택하여 리소스 생성을 확인하고 스택 생성을 선택합니다. 이렇게 하면 계정 및 지역에 Studio 도메인이 생성됩니다.

1. SageMaker 콘솔로 https://console.aws.amazon.com/sagemaker/이동하여 왼쪽 메뉴에서 도메인을 선택합니다.

2. 도메인 이름 enerativeAIDomainG를 클릭하여 도메인 세부정보 페이지를 엽니다.

3. 사용자 프로필에서 Studio를 실행합니다genai-user.

4. 왼쪽 탐색 창에서 데이터로 이동한 다음 Amazon EMR 클러스터로 이동합니다.

5. Amazon EMR 클러스터 페이지에서 [Create] 를 선택합니다. AWS CloudFormation 스택에서 EMR 생성한 SageMaker Studio Domain No Auth 템플릿을 선택하고 다음을 선택합니다.

6. 새 Amazon EMR 클러스터의 이름을 입력합니다. 필요에 따라 코어 및 마스터 노드의 인스턴스 유형, 유휴 제한 시간 또는 코어 노드 수와 같은 기타 파라미터를 업데이트할 수 있습니다.

7. 리소스 생성을 선택하여 새 Amazon EMR 클러스터를 시작합니다.

   Amazon EMR 클러스터를 생성한 후 EMR클러스터 페이지의 상태를 따르십시오. 상태가 로 Running/Waiting 변경되면 Amazon EMR 클러스터를 Studio에서 사용할 수 있습니다.

1. 시작 JupyterLab

   Studio에서 JupyterLab 애플리케이션을 실행합니다.

2. 전용 공간 만들기

   JupyterLab 애플리케이션을 위한 스페이스를 만들지 않은 경우 JupyterLab 스페이스 만들기를 선택합니다. 스페이스 이름을 입력하고 스페이스를 비공개로 유지합니다. 다른 모든 설정은 기본값으로 두고 스페이스 만들기를 선택합니다.

   그렇지 않으면 JupyterLab 스페이스를 실행하여 JupyterLab 애플리케이션을 시작하세요.

3. 추론을 위해 모델 LLM 및 임베딩 모델을 배포하세요.

   • 상단 메뉴에서 파일, 새로 만들기, 터미널을 차례로 선택합니다.

   • 터미널에서 다음 명령을 실행합니다.

     wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-00-setup/Lab_0_Warm_Up_Deploy_EmbeddingModel_Llama2_on_Nvidia.ipynb
     mkdir AWSGuides
     cd AWSGuides
     wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-03-rag/AWSGuides/AmazonSageMakerDeveloperGuide.pdf
     wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-03-rag/AWSGuides/EC2DeveloperGuide.pdf
     wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-03-rag/AWSGuides/S3DeveloperGuide.pdf

     그러면 Lab_0_Warm_Up_Deploy_EmbeddingModel_Llama2_on_Nvidia.ipynb 노트북이 로컬 디렉토리로 검색되고 세 개의 PDF 파일이 로컬 AWSGuides 폴더로 다운로드됩니다.

   • Python 3 (ipykernel)커널을 열고 lab-00-setup/Lab_0_Warm_Up_Deploy_EmbeddingModel_Llama2_on_Nvidia.ipynb 보관하고 각 셀을 실행하십시오.

     주의

     계속하기 전에 라마 2 라이센스 계약 섹션에서 Llama2를 EULA 수락했는지 확인하십시오.

     이 노트북은 두 가지 모델을 Llama 2 배포하며all-MiniLM-L6-v2 Models, 추론을 위해 켜져 있습니다. ml.g5.2xlarge

     모델 배포와 엔드포인트 생성에는 다소 시간이 걸릴 수 있습니다.

4. 메인 노트북을 엽니다.

   에서 JupyterLab 터미널을 열고 다음 명령을 실행합니다.

   cd ..
   wget --no-check-certificate https://raw.githubusercontent.com/aws-samples/sagemaker-studio-foundation-models/main/lab-03-rag/Lab_3_RAG_on_SageMaker_Studio_using_EMR.ipynb
   

   의 왼쪽 패널에 추가 Lab_3_RAG_on_SageMaker_Studio_using_EMR.ipynb 노트북이 보일 JupyterLab 것입니다.

5. PySpark커널을 선택하세요.

   Lab_3_RAG_on_SageMaker_Studio_using_EMR.ipynb노트북을 열고 SparkMagic PySpark 커널을 사용하고 있는지 확인합니다. 노트북 오른쪽 상단에서 커널을 전환할 수 있습니다. 현재 커널 이름을 선택하여 커널 선택 모달을 연 다음 선택하십시오SparkMagic PySpark.

6. 노트북을 클러스터에 연결

   1. 노트북 오른쪽 상단에서 클러스터를 선택합니다. 이 작업을 수행하면 액세스 권한이 있는 실행 중인 모든 클러스터를 나열하는 모달 창이 열립니다.

   2. 클러스터를 선택한 다음 Connect를 선택합니다. 새 자격 증명 유형 선택 모달 창이 열립니다.

   3. 자격 증명 없음을 선택한 다음 Connect를 선택합니다.

      

   4. 노트북 셀이 자동으로 채워지고 실행됩니다. 노트북 셀은 Amazon EMR 클러스터에 연결하는 기능을 제공하는 sagemaker_studio_analytics_extension.magics 확장 프로그램을 로드합니다. 그런 다음 %sm_analytics magic 명령을 사용하여 Amazon EMR 클러스터 및 Spark 애플리케이션에 대한 연결을 시작합니다.

      참고

      Amazon EMR 클러스터에 대한 연결 문자열의 인증 유형이 로 설정되어 있는지 확인하십시오None. 이는 다음 예제의 값으로 --auth-type None 설명됩니다. 필요한 경우 필드를 수정할 수 있습니다.

      %load_ext sagemaker_studio_analytics_extension.magics
      %sm_analytics emr connect --verify-certificate False --cluster-id your-cluster-id --auth-type None --language python 

   5. 연결이 성공적으로 설정되면 연결 셀 출력 메시지에 클러스터 ID, YARN 애플리케이션 ID, Spark 작업 모니터링을 위한 Spark UI 링크 등의 SparkSession 세부 정보가 표시되어야 합니다.

스택을 다 사용한 후 AWS CloudFormation 스택을 삭제하려면

1. AWS CloudFormation 콘솔로 이동: https://console.aws.amazon.com/cloudformation

2. 삭제하려는 스택을 선택합니다. 이름으로 검색하거나 스택 목록에서 찾을 수 있습니다.

3. 삭제 버튼을 클릭하여 스택 삭제를 완료한 다음 삭제를 다시 클릭하여 스택에서 생성된 모든 리소스가 삭제됨을 확인합니다.

   스택 삭제가 완료될 때까지 기다리십시오. 몇 분 정도 걸릴 수 있습니다. AWS CloudFormation 스택 템플릿에 정의된 모든 리소스를 자동으로 정리합니다.

4. 스택에서 생성된 모든 리소스가 삭제되었는지 확인합니다. 예를 들어, 남아 있는 Amazon EMR 클러스터가 있는지 확인합니다.

모델의 API 엔드포인트를 제거하려면

1. SageMaker 콘솔로 이동:. https://console.aws.amazon.com/sagemaker/

2. 왼쪽 탐색 창에서 추론을 선택한 다음 엔드포인트를 선택합니다.

3. 엔드포인트를 hf-allminil6v2-embedding-ep 선택한 다음 작업 드롭다운 목록에서 삭제를 선택합니다. 엔드포인트에 대해 이 단계를 meta-llama2-7b-chat-tg-ep 반복합니다.