SageMaker 구성 요소 사용

1. Kubeflow 파이프라인 설명서 에 KFP SDK 다음 지침을 설치합니다.

2. KFP SDK 가 다음 명령으로 설치되어 있는지 확인합니다.

   pip show kfp

3. 다음과 같이 dsl-compile이 올바르게 설치되었는지 확인합니다.

   which dsl-compile

1. Amazon S3 버킷 이름 및 IAM 역할 로 Python 파일을 수정합니다ARN.

2. 명령줄의 dsl-compile명령을 사용하여 다음과 같이 파이프라인을 컴파일합니다. <path-to-python-file>을 파이프라인 경로로, <path-to-output>을 tar.gz 파일을 배치할 위치로 바꿉니다.

   dsl-compile --py <path-to-python-file> --output <path-to-output>

1. 다음과 같이 파이프라인을 업로드합니다.

   kfp pipeline upload --pipeline-name <pipeline-name> <path-to-output-tar.gz>

   출력은 다음과 같아야 합니다. 파이프라인 ID를 기록해 둡니다.

   Pipeline 29c3ff21-49f5-4dfe-94f6-618c0e2420fe has been submitted
   
   Pipeline Details
   ------------------
   ID           29c3ff21-49f5-4dfe-94f6-618c0e2420fe
   Name         sm-pipeline
   Description
   Uploaded at  2020-04-30T20:22:39+00:00
   ...
   ...

2. 다음 명령을 사용하여 실행을 생성합니다. KFP CLI 실행 명령은 현재 실행을 생성하는 동안 입력 파라미터 지정을 지원하지 않습니다. 컴파일하기 전에 AWS SDK for Python (Boto3) 파이프라인 파일에서 파라미터를 업데이트해야 합니다. <experiment-name> 및 <job-name>을 원하는 이름으로 바꿉니다. <pipeline-id>를 제출한 파이프라인의 ID로 바꿉니다. 를 ARN 의 <your-role-arn>로 바꿉니다kfp-example-pod-role. <your-bucket-name>을 생성한 Amazon S3 버킷 이름으로 바꿉니다.

   kfp run submit --experiment-name <experiment-name> --run-name <job-name> --pipeline-id <pipeline-id> role_arn="<your-role-arn>" bucket_name="<your-bucket-name>"

   dsl-compile 명령의 출력으로 생성된 컴파일된 파이프라인 패키지를 사용하여 실행을 직접 제출할 수도 있습니다.

   kfp run submit --experiment-name <experiment-name> --run-name <job-name> --package-file <path-to-output> role_arn="<your-role-arn>" bucket_name="<your-bucket-name>"

   출력은 다음과 같아야 합니다.

   Creating experiment aws.
   Run 95084a2c-f18d-4b77-a9da-eba00bf01e63 is submitted
   +--------------------------------------+--------+----------+---------------------------+
   | run id                               | name   | status   | created at                |
   +======================================+========+==========+===========================+
   | 95084a2c-f18d-4b77-a9da-eba00bf01e63 | sm-job |          | 2020-04-30T20:36:41+00:00 |
   +--------------------------------------+--------+----------+---------------------------+

3. UI로 이동하여 작업 진행 상황을 확인합니다.

1. 왼쪽 패널에서 파이프라인 탭을 선택합니다.

2. 오른쪽 상단 모서리에서 +UploadPipeline를 선택합니다.

3. 파이프라인 이름 및 설명을 입력합니다.

4. 파일 업로드를 선택하고 CLI 또는 를 사용하여 생성한 tar.gz 파일의 경로를 입력합니다 AWS SDK for Python (Boto3).

5. 왼쪽 패널에서 파이프라인 탭을 선택합니다.

6. 생성한 파이프라인을 찾습니다.

7. +CreateRun를 선택합니다.

8. 입력 파라미터를 입력합니다.

9. Run(실행)을 선택합니다.

다른 시스템을 사용하여 예측을 실행하려면 클라이언트 시스템에서 사용하는 IAM 역할에 sagemaker:InvokeEndpoint 권한을 할당합니다.

1. 게이트웨이 노드에서 다음을 실행하여 IAM 정책 파일을 생성합니다.

   cat <<EoF > ./sagemaker-invoke.json
   {
       "Version": "2012-10-17",
       "Statement": [
           {
               "Effect": "Allow",
               "Action": [
                   "sagemaker:InvokeEndpoint"
               ],
               "Resource": "*"
           }
       ]
   }
   EoF

2. 클라이언트 노드의 IAM 역할에 정책을 연결합니다.

   다음 명령을 실행합니다. <your-instance-IAM-role> 를 IAM 역할 이름으로 바꿉니다. <path-to-sagemaker-invoke-json>을 생성한 정책 파일의 경로로 바꿉니다.

   aws iam put-role-policy --role-name <your-instance-IAM-role> --policy-name sagemaker-invoke-for-worker --policy-document file://<path-to-sagemaker-invoke-json>

1. 클라이언트 시스템에서 다음 콘텐츠mnist-predictions.py로 라는 AWS SDK for Python (Boto3) 파일을 생성합니다. ENDPOINT_NAME 변수를 바꿉니다. 스크립트는 MNIST 데이터 세트를 로드하고 해당 숫자CSV에서 를 생성한 다음 예측CSV을 위해 엔드포인트로 를 전송하고 결과를 인쇄합니다.

   import boto3
   import gzip
   import io
   import json
   import numpy
   import pickle
   
   ENDPOINT_NAME='<endpoint-name>'
   region = boto3.Session().region_name
   
   # S3 bucket where the original mnist data is downloaded and stored
   downloaded_data_bucket = f"jumpstart-cache-prod-{region}"
   downloaded_data_prefix = "1p-notebooks-datasets/mnist"
   
   # Download the dataset
   s3 = boto3.client("s3")
   s3.download_file(downloaded_data_bucket, f"{downloaded_data_prefix}/mnist.pkl.gz", "mnist.pkl.gz")
   
   # Load the dataset
   with gzip.open('mnist.pkl.gz', 'rb') as f:
       train_set, valid_set, test_set = pickle.load(f, encoding='latin1')
   
   # Simple function to create a csv from our numpy array
   def np2csv(arr):
       csv = io.BytesIO()
       numpy.savetxt(csv, arr, delimiter=',', fmt='%g')
       return csv.getvalue().decode().rstrip()
   
   runtime = boto3.Session(region).client('sagemaker-runtime')
   
   payload = np2csv(train_set[0][30:31])
   
   response = runtime.invoke_endpoint(EndpointName=ENDPOINT_NAME,
                                      ContentType='text/csv',
                                      Body=payload)
   result = json.loads(response['Body'].read().decode())
   print(result)

2. 다음과 같이 AWS SDK for Python (Boto3) 파일을 실행합니다.

   python mnist-predictions.py

1. KFP 대시보드에서 종료를 선택하여 파이프라인 실행이 제대로 종료되지 않으면 파이프라인 실행을 종료합니다.

2. 종료 옵션이 작동하지 않는 경우, 게이트웨이 노드에 로그인하고 다음과 같이 파이프라인 실행으로 생성된 모든 포드를 수동으로 종료합니다.

   kubectl get pods -n kubeflow
   kubectl delete pods -n kubeflow <name-of-pipeline-pod>

3. AWS 계정을 사용하여 SageMaker 서비스에 로그인합니다. 모든 훈련, 배치 변환 및 HPO 작업을 수동으로 중지합니다. 모델, 데이터 버킷, 엔드포인트를 삭제하여 추가 비용이 발생하지 않도록 합니다. 파이프라인 실행을 종료해도 에서 작업이 중지되지 않습니다 SageMaker.