本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

使用 Amazon SageMaker AI 任務

本節以適用於 Kubernetes 的 SageMaker AI Operators 原始版本為基礎。

若要使用 Operators for Kubernetes 執行 Amazon SageMaker AI 任務，您可以套用 YAML 檔案或使用提供的 Helm Chart。

下列教學課程中的所有範例運算子工作都使用從公開 MNIST 資料集擷取的範例資料。若要執行這些範例，請將資料集下載到 Amazon S3 儲存貯體。您可以在下載 MNIST 資料集中找到資料集。

TrainingJob 運算子

訓練任務運算子會在 SageMaker AI 中為您啟動訓練任務規格，以將指定的訓練任務規格與 SageMaker AI 進行協調。您可以在 SageMaker AI CreateTrainingJob API 文件中進一步了解 SageMaker 訓練任務。

使用 YAML 檔案建立 TrainingJob

使用 Helm Chart 建立 TrainingJob

您可以使用 Helm Chart 執行 TrainingJobs。

建立 TrainingJob

將角色和 Amazon S3 儲存貯體取代為 values.yaml 中適當的值後，您可以使用下列命令建立訓練工作：

helm install . --generate-name

您的輸出看起來應如以下所示：

NAME: chart-12345678
LAST DEPLOYED: Wed Nov 20 23:35:49 2019
NAMESPACE: default
STATUS: deployed
REVISION: 1
TEST SUITE: None
NOTES:
Thanks for installing the sagemaker-k8s-trainingjob.

驗證您的訓練 Helm Chart

要驗證 Helm Chart 是否成功建立，請執行以下命令：

helm ls

您的輸出看起來應如以下所示：

NAME                    NAMESPACE       REVISION        UPDATED                                 STATUS          CHART                           APP VERSION
chart-12345678        default         1               2019-11-20 23:35:49.9136092 +0000 UTC   deployed        sagemaker-k8s-trainingjob-0.1.0
rolebased-12345678    default         1               2019-11-20 23:14:59.6777082 +0000 UTC   deployed        sagemaker-k8s-operator-0.1.0

helm install 會建立 TrainingJob Kubernetes 資源。運算子會在 SageMaker AI 中啟動實際訓練任務，並更新 TrainingJob Kubernetes 資源，以反映 SageMaker AI 中任務的狀態。您在工作期間使用的 SageMaker AI 資源會產生費用。工作完成或停止後，就不會再產生任何費用。

注意：SageMaker AI 不允許您更新執行中的訓練任務。您無法編輯任何參數並重新套用設定檔。變更中繼資料名稱或刪除現有工作，然後建立新工作。與 Kubeflow 中的 TFJob 等現有訓練工作運算子類似，update 不受支援。

列出 TrainingJobs

使用下列命令列出使用 Kubernetes 運算子建立的所有工作：

kubectl get TrainingJob

列出所有工作的輸出應與以下類似：

kubectl get trainingjobs
NAME                        STATUS       SECONDARY-STATUS   CREATION-TIME          SAGEMAKER-JOB-NAME
xgboost-mnist-from-for-s3   InProgress   Starting           2019-11-20T23:42:35Z   xgboost-mnist-from-for-s3-examplef11eab94e0ed4671d5a8f

訓練工作會在工作完成或失敗後繼續列出。您可以依照刪除 TrainingJobs步驟從清單中移除 TrainingJob 工作。已完成或停止的任務不會對 SageMaker AI 資源產生任何費用。

TrainingJob 狀態值

STATUS 欄位可以是以下其中一個值：

這些狀態直接來自 SageMaker AI 官方 API 文件。

除了官方的 SageMaker AI 狀態之外， 也可以STATUS是 SynchronizingK8sJobWithSageMaker。這表示運算子尚未處理工作。

次要狀態值

次要狀態直接來自 SageMaker AI 官方 API 文件。其中包含有關工作狀態的詳細資訊。

描述 TrainingJob

您可以使用 describe kubectl 命令取得有關訓練工作的更多詳細資訊。這通常用於對問題進行偵錯或檢查訓練工作的參數。若要取得與訓練工作相關的資訊，請使用下列命令：

kubectl describe trainingjob xgboost-mnist-from-for-s3

訓練工作的輸出應與以下類似：

Name:         xgboost-mnist-from-for-s3
Namespace:    default
Labels:       <none>
Annotations:  <none>
API Version:  sagemaker.aws.amazon.com/v1
Kind:         TrainingJob
Metadata:
  Creation Timestamp:  2019-11-20T23:42:35Z
  Finalizers:
    sagemaker-operator-finalizer
  Generation:        2
  Resource Version:  23119
  Self Link:         /apis/sagemaker.aws.amazon.com/v1/namespaces/default/trainingjobs/xgboost-mnist-from-for-s3
  UID:               6d7uiui-0bef-11ea-b94e-0ed467example
Spec:
  Algorithm Specification:
    Training Image:       8256416981234.dkr.ecr.us-east-2.amazonaws.com/xgboost:1
    Training Input Mode:  File
  Hyper Parameters:
    Name:   eta
    Value:  0.2
    Name:   gamma
    Value:  4
    Name:   max_depth
    Value:  5
    Name:   min_child_weight
    Value:  6
    Name:   num_class
    Value:  10
    Name:   num_round
    Value:  10
    Name:   objective
    Value:  multi:softmax
    Name:   silent
    Value:  0
  Input Data Config:
    Channel Name:      train
    Compression Type:  None
    Content Type:      text/csv
    Data Source:
      S 3 Data Source:
        S 3 Data Distribution Type:  FullyReplicated
        S 3 Data Type:               S3Prefix
        S 3 Uri:                     https://s3-us-east-2.amazonaws.com/amzn-s3-demo-bucket/sagemaker/xgboost-mnist/train/
    Channel Name:                    validation
    Compression Type:                None
    Content Type:                    text/csv
    Data Source:
      S 3 Data Source:
        S 3 Data Distribution Type:  FullyReplicated
        S 3 Data Type:               S3Prefix
        S 3 Uri:                     https://s3-us-east-2.amazonaws.com/amzn-s3-demo-bucket/sagemaker/xgboost-mnist/validation/
  Output Data Config:
    S 3 Output Path:  s3://amzn-s3-demo-bucket/sagemaker/xgboost-mnist/xgboost/
  Region:             us-east-2
  Resource Config:
    Instance Count:     1
    Instance Type:      ml.m4.xlarge
    Volume Size In GB:  5
  Role Arn:             arn:aws:iam::12345678910:role/service-role/AmazonSageMaker-ExecutionRole
  Stopping Condition:
    Max Runtime In Seconds:  86400
  Training Job Name:         xgboost-mnist-from-for-s3-6d7fa0af0bef11eab94e0example
Status:
  Cloud Watch Log URL:           https://us-east-2.console.aws.amazon.com/cloudwatch/home?region=us-east-2#logStream:group=/aws/sagemaker/TrainingJobs;prefix=<example>;streamFilter=typeLogStreamPrefix
  Last Check Time:               2019-11-20T23:44:29Z
  Sage Maker Training Job Name:  xgboost-mnist-from-for-s3-6d7fa0af0bef11eab94eexample
  Secondary Status:              Downloading
  Training Job Status:           InProgress
Events:                          <none>

檢視 TrainingJobs 的日誌

使用下列命令查看 kmeans-mnist 訓練工作的日誌：

kubectl smlogs trainingjob xgboost-mnist-from-for-s3

您的輸出應該類似以下內容：執行個體的日誌會按時間順序排序。

"xgboost-mnist-from-for-s3" has SageMaker TrainingJobName "xgboost-mnist-from-for-s3-123456789" in region "us-east-2", status "InProgress" and secondary status "Starting"
xgboost-mnist-from-for-s3-6d7fa0af0bef11eab94e0ed46example/algo-1-1574293123 2019-11-20 23:45:24.7 +0000 UTC Arguments: train
xgboost-mnist-from-for-s3-6d7fa0af0bef11eab94e0ed46example/algo-1-1574293123 2019-11-20 23:45:24.7 +0000 UTC [2019-11-20:23:45:22:INFO] Running standalone xgboost training.
xgboost-mnist-from-for-s3-6d7fa0af0bef11eab94e0ed46example/algo-1-1574293123 2019-11-20 23:45:24.7 +0000 UTC [2019-11-20:23:45:22:INFO] File size need to be processed in the node: 1122.95mb. Available memory size in the node: 8586.0mb
xgboost-mnist-from-for-s3-6d7fa0af0bef11eab94e0ed46example/algo-1-1574293123 2019-11-20 23:45:24.7 +0000 UTC [2019-11-20:23:45:22:INFO] Determined delimiter of CSV input is ','
xgboost-mnist-from-for-s3-6d7fa0af0bef11eab94e0ed46example/algo-1-1574293123 2019-11-20 23:45:24.7 +0000 UTC [23:45:22] S3DistributionType set as FullyReplicated

刪除 TrainingJobs

使用以下命令停止 Amazon SageMaker AI 上的訓練任務：

kubectl delete trainingjob xgboost-mnist-from-for-s3

此命令會從 Kubernetes 移除 SageMaker 訓練工作。此命令會傳回下列輸出：

trainingjob.sagemaker.aws.amazon.com "xgboost-mnist-from-for-s3" deleted

如果任務仍在 SageMaker AI 上進行，任務會停止。任務停止或完成後，您無須為 SageMaker AI 資源支付任何費用。

注意：SageMaker AI 不會刪除訓練任務。停止的任務會持續顯示在 SageMaker AI 主控台上。此delete命令需要約 2 分鐘的時間，才能從 SageMaker AI 清除資源。

HyperParameterTuningJob 運算子

超參數調校任務運算子會將您指定的超參數調校任務規格與 SageMaker AI 進行協調，方法是在 SageMaker AI 中啟動。您可以在 SageMaker AI CreateHyperParameterTuningJob API 文件中進一步了解 SageMaker AI 超參數調校任務。

使用 YAML 檔案建立 HyperparameterTuningJob

使用 Helm Chart 建立 HyperparameterTuningJob

您可以使用 Helm Chart 來執行超參數調校工作。

建立 HyperparameterTuningJob

將角色和 Amazon S3 路徑取代為 values.yaml 中適當的值後，您可以使用下列命令建立超參數調校工作：

helm install . --generate-name

您的輸出應該類似以下內容：

NAME: chart-1574292948
LAST DEPLOYED: Wed Nov 20 23:35:49 2019
NAMESPACE: default
STATUS: deployed
REVISION: 1
TEST SUITE: None
NOTES:
Thanks for installing the sagemaker-k8s-hyperparametertuningjob.

驗證圖表安裝

要驗證 Helm Chart 是否已成功建立，請執行以下命令：

helm ls

您的輸出看起來應如以下所示：

NAME                    NAMESPACE       REVISION        UPDATED
chart-1474292948        default         1               2019-11-20 23:35:49.9136092 +0000 UTC   deployed        sagemaker-k8s-hyperparametertuningjob-0.1.0                               STATUS          CHART                           APP VERSION
chart-1574292948        default         1               2019-11-20 23:35:49.9136092 +0000 UTC   deployed        sagemaker-k8s-trainingjob-0.1.0
rolebased-1574291698    default         1               2019-11-20 23:14:59.6777082 +0000 UTC   deployed        sagemaker-k8s-operator-0.1.0

helm install 會建立 HyperParameterTuningJob Kubernetes 資源。運算子會在 SageMaker AI 中啟動實際超參數最佳化任務，並更新 HyperParameterTuningJob Kubernetes 資源以反映 SageMaker AI 中任務的狀態。您在工作期間使用的 SageMaker AI 資源會產生費用。工作完成或停止後，就不會再產生任何費用。

注意：SageMaker AI 不允許您更新執行中的超參數調校任務。您無法編輯任何參數並重新套用設定檔。您必須變更中繼資料名稱或刪除現有工作，然後建立新的工作。與 Kubeflow 中的 TFJob 等現有訓練工作運算子類似，update 不受支援。

列出 HyperparameterTuningJobs

使用下列命令列出使用 Kubernetes 運算子建立的所有工作：

kubectl get hyperparametertuningjob

您的輸出看起來應如以下所示：

NAME         STATUS      CREATION-TIME          COMPLETED   INPROGRESS   ERRORS   STOPPED   BEST-TRAINING-JOB                               SAGEMAKER-JOB-NAME
xgboost-mnist-hpo   Completed   2019-10-17T01:15:52Z   10          0            0        0         xgboostha92f5e3cf07b11e9bf6c06d6-009-4c7a123   xgboostha92f5e3cf07b11e9bf6c123

超參數調校工作會在工作完成或失敗後繼續列出。您可以依照刪除 HyperparameterTuningJob 步驟從清單中移除 hyperparametertuningjob。已完成或停止的任務不會對 SageMaker AI 資源產生任何費用。

超參數調校工作狀態值

STATUS 欄位可以是以下其中一個值：

這些狀態直接來自 SageMaker AI 官方 API 文件。

除了官方的 SageMaker AI 狀態之外， 也可以STATUS是 SynchronizingK8sJobWithSageMaker。這表示運算子尚未處理工作。

狀態計數器

有多個輸出計數器，例如 COMPLETED 和 INPROGRESS。它們分別代表了已完成和正在進行的訓練工作的數量。如需與如何確定這些資訊相關的詳細資訊，請參閱 SageMaker API 文件中的訓練工作狀態計數器。

最佳 TrainingJob

此欄包含對選取的指標進行了最佳化的 TrainingJob 名稱。

若要查看調整過的超參數的摘要，請執行下列命令：

kubectl describe hyperparametertuningjob xgboost-mnist-hpo

若要查看與 TrainingJob 相關的詳細資訊，請執行下列命令：

kubectl describe trainingjobs <job name>

產生的 TrainingJobs

您也可以執行下列命令，追蹤 HyperparameterTuningJob 在 Kubernetes 中啟動的所有 10 項訓練工作：

kubectl get trainingjobs

描述 HyperparameterTuningJob

您可以使用 describe kubectl 命令取得偵錯詳細資訊。

kubectl describe hyperparametertuningjob xgboost-mnist-hpo

除了調校任務的相關資訊之外，適用於 Kubernetes 的 SageMaker AI Operator 也會公開describe輸出中超參數調校任務所找到的最佳訓練任務，如下所示：

Name:         xgboost-mnist-hpo
Namespace:    default
Labels:       <none>
Annotations:  kubectl.kubernetes.io/last-applied-configuration:
                {"apiVersion":"sagemaker.aws.amazon.com/v1","kind":"HyperparameterTuningJob","metadata":{"annotations":{},"name":"xgboost-mnist-hpo","namespace":...
API Version:  sagemaker.aws.amazon.com/v1
Kind:         HyperparameterTuningJob
Metadata:
  Creation Timestamp:  2019-10-17T01:15:52Z
  Finalizers:
    sagemaker-operator-finalizer
  Generation:        2
  Resource Version:  8167
  Self Link:         /apis/sagemaker.aws.amazon.com/v1/namespaces/default/hyperparametertuningjobs/xgboost-mnist-hpo
  UID:               a92f5e3c-f07b-11e9-bf6c-06d6f303uidu
Spec:
  Hyper Parameter Tuning Job Config:
    Hyper Parameter Tuning Job Objective:
      Metric Name:  validation:error
      Type:         Minimize
    Parameter Ranges:
      Integer Parameter Ranges:
        Max Value:     20
        Min Value:     10
        Name:          num_round
        Scaling Type:  Linear
    Resource Limits:
      Max Number Of Training Jobs:     10
      Max Parallel Training Jobs:      10
    Strategy:                          Bayesian
    Training Job Early Stopping Type:  Off
  Hyper Parameter Tuning Job Name:     xgboostha92f5e3cf07b11e9bf6c06d6
  Region:                              us-east-2
  Training Job Definition:
    Algorithm Specification:
      Training Image:       12345678910.dkr.ecr.us-east-2.amazonaws.com/xgboost:1
      Training Input Mode:  File
    Input Data Config:
      Channel Name:  train
      Content Type:  text/csv
      Data Source:
        s3DataSource:
          s3DataDistributionType:  FullyReplicated
          s3DataType:              S3Prefix
          s3Uri:                   https://s3-us-east-2.amazonaws.com/amzn-s3-demo-bucket/sagemaker/xgboost-mnist/train/
      Channel Name:                validation
      Content Type:                text/csv
      Data Source:
        s3DataSource:
          s3DataDistributionType:  FullyReplicated
          s3DataType:              S3Prefix
          s3Uri:                   https://s3-us-east-2.amazonaws.com/amzn-s3-demo-bucket/sagemaker/xgboost-mnist/validation/
    Output Data Config:
      s3OutputPath:  https://s3-us-east-2.amazonaws.com/amzn-s3-demo-bucket/sagemaker/xgboost-mnist/xgboost
    Resource Config:
      Instance Count:     1
      Instance Type:      ml.m4.xlarge
      Volume Size In GB:  5
    Role Arn:             arn:aws:iam::123456789012:role/service-role/AmazonSageMaker-ExecutionRole
    Static Hyper Parameters:
      Name:   base_score
      Value:  0.5
      Name:   booster
      Value:  gbtree
      Name:   csv_weights
      Value:  0
      Name:   dsplit
      Value:  row
      Name:   grow_policy
      Value:  depthwise
      Name:   lambda_bias
      Value:  0.0
      Name:   max_bin
      Value:  256
      Name:   max_leaves
      Value:  0
      Name:   normalize_type
      Value:  tree
      Name:   objective
      Value:  reg:linear
      Name:   one_drop
      Value:  0
      Name:   prob_buffer_row
      Value:  1.0
      Name:   process_type
      Value:  default
      Name:   rate_drop
      Value:  0.0
      Name:   refresh_leaf
      Value:  1
      Name:   sample_type
      Value:  uniform
      Name:   scale_pos_weight
      Value:  1.0
      Name:   silent
      Value:  0
      Name:   sketch_eps
      Value:  0.03
      Name:   skip_drop
      Value:  0.0
      Name:   tree_method
      Value:  auto
      Name:   tweedie_variance_power
      Value:  1.5
    Stopping Condition:
      Max Runtime In Seconds:  86400
Status:
  Best Training Job:
    Creation Time:  2019-10-17T01:16:14Z
    Final Hyper Parameter Tuning Job Objective Metric:
      Metric Name:        validation:error
      Value:
    Objective Status:     Succeeded
    Training End Time:    2019-10-17T01:20:24Z
    Training Job Arn:     arn:aws:sagemaker:us-east-2:123456789012:training-job/xgboostha92f5e3cf07b11e9bf6c06d6-009-4sample
    Training Job Name:    xgboostha92f5e3cf07b11e9bf6c06d6-009-4c7a3059
    Training Job Status:  Completed
    Training Start Time:  2019-10-17T01:18:35Z
    Tuned Hyper Parameters:
      Name:                                    num_round
      Value:                                   18
  Hyper Parameter Tuning Job Status:           Completed
  Last Check Time:                             2019-10-17T01:21:01Z
  Sage Maker Hyper Parameter Tuning Job Name:  xgboostha92f5e3cf07b11e9bf6c06d6
  Training Job Status Counters:
    Completed:            10
    In Progress:          0
    Non Retryable Error:  0
    Retryable Error:      0
    Stopped:              0
    Total Error:          0
Events:                   <none>

檢視 HyperparameterTuningJobs 日誌

超參數調校工作沒有日誌，但它們啟動的所有訓練工作都有日誌。這些記錄檔可以存取，就像是一般訓練工作一樣。如需詳細資訊，請參閱檢視 TrainingJobs 的日誌。

刪除 HyperparameterTuningJob

使用下列命令來停止 SageMaker AI 中的超參數任務。

kubectl delete hyperparametertuningjob xgboost-mnist-hpo

此命令會從 Kubernetes 叢集中移除超參數調校任務和相關聯的訓練任務，並在 SageMaker AI 中停止這些任務。已停止或完成的任務不會對 SageMaker AI 資源產生任何費用。SageMaker AI 不會刪除超參數調校任務。停止的任務會持續顯示在 SageMaker AI 主控台上。

您的輸出看起來應如以下所示：

hyperparametertuningjob.sagemaker.aws.amazon.com "xgboost-mnist-hpo" deleted

注意：刪除命令需要約 2 分鐘的時間來清除 SageMaker AI 中的資源。

BatchTransformJob 運算子

批次轉換任務運算子會將您指定的批次轉換任務規格與 SageMaker AI 進行協調，方法是在 SageMaker AI 中啟動。您可以在 SageMaker AI CreateTransformJob API 文件中進一步了解 SageMaker AI 批次轉換任務。

使用 YAML 檔案建立 BatchTransformJob

使用 Helm Chart 建立 BatchTransformJob

您可以使用 Helm Chart 執行批次轉換工作。

取得 Ham 安裝程式目錄

使用以下命令複製 GitHub 儲存庫以取得來源代碼：

git clone https://github.com/aws/amazon-sagemaker-operator-for-k8s.git

設定 Helm Chart

導覽至 amazon-sagemaker-operator-for-k8s/hack/charts/batch-transform-jobs/ 資料夾。

編輯 values.yaml 檔案，將 inputdataconfig取代為您的輸入資料，並將 outputPath 取代為 SageMaker AI 執行角色具有寫入存取權的 S3 儲存貯體。 SageMaker

建立 BatchTransformJob

注意：SageMaker AI 不允許您更新執行中的批次轉換任務。您無法編輯任何參數並重新套用設定檔。您必須變更中繼資料名稱或刪除現有工作，然後建立新的工作。與 Kubeflow 中的 TFJob 等現有訓練工作運算子類似，update 不受支援。

列出 BatchTransformJobs

使用下列命令列出使用 Kubernetes 運算子建立的所有工作：

kubectl get batchtransformjob

您的輸出看起來應如以下所示：

NAME                                STATUS      CREATION-TIME          SAGEMAKER-JOB-NAME
xgboost-mnist-batch-transform       Completed   2019-11-18T03:44:00Z   xgboost-mnist-a88fb19809b511eaac440aa8axgboost

批次轉換工作會在工作完成或失敗後繼續列出。您可以依照刪除 BatchTransformJob 步驟從清單中移除 hyperparametertuningjob。已完成或停止的任務不會對 SageMaker AI 資源產生任何費用。

批次轉換狀態值

STATUS 欄位可以是以下其中一個值：

這些狀態直接來自 SageMaker AI 官方 API 文件。

除了官方的 SageMaker AI 狀態之外， 也可以STATUS是 SynchronizingK8sJobWithSageMaker。這表示運算子尚未處理工作。

描述 BatchTransformJob

您可以使用 describe kubectl 命令取得偵錯詳細資訊。

kubectl describe batchtransformjob xgboost-mnist-batch-transform

您的輸出看起來應如以下所示：

Name:         xgboost-mnist-batch-transform
Namespace:    default
Labels:       <none>
Annotations:  kubectl.kubernetes.io/last-applied-configuration:
                {"apiVersion":"sagemaker.aws.amazon.com/v1","kind":"BatchTransformJob","metadata":{"annotations":{},"name":"xgboost-mnist","namespace"...
API Version:  sagemaker.aws.amazon.com/v1
Kind:         BatchTransformJob
Metadata:
  Creation Timestamp:  2019-11-18T03:44:00Z
  Finalizers:
    sagemaker-operator-finalizer
  Generation:        2
  Resource Version:  21990924
  Self Link:         /apis/sagemaker.aws.amazon.com/v1/namespaces/default/batchtransformjobs/xgboost-mnist
  UID:               a88fb198-09b5-11ea-ac44-0aa8a9UIDNUM
Spec:
  Model Name:  TrainingJob-20190814SMJOb-IKEB
  Region:      us-east-1
  Transform Input:
    Content Type:  text/csv
    Data Source:
      S 3 Data Source:
        S 3 Data Type:  S3Prefix
        S 3 Uri:        s3://amzn-s3-demo-bucket/mnist_kmeans_example/input
  Transform Job Name:   xgboost-mnist-a88fb19809b511eaac440aa8a9SMJOB
  Transform Output:
    S 3 Output Path:  s3://amzn-s3-demo-bucket/mnist_kmeans_example/output
  Transform Resources:
    Instance Count:  1
    Instance Type:   ml.m4.xlarge
Status:
  Last Check Time:                2019-11-19T22:50:40Z
  Sage Maker Transform Job Name:  xgboost-mnist-a88fb19809b511eaac440aaSMJOB
  Transform Job Status:           Completed
Events:                           <none>

檢視 BatchTransformJobs 日誌

使用下列命令查看 xgboost-mnist 批次轉換工作的日誌：

kubectl smlogs batchtransformjob xgboost-mnist-batch-transform

刪除 BatchTransformJob

使用下列命令來停止 SageMaker AI 中的批次轉換任務。

kubectl delete batchTransformJob xgboost-mnist-batch-transform

您的輸出看起來應如以下所示：

batchtransformjob.sagemaker.aws.amazon.com "xgboost-mnist" deleted

此命令會從 Kubernetes 叢集中移除批次轉換任務，並在 SageMaker AI 中停止這些任務。已停止或完成的任務不會對 SageMaker AI 資源產生任何費用。刪除需要約 2 分鐘的時間，才能清除 SageMaker AI 中的資源。

注意：SageMaker AI 不會刪除批次轉換任務。停止的任務會持續顯示在 SageMaker AI 主控台上。

HostingDeployment 運算子

HostingDeployment 運算子支援建立和刪除端點，以及更新現有端點以進行即時推論。託管部署運算子透過在 SageMaker AI 中建立模型、端點組態和端點，將您指定的託管部署任務規格與 SageMaker AI 進行協調。您可以在 SageMaker AI CreateEndpoint API 文件中進一步了解 SageMaker AI 推論。

設定 HostingDeployment 資源

使用下列命令下載託管部署工作的範例 YAML 檔案：

wget https://raw.githubusercontent.com/aws/amazon-sagemaker-operator-for-k8s/master/samples/xgboost-mnist-hostingdeployment.yaml

xgboost-mnist-hostingdeployment.yaml 檔案具有下列可視需要進行編輯的元件：

建立 HostingDeployment

若要建立 HostingDeployment，請使用以下命令，透過 kubectl 套用檔案 hosting.yaml：

kubectl apply -f hosting.yaml

SageMaker AI 會建立具有指定組態的端點。您在端點生命週期內使用的 SageMaker AI 資源會產生費用。刪除端點後，就不會再產生任何費用。

完成建立過程約需 10 分鐘的時間。

列出 HostingDeployments

若要驗證已建立 HostingDeployment，請使用下列命令：

kubectl get hostingdeployments

您的輸出看起來應如以下所示：

NAME           STATUS     SAGEMAKER-ENDPOINT-NAME
host-xgboost   Creating   host-xgboost-def0e83e0d5f11eaaa450aSMLOGS

HostingDeployment 狀態值

狀態欄位可以是以下其中一個值：

描述 HostingDeployment

您可以使用 describe kubectl 命令取得偵錯詳細資訊。

kubectl describe hostingdeployment

您的輸出看起來應如以下所示：

Name:         host-xgboost
Namespace:    default
Labels:       <none>
Annotations:  kubectl.kubernetes.io/last-applied-configuration:
                {"apiVersion":"sagemaker.aws.amazon.com/v1","kind":"HostingDeployment","metadata":{"annotations":{},"name":"host-xgboost","namespace":"def..."
API Version:  sagemaker.aws.amazon.com/v1
Kind:         HostingDeployment
Metadata:
  Creation Timestamp:  2019-11-22T19:40:00Z
  Finalizers:
    sagemaker-operator-finalizer
  Generation:        1
  Resource Version:  4258134
  Self Link:         /apis/sagemaker.aws.amazon.com/v1/namespaces/default/hostingdeployments/host-xgboost
  UID:               def0e83e-0d5f-11ea-aa45-0a3507uiduid
Spec:
  Containers:
    Container Hostname:  xgboost
    Image:               123456789012.dkr.ecr.us-east-2.amazonaws.com/xgboost:latest
    Model Data URL:      s3://amzn-s3-demo-bucket/inference/xgboost-mnist/model.tar.gz
  Models:
    Containers:
      xgboost
    Execution Role Arn:  arn:aws:iam::123456789012:role/service-role/AmazonSageMaker-ExecutionRole
    Name:                xgboost-model
    Primary Container:   xgboost
  Production Variants:
    Initial Instance Count:  1
    Instance Type:           ml.c5.large
    Model Name:              xgboost-model
    Variant Name:            all-traffic
  Region:                    us-east-2
Status:
  Creation Time:         2019-11-22T19:40:04Z
  Endpoint Arn:          arn:aws:sagemaker:us-east-2:123456789012:endpoint/host-xgboost-def0e83e0d5f11eaaaexample
  Endpoint Config Name:  host-xgboost-1-def0e83e0d5f11e-e08f6c510d5f11eaaa450aexample
  Endpoint Name:         host-xgboost-def0e83e0d5f11eaaa450a350733ba06
  Endpoint Status:       Creating
  Endpoint URL:          https://runtime.sagemaker.us-east-2.amazonaws.com/endpoints/host-xgboost-def0e83e0d5f11eaaaexample/invocations
  Last Check Time:       2019-11-22T19:43:57Z
  Last Modified Time:    2019-11-22T19:40:04Z
  Model Names:
    Name:   xgboost-model
    Value:  xgboost-model-1-def0e83e0d5f11-df5cc9fd0d5f11eaaa450aexample
Events:     <none>

狀態欄位使用下列欄位提供更多資訊：

調用端點

一旦端點狀態為 InService，您可以透過兩種方式叫用端點：使用 AWS CLI，這會執行身分驗證和 URL 請求簽署，或使用類似 cURL 的 HTTP 用戶端。如果您使用自己的用戶端，則需要自行執行 AWS v4 URL 簽署和身分驗證。

若要使用 CLI AWS 叫用端點，請執行下列命令。請務必將區域和端點名稱取代為端點的區域和 SageMaker AI 端點名稱。此資訊可從 kubectl describe 的輸出中取得。

# Invoke the endpoint with mock input data.
aws sagemaker-runtime invoke-endpoint \
  --region us-east-2 \
  --endpoint-name <endpoint name> \
  --body $(seq 784 | xargs echo | sed 's/ /,/g') \
  >(cat) \
  --content-type text/csv > /dev/null

例如，如果您的區域是 us-east-2 並且端點設定名稱為 host-xgboost-f56b6b280d7511ea824b129926example，則以下命令將調用端點：

aws sagemaker-runtime invoke-endpoint \
  --region us-east-2 \
  --endpoint-name host-xgboost-f56b6b280d7511ea824b1299example \
  --body $(seq 784 | xargs echo | sed 's/ /,/g') \
  >(cat) \
  --content-type text/csv > /dev/null
4.95847082138

在此處，4.95847082138 是模型對模擬資料的預測值。

更新 HostingDeployment

SageMaker AI 會與您的模型部署一組新的執行個體、切換流量以使用新的執行個體，以及耗盡舊執行個體。這個過程序始後，狀態就會變成 Updating。更新完成後，端點狀態會變成 InService。完成此過程約需 10 分鐘的時間。

刪除 HostingDeployment

已刪除的端點不會對 SageMaker AI 資源產生任何費用。

ProcessingJob 運算子

ProcessingJob 運算子用來啟動 Amazon SageMaker 處理工作。如需 SageMaker 處理任務的詳細資訊，請參閱 CreateProcessingJob。

使用 YAML 檔案建立 ProcessingJob

請依照下列步驟使用 YAML 檔案建立 Amazon SageMaker 處理工作：

列出 ProcessingJobs

使用下列其中一個命令列出使用 ProcessingJob 運算子建立的所有任務。SAGEMAKER-JOB-NAME 來自 YAML 檔案的 metadata 部分。

叢集範圍的安裝：

kubectl get ProcessingJob kmeans-mnist-processing

命名空間範圍的安裝：

kubectl get ProcessingJob -n <NAMESPACE> kmeans-mnist-processing

您的輸出應該類似以下內容：

NAME                    STATUS     CREATION-TIME        SAGEMAKER-JOB-NAME
kmeans-mnist-processing InProgress 2020-09-22T21:13:25Z kmeans-mnist-processing-7410ed52fd1811eab19a165ae9f9e385

輸出會列出所有工作，無論其狀態為何。要從清單中移除作業，請參閱刪除處理任務。

完成、停止或失敗的任務不會對 SageMaker AI 資源產生進一步的費用。

描述 ProcessingJob

使用下列其中一個命令可取得有關處理工作的詳細資訊。這些命令通常用於對問題進行偵錯或檢查處理工作的參數。

叢集範圍的安裝：

kubectl describe processingjob kmeans-mnist-processing

命名空間範圍的安裝：

kubectl describe processingjob kmeans-mnist-processing -n <NAMESPACE>

處理工作的輸出應該類似以下內容。

$ kubectl describe ProcessingJob kmeans-mnist-processing
Name:         kmeans-mnist-processing
Namespace:    default
Labels:       <none>
Annotations:  kubectl.kubernetes.io/last-applied-configuration:
                {"apiVersion":"sagemaker.aws.amazon.com/v1","kind":"ProcessingJob","metadata":{"annotations":{},"name":"kmeans-mnist-processing",...
API Version:  sagemaker.aws.amazon.com/v1
Kind:         ProcessingJob
Metadata:
  Creation Timestamp:  2020-09-22T21:13:25Z
  Finalizers:
    sagemaker-operator-finalizer
  Generation:        2
  Resource Version:  21746658
  Self Link:         /apis/sagemaker.aws.amazon.com/v1/namespaces/default/processingjobs/kmeans-mnist-processing
  UID:               7410ed52-fd18-11ea-b19a-165ae9f9e385
Spec:
  App Specification:
    Container Entrypoint:
      python
      /opt/ml/processing/code/kmeans_preprocessing.py
    Image Uri:  763104351884.dkr.ecr.us-west-2.amazonaws.com/pytorch-training:1.5.0-cpu-py36-ubuntu16.04
  Environment:
    Name:   MYVAR
    Value:  my_value
    Name:   MYVAR2
    Value:  my_value2
  Network Config:
  Processing Inputs:
    Input Name:  mnist_tar
    s3Input:
      Local Path:   /opt/ml/processing/input
      s3DataType:   S3Prefix
      s3InputMode:  File
      s3Uri:        s3://<s3bucket>-us-west-2/algorithms/kmeans/mnist/mnist.pkl.gz
    Input Name:     source_code
    s3Input:
      Local Path:   /opt/ml/processing/code
      s3DataType:   S3Prefix
      s3InputMode:  File
      s3Uri:        s3://<s3bucket>/mnist_kmeans_example/processing_code/kmeans_preprocessing.py
  Processing Output Config:
    Outputs:
      Output Name:  train_data
      s3Output:
        Local Path:    /opt/ml/processing/output_train/
        s3UploadMode:  EndOfJob
        s3Uri:         s3://<s3bucket>/mnist_kmeans_example/output/
      Output Name:     test_data
      s3Output:
        Local Path:    /opt/ml/processing/output_test/
        s3UploadMode:  EndOfJob
        s3Uri:         s3://<s3bucket>/mnist_kmeans_example/output/
      Output Name:     valid_data
      s3Output:
        Local Path:    /opt/ml/processing/output_valid/
        s3UploadMode:  EndOfJob
        s3Uri:         s3://<s3bucket>/mnist_kmeans_example/output/
  Processing Resources:
    Cluster Config:
      Instance Count:     1
      Instance Type:      ml.m5.xlarge
      Volume Size In GB:  20
  Region:                 us-west-2
  Role Arn:               arn:aws:iam::<acct-id>:role/m-sagemaker-role
  Stopping Condition:
    Max Runtime In Seconds:  1800
  Tags:
    Key:    tagKey
    Value:  tagValue
Status:
  Cloud Watch Log URL:             https://us-west-2.console.aws.amazon.com/cloudwatch/home?region=us-west-2#logStream:group=/aws/sagemaker/ProcessingJobs;prefix=kmeans-mnist-processing-7410ed52fd1811eab19a165ae9f9e385;streamFilter=typeLogStreamPrefix
  Last Check Time:                 2020-09-22T21:14:29Z
  Processing Job Status:           InProgress
  Sage Maker Processing Job Name:  kmeans-mnist-processing-7410ed52fd1811eab19a165ae9f9e385
Events:                            <none>

刪除處理工作

當您刪除處理任務時，SageMaker 處理任務會從 Kubernetes 中移除，但任務不會從 SageMaker AI 中刪除。如果 SageMaker AI 中的任務狀態是停止InProgress的任務。已停止的處理任務不會對 SageMaker AI 資源產生任何費用。使用下列其中一個命令可刪除處理工作。

叢集範圍的安裝：

kubectl delete processingjob kmeans-mnist-processing

命名空間範圍的安裝：

kubectl delete processingjob kmeans-mnist-processing -n <NAMESPACE>

處理工作的輸出應該類似以下內容。

processingjob.sagemaker.aws.amazon.com "kmeans-mnist-processing" deleted

HostingAutoscalingPolicy (HAP) 運算子

HostingAutoscalingPolicy (HAP) 運算子會接受一系列資源 ID 作為輸入，並將相同的政策套用至每個資源 ID。每個資源 ID 都是端點名稱和變體名稱的組合。HAP 運算子會執行兩個步驟：註冊資源 ID，然後將擴展政策套用至每個資源 ID。Delete 會復原這兩個動作。您可以將 HAP 套用至現有的 SageMaker AI 端點，也可以使用 HostingDeployment 運算子建立新的 SageMaker AI 端點。您可以在 Application Autoscaling 政策文件中閱讀更多關於 SageMaker AI Autoscaling 的資訊。 https://docs.aws.amazon.com/sagemaker/latest/dg/endpoint-auto-scaling.html

使用 YAML 檔案建立 HostingAutoscalingPolicy

使用 YAML 檔案建立 HostingAutoscalingPolicy (HAP)，將預先定義或自訂指標套用至一或多個 SageMaker AI 端點。

Amazon SageMaker AI 需要特定值，才能將自動擴展套用至您的變體。如果 YAML 規格中未指定這些值，HAP 運算子會套用下列預設值。

# Do not change
Namespace                    = "sagemaker"
# Do not change
ScalableDimension            = "sagemaker:variant:DesiredInstanceCount"
# Only one supported
PolicyType                   = "TargetTrackingScaling"
# This is the default policy name but can be changed to apply a custom policy
DefaultAutoscalingPolicyName = "SageMakerEndpointInvocationScalingPolicy"

使用下列範例建立 HAP，將預先定義的指標或自訂指標套用至一個或多個端點。

範例 1：將預先定義的指標套用至單一端點變體

範例 2：將自訂指標套用至單一端點變體

範例 3：將擴展政策套用至多個端點和變體

您可以使用 HAP 運算子將相同的資源調度政策套用至多個資源 ID。系統會針對每個資源 ID (端點名稱和變體名稱組合) 建立單獨的 scaling_policy 要求。

針對多個端點和變體的 HostingAutoscalingPolicies 考量事項

使用多個資源 ID 時有下列考量：

列出 HostingAutoscalingPolicies

使用下列其中一個命令來列出使用 HAP 運算子建立的所有 HostingAutoscalingPolicies (HAP)。

叢集範圍的安裝：

kubectl get hap

命名空間範圍的安裝：

kubectl get hap -n <NAMESPACE>

您的輸出應該類似以下內容：

NAME             STATUS   CREATION-TIME
hap-predefined   Created  2021-07-13T21:32:21Z

使用下列命令來檢查 HostingAutoscalingPolicy (HAP) 的狀態。

kubectl get hap <job-name>

系統會傳回下列其中一個值：

描述 HostingAutoscalingPolicy

使用下列命令可取得與 HostingAutoscalingPolicy (HAP) 相關的詳細資料。這些命令通常用於對問題進行偵錯或檢查 HAP 的資源 ID (端點名稱和變體名稱組合)。

kubectl describe hap <job-name>

更新 HostingAutoscalingPolicy

HostingAutoscalingPolicy (HAP) 運算子支援更新。您可以編輯 YAML 規格以變更值，然後重新套用政策。HAP 運算子會刪除現有政策並套用新政策。

刪除 HostingAutoscalingPolicy

使用下列其中一個命令來刪除 HostingAutoscalingPolicy (HAP) 政策。

叢集範圍的安裝：

kubectl delete hap hap-predefined

命名空間範圍的安裝：

kubectl delete hap hap-predefined -n <NAMESPACE>

此命令會刪除擴展政策，並從 Kubernetes 取消註冊擴展目標。此命令會傳回下列輸出：

hostingautoscalingpolicies.sagemaker.aws.amazon.com "hap-predefined" deleted

使用 HostingAutoscalingPolicy 更新或刪除端點

若要更新具有 HostingAutoscalingPolicy (HAP) 的端點，請使用 kubectl delete 命令移除 HAP、更新端點，然後重新套用 HAP。

若要刪除具有 HAP 的端點，請先使用 kubectl delete 命令移除 HAP，然後再刪除端點。