

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

# Menyebarkan Model yang Dikompilasi Menggunakan AWS CLI
<a name="neo-deployment-hosting-services-cli"></a>

Anda harus memenuhi [ bagian ](https://docs.aws.amazon.com//sagemaker/latest/dg/neo-deployment-hosting-services-prerequisites) prasyarat jika model dikompilasi menggunakan AWS SDK for Python (Boto3) AWS CLI,, atau konsol Amazon SageMaker AI. Ikuti langkah-langkah di bawah ini untuk membuat dan menerapkan SageMaker Neo-compiled model menggunakan [AWS CLI](https://docs.aws.amazon.com/cli/latest/reference/). 

**Topics**
+ [Menyebarkan Model](#neo-deploy-cli)

## Menyebarkan Model
<a name="neo-deploy-cli"></a>

Setelah Anda memenuhi [ prasyarat](https://docs.aws.amazon.com//sagemaker/latest/dg/neo-deployment-hosting-services-prerequisites), gunakan `create-endpoint` AWS CLI perintah `create-model``create-enpoint-config`,, dan. Langkah-langkah berikut menjelaskan cara menggunakan perintah ini untuk menerapkan model yang dikompilasi dengan Neo: 



### Buat Model
<a name="neo-deployment-hosting-services-cli-create-model"></a>

Dari [ Neo Inference Container ](https://docs.aws.amazon.com/sagemaker/latest/dg/neo-deployment-hosting-services-container-images.html) Images, pilih URI gambar inferensi dan kemudian gunakan `create-model` API untuk membuat model SageMaker AI. Anda dapat melakukan ini dengan dua langkah: 

1. Buat `create_model.json` file. Di dalam file, tentukan nama model, URI gambar, jalur ke `model.tar.gz` file di bucket Amazon S3 Anda, dan peran eksekusi SageMaker AI Anda: 

   ```
   {
       "ModelName": {{"insert model name"}},
       "PrimaryContainer": {
           "Image": {{"insert the ECR Image URI"}},
           "ModelDataUrl": {{"insert S3 archive URL"}},
           "Environment": {{{"See details below"}}}
       },
       "ExecutionRoleArn": {{"ARN for AmazonSageMaker-ExecutionRole"}}
   }
   ```

   Jika Anda melatih model menggunakan SageMaker AI, tentukan variabel lingkungan berikut: 

   ```
   "Environment": {
       "SAGEMAKER_SUBMIT_DIRECTORY" : {{"[Full S3 path for *.tar.gz file containing the training script]"}}
   }
   ```

   Jika Anda tidak melatih model Anda menggunakan SageMaker AI, tentukan variabel lingkungan berikut: 

------
#### [ MXNet and PyTorch ]

   ```
   "Environment": {
       "SAGEMAKER_PROGRAM": "inference.py",
       "SAGEMAKER_SUBMIT_DIRECTORY": {{"/opt/ml/model/code"}},
       "SAGEMAKER_CONTAINER_LOG_LEVEL": "20",
       "SAGEMAKER_REGION": {{"insert your region"}},
       "MMS_DEFAULT_RESPONSE_TIMEOUT": "500"
   }
   ```

------
#### [ TensorFlow ]

   ```
   "Environment": {
       "SAGEMAKER_PROGRAM": "inference.py",
       "SAGEMAKER_SUBMIT_DIRECTORY": {{"/opt/ml/model/code"}},
       "SAGEMAKER_CONTAINER_LOG_LEVEL": "20",
       "SAGEMAKER_REGION": {{"insert your region"}}
   }
   ```

------
**catatan**  
`AmazonS3ReadOnlyAccess`Kebijakan `AmazonSageMakerFullAccess` dan harus dilampirkan pada peran `AmazonSageMaker-ExecutionRole` IAM. 

1. Jalankan perintah berikut:

   ```
   aws sagemaker create-model --cli-input-json file://create_model.json
   ```

   Untuk sintaks lengkap `create-model` API, lihat [`create-model`](https://docs.aws.amazon.com/cli/latest/reference/sagemaker/create-model.html). 

### Membuat Konfigurasi Endpoint
<a name="neo-deployment-hosting-services-cli-create-endpoint-config"></a>

Setelah membuat model SageMaker AI, buat konfigurasi titik akhir menggunakan `create-endpoint-config` API. Untuk melakukan ini, buat file JSON dengan spesifikasi konfigurasi titik akhir Anda. Misalnya, Anda dapat menggunakan template kode berikut dan menyimpannya sebagai`create_config.json`: 

```
{
    "EndpointConfigName": {{"<provide your endpoint config name>"}},
    "ProductionVariants": [
        {
            "VariantName": {{"<provide your variant name>"}},
            "ModelName": "my-sagemaker-model",
            "InitialInstanceCount": 1,
            "InstanceType": {{"<provide your instance type here>"}},
            "InitialVariantWeight": 1.0
        }
    ]
}
```

Sekarang jalankan AWS CLI perintah berikut untuk membuat konfigurasi endpoint Anda: 

```
aws sagemaker create-endpoint-config --cli-input-json file://create_config.json
```

Untuk sintaks lengkap `create-endpoint-config` API, lihat [`create-endpoint-config`](https://docs.aws.amazon.com/cli/latest/reference/sagemaker/create-endpoint-config.html). 

### Buat Endpoint
<a name="neo-deployment-hosting-services-cli-create-endpoint"></a>

Setelah Anda membuat konfigurasi titik akhir, buat titik akhir menggunakan `create-endpoint` API: 

```
aws sagemaker create-endpoint --endpoint-name {{'<provide your endpoint name>'}} --endpoint-config-name {{'<insert your endpoint config name>'}}
```

Untuk sintaks lengkap `create-endpoint` API, lihat [`create-endpoint`](https://docs.aws.amazon.com/cli/latest/reference/sagemaker/create-endpoint.html). 