本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。
使用 endpoints 命令管理推論端點
您可以使用 Neptune ML endpoints 命令來建立推論端點、檢查其狀態、將其刪除，或列出現有的推論端點。
使用 Neptune ML endpoints 命令建立推論端點
如下 Neptune ML endpoints 命令可從訓練工作所建立的模型建立推論端點：
- AWS CLI
-
aws neptunedata create-ml-endpoint \
--endpoint-url https://your-neptune-endpoint:port \
--id "(a unique ID for the new endpoint)" \
--ml-model-training-job-id "(the model-training job-id of a completed job)"
如需詳細資訊，請參閱《 AWS CLI 命令參考》中的 create-ml-endpoint。
- SDK
-
import boto3
from botocore.config import Config
client = boto3.client(
'neptunedata',
endpoint_url='https://your-neptune-endpoint:port',
config=Config(read_timeout=None, retries={'total_max_attempts': 1})
)
response = client.create_ml_endpoint(
id='(a unique ID for the new endpoint)',
mlModelTrainingJobId='(the model-training job-id of a completed job)'
)
print(response)
- awscurl
-
awscurl https://your-neptune-endpoint:port/ml/endpoints \
--region us-east-1 \
--service neptune-db \
-X POST \
-H 'Content-Type: application/json' \
-d '{
"id" : "(a unique ID for the new endpoint)",
"mlModelTrainingJobId": "(the model-training job-id of a completed job)"
}'
此範例假設您的 AWS 登入資料已在您的環境中設定。將 us-east-1 取代為 Neptune 叢集的區域。
- curl
-
curl \
-X POST https://your-neptune-endpoint:port/ml/endpoints \
-H 'Content-Type: application/json' \
-d '{
"id" : "(a unique ID for the new endpoint)",
"mlModelTrainingJobId": "(the model-training job-id of a completed job)"
}'
如下 Neptune ML endpoints 命令可從訓練工作所建立的模型更新現有的推論端點：
- AWS CLI
-
aws neptunedata create-ml-endpoint \
--endpoint-url https://your-neptune-endpoint:port \
--id "(a unique ID for the new endpoint)" \
--update \
--ml-model-training-job-id "(the model-training job-id of a completed job)"
如需詳細資訊，請參閱《 AWS CLI 命令參考》中的 create-ml-endpoint。
- SDK
-
import boto3
from botocore.config import Config
client = boto3.client(
'neptunedata',
endpoint_url='https://your-neptune-endpoint:port',
config=Config(read_timeout=None, retries={'total_max_attempts': 1})
)
response = client.create_ml_endpoint(
id='(a unique ID for the new endpoint)',
update=True,
mlModelTrainingJobId='(the model-training job-id of a completed job)'
)
print(response)
- awscurl
-
awscurl https://your-neptune-endpoint:port/ml/endpoints \
--region us-east-1 \
--service neptune-db \
-X POST \
-H 'Content-Type: application/json' \
-d '{
"id" : "(a unique ID for the new endpoint)",
"update" : "true",
"mlModelTrainingJobId": "(the model-training job-id of a completed job)"
}'
此範例假設您的 AWS 登入資料已在您的環境中設定。將 us-east-1 取代為 Neptune 叢集的區域。
- curl
-
curl \
-X POST https://your-neptune-endpoint:port/ml/endpoints \
-H 'Content-Type: application/json' \
-d '{
"id" : "(a unique ID for the new endpoint)",
"update" : "true",
"mlModelTrainingJobId": "(the model-training job-id of a completed job)"
}'
如下 Neptune ML endpoints 命令可從模型轉換工作所建立的模型建立推論端點：
- AWS CLI
-
aws neptunedata create-ml-endpoint \
--endpoint-url https://your-neptune-endpoint:port \
--id "(a unique ID for the new endpoint)" \
--ml-model-transform-job-id "(the model-transform job-id of a completed job)"
如需詳細資訊，請參閱《 AWS CLI 命令參考》中的 create-ml-endpoint。
- SDK
-
import boto3
from botocore.config import Config
client = boto3.client(
'neptunedata',
endpoint_url='https://your-neptune-endpoint:port',
config=Config(read_timeout=None, retries={'total_max_attempts': 1})
)
response = client.create_ml_endpoint(
id='(a unique ID for the new endpoint)',
mlModelTransformJobId='(the model-transform job-id of a completed job)'
)
print(response)
- awscurl
-
awscurl https://your-neptune-endpoint:port/ml/endpoints \
--region us-east-1 \
--service neptune-db \
-X POST \
-H 'Content-Type: application/json' \
-d '{
"id" : "(a unique ID for the new endpoint)",
"mlModelTransformJobId": "(the model-transform job-id of a completed job)"
}'
此範例假設您的 AWS 登入資料已在您的環境中設定。將 us-east-1 取代為 Neptune 叢集的區域。
- curl
-
curl \
-X POST https://your-neptune-endpoint:port/ml/endpoints \
-H 'Content-Type: application/json' \
-d '{
"id" : "(a unique ID for the new endpoint)",
"mlModelTransformJobId": "(the model-transform job-id of a completed job)"
}'
如下 Neptune ML endpoints 命令可從模型轉換工作所建立的模型更新現有的推論端點：
- AWS CLI
-
aws neptunedata create-ml-endpoint \
--endpoint-url https://your-neptune-endpoint:port \
--id "(a unique ID for the new endpoint)" \
--update \
--ml-model-transform-job-id "(the model-transform job-id of a completed job)"
如需詳細資訊，請參閱《 AWS CLI 命令參考》中的 create-ml-endpoint。
- SDK
-
import boto3
from botocore.config import Config
client = boto3.client(
'neptunedata',
endpoint_url='https://your-neptune-endpoint:port',
config=Config(read_timeout=None, retries={'total_max_attempts': 1})
)
response = client.create_ml_endpoint(
id='(a unique ID for the new endpoint)',
update=True,
mlModelTransformJobId='(the model-transform job-id of a completed job)'
)
print(response)
- awscurl
-
awscurl https://your-neptune-endpoint:port/ml/endpoints \
--region us-east-1 \
--service neptune-db \
-X POST \
-H 'Content-Type: application/json' \
-d '{
"id" : "(a unique ID for the new endpoint)",
"update" : "true",
"mlModelTransformJobId": "(the model-transform job-id of a completed job)"
}'
此範例假設您的 AWS 登入資料已在您的環境中設定。將 us-east-1 取代為 Neptune 叢集的區域。
- curl
-
curl \
-X POST https://your-neptune-endpoint:port/ml/endpoints \
-H 'Content-Type: application/json' \
-d '{
"id" : "(a unique ID for the new endpoint)",
"update" : "true",
"mlModelTransformJobId": "(the model-transform job-id of a completed job)"
}'
用於建立 endpoints 推論端點的參數
-
id – (選用) 新推論端點的唯一識別符。
類型：字串 預設值：自動產生的時間戳記名稱。
-
mlModelTrainingJobId – 已完成模型訓練工作的工作 ID，該工作已建立推論端點將指向的模型。
類型：字串
注意：您必須提供 mlModelTrainingJobId 或 mlModelTransformJobId。
-
mlModelTransformJobId – 已完成模型轉換工作的工作 ID。
類型：字串
注意：您必須提供 mlModelTrainingJobId 或 mlModelTransformJobId。
-
update – (選用) 如果存在，此參數指示這是更新請求。
類型：布林值。預設：false
注意：您必須提供 mlModelTrainingJobId 或 mlModelTransformJobId。
-
neptuneIamRoleArn – (選用) IAM 角色的 ARN，提供對 SageMaker AI 和 Amazon S3 資源的 Neptune 存取權。
類型：字串 注意：這必須列示在您的資料庫叢集參數群組中，否則會擲回錯誤。
-
modelName – (選用) 用於訓練的模型類型。根據預設，ML 模型會是自動以資料處理中使用的 modelType 為基礎，但您可以在這裡指定不同的模型類型。
類型：字串 預設值：rgcn 用於異質圖和 kge 用於知識圖譜。有效值：若為異質圖：rgcn。若為知識圖譜：kge、transe、distmult 或 rotate。
-
instanceType – (選用) 用於線上服務的 ML 執行個體類型。
類型：字串 預設︰ml.m5.xlarge。
注意：為推論端點選擇 ML 執行個體，取決於任務類型、圖形大小以及您的預算。請參閱 為推論端點選取執行個體。
-
instanceCount – (選用) 要部署到端點進行預測的 Amazon EC2 執行個體數量下限。
類型：整數。預設︰1。
-
volumeEncryptionKMSKey – (選用) SageMaker AI 用來加密連接至執行端點之 ML 運算執行個體之儲存磁碟區上的資料 AWS Key Management Service ()AWS KMS金鑰。
類型：字串 預設值：none。
使用 Neptune ML endpoints 命令取得推論端點的狀態
執行個體端點狀態的範例 Neptune ML endpoints 命令如下所示：
- AWS CLI
-
aws neptunedata get-ml-endpoint \
--endpoint-url https://your-neptune-endpoint:port \
--id "(the inference endpoint ID)"
如需詳細資訊，請參閱《 AWS CLI 命令參考》中的 get-ml-endpoint。
- SDK
-
import boto3
from botocore.config import Config
client = boto3.client(
'neptunedata',
endpoint_url='https://your-neptune-endpoint:port',
config=Config(read_timeout=None, retries={'total_max_attempts': 1})
)
response = client.get_ml_endpoint(
id='(the inference endpoint ID)'
)
print(response)
- awscurl
-
awscurl https://your-neptune-endpoint:port/ml/endpoints/(the inference endpoint ID) \
--region us-east-1 \
--service neptune-db \
-X GET
此範例假設您的 AWS 登入資料已在您的環境中設定。將 us-east-1 取代為 Neptune 叢集的區域。
- curl
-
curl -s \
"https://your-neptune-endpoint:port/ml/endpoints/(the inference endpoint ID)" \
| python -m json.tool
使用 Neptune ML endpoints 命令刪除執行個體端點
用於刪除執行個體端點的範例 Neptune ML endpoints 命令如下所示：
- AWS CLI
-
aws neptunedata delete-ml-endpoint \
--endpoint-url https://your-neptune-endpoint:port \
--id "(the inference endpoint ID)"
同時清除相關成品：
aws neptunedata delete-ml-endpoint \
--endpoint-url https://your-neptune-endpoint:port \
--id "(the inference endpoint ID)" \
--clean
如需詳細資訊，請參閱《 AWS CLI 命令參考》中的 delete-ml-endpoint。
- SDK
-
import boto3
from botocore.config import Config
client = boto3.client(
'neptunedata',
endpoint_url='https://your-neptune-endpoint:port',
config=Config(read_timeout=None, retries={'total_max_attempts': 1})
)
response = client.delete_ml_endpoint(
id='(the inference endpoint ID)',
clean=True
)
print(response)
- awscurl
-
awscurl https://your-neptune-endpoint:port/ml/endpoints/(the inference endpoint ID) \
--region us-east-1 \
--service neptune-db \
-X DELETE
同時清除相關成品：
awscurl "https://your-neptune-endpoint:port/ml/endpoints/(the inference endpoint ID)?clean=true" \
--region us-east-1 \
--service neptune-db \
-X DELETE
此範例假設您的 AWS 登入資料已在您的環境中設定。將 us-east-1 取代為 Neptune 叢集的區域。
- curl
-
curl -s \
-X DELETE "https://your-neptune-endpoint:port/ml/endpoints/(the inference endpoint ID)"
或如下所示：
curl -s \
-X DELETE "https://your-neptune-endpoint:port/ml/endpoints/(the inference endpoint ID)?clean=true"
endpoints 刪除推論端點的參數
-
id – (必要) 推論端點的唯一識別符。
類型：字串
-
neptuneIamRoleArn – (選用) IAM 角色的 ARN，提供對 SageMaker AI 和 Amazon S3 資源的 Neptune 存取權。
類型：字串 注意：這必須列示在您的資料庫叢集參數群組中，否則會擲回錯誤。
-
clean – (選用) 指示也應刪除與此端點相關的所有成品。
類型：布林值。預設︰FALSE。
使用 Neptune ML endpoints 命令列出推論端點
用於列出推論端點的 Neptune ML endpoints 命令如下所示：
- AWS CLI
-
aws neptunedata list-ml-endpoints \
--endpoint-url https://your-neptune-endpoint:port
若要限制結果數量：
aws neptunedata list-ml-endpoints \
--endpoint-url https://your-neptune-endpoint:port \
--max-items 3
如需詳細資訊，請參閱《 AWS CLI 命令參考》中的 list-ml-endpoints。
- SDK
-
import boto3
from botocore.config import Config
client = boto3.client(
'neptunedata',
endpoint_url='https://your-neptune-endpoint:port',
config=Config(read_timeout=None, retries={'total_max_attempts': 1})
)
response = client.list_ml_endpoints(
maxItems=3
)
print(response)
- awscurl
-
awscurl https://your-neptune-endpoint:port/ml/endpoints \
--region us-east-1 \
--service neptune-db \
-X GET
若要限制結果數量：
awscurl "https://your-neptune-endpoint:port/ml/endpoints?maxItems=3" \
--region us-east-1 \
--service neptune-db \
-X GET
此範例假設您的 AWS 登入資料已在您的環境中設定。將 us-east-1 取代為 Neptune 叢集的區域。
- curl
-
curl -s "https://your-neptune-endpoint:port/ml/endpoints" \
| python -m json.tool
或如下所示：
curl -s "https://your-neptune-endpoint:port/ml/endpoints?maxItems=3" \
| python -m json.tool
dataprocessing 列出推論端點的參數
-
maxItems – (選用) 要傳回的項目數上限。
類型：整數。預設︰10。允許的最大值：1024。
-
neptuneIamRoleArn – (選用) IAM 角色的 ARN，提供對 SageMaker AI 和 Amazon S3 資源的 Neptune 存取權。
類型：字串 注意：這必須列示在您的資料庫叢集參數群組中，否則會擲回錯誤。
