如何创建异步推理端点

创建异步终端节点的方式与使用 SageMaker 托管服务创建终端节点的方式相同：

要创建端点，首先要使用 CreateModel 创建模型，在其中指向模型构件和 Docker 注册表路径（映像）。然后，您可以使用配置来CreateEndpointConfig指定一个或多个使用待部署创建的CreateModelAPI模型以及 SageMaker 要预置的资源。使用在请求中指定的端点配置，通过 CreateEndpoint 创建端点。您可以使用更新异步终端节点UpdateEndpointAPI。使用 InvokeEndpointAsync 发送和接收来自托管在端点上的模型的推理请求。您可以使用删除您的终端节点DeleteEndpointAPI。

有关可用 SageMaker 图像的完整列表，请参阅可用的 Deep Learning Containers 镜像。有关如何创建 Docker 映像的信息，请参阅带有自定义推理代码的容器。