Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Wie erstellt man einen asynchronen Inferenzendpunkt
Erstellen Sie einen asynchronen Endpunkt auf die gleiche Weise, wie Sie einen Endpunkt mithilfe von SageMaker Hosting-Diensten erstellen würden:
Erstellen Sie ein Modell in SageMaker mit
CreateModel
.Erstellen Sie eine Endpunktkonfiguration mit
CreateEndpointConfig
.Erstellen Sie einen HTTPS Endpunkt mit
CreateEndpoint
.
Um einen Endpunkt zu erstellen, erstellen Sie zunächst ein Modell mit CreateModel
, wobei Sie auf das Modellartefakt und einen Docker-Registry-Pfad (Image) verweisen. Anschließend erstellen Sie eine Konfiguration, CreateEndpointConfig
in der Sie ein oder mehrere Modelle angeben, die CreateModel
API unter Verwendung von erstellt wurden, und die Ressourcen, die Sie bereitstellen SageMaker möchten. Erstellen Sie einen Endpunkt mit CreateEndpoint
unter Verwendung der in der Anforderung angegebenen Endpunktkonfiguration Sie können einen asynchronen Endpunkt mit dem UpdateEndpoint
APIaktualisieren. Senden und Empfangen von Inferenzanfragen von dem auf dem Endpunkt gehosteten Modell mit InvokeEndpointAsync
. Sie können Ihre Endpunkte mit dem löschen. DeleteEndpoint
API
Eine vollständige Liste der verfügbaren SageMaker Images finden Sie unter Verfügbare Deep Learning Containers Learning-Container-Images