Wie erstellt man einen asynchronen Inferenzendpunkt - Amazon SageMaker

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Wie erstellt man einen asynchronen Inferenzendpunkt

Erstellen Sie einen asynchronen Endpunkt auf die gleiche Weise, wie Sie einen Endpunkt mithilfe von SageMaker Hosting-Diensten erstellen würden:

  • Erstellen Sie ein Modell in SageMaker mitCreateModel.

  • Erstellen Sie eine Endpunktkonfiguration mit CreateEndpointConfig.

  • Erstellen Sie einen HTTPS Endpunkt mitCreateEndpoint.

Um einen Endpunkt zu erstellen, erstellen Sie zunächst ein Modell mit CreateModel, wobei Sie auf das Modellartefakt und einen Docker-Registry-Pfad (Image) verweisen. Anschließend erstellen Sie eine Konfiguration, CreateEndpointConfigin der Sie ein oder mehrere Modelle angeben, die CreateModel API unter Verwendung von erstellt wurden, und die Ressourcen, die Sie bereitstellen SageMaker möchten. Erstellen Sie einen Endpunkt mit CreateEndpoint unter Verwendung der in der Anforderung angegebenen Endpunktkonfiguration Sie können einen asynchronen Endpunkt mit dem UpdateEndpointAPIaktualisieren. Senden und Empfangen von Inferenzanfragen von dem auf dem Endpunkt gehosteten Modell mit InvokeEndpointAsync. Sie können Ihre Endpunkte mit dem löschen. DeleteEndpointAPI

Eine vollständige Liste der verfügbaren SageMaker Images finden Sie unter Verfügbare Deep Learning Containers Learning-Container-Images. Informationen Container mit benutzerdefiniertem Inferenzcode zum Erstellen eines Docker-Images