Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Ausführen Ihres trainierten Amazon Lookout for Vision Vision-Modells
Um Anomalien in Bildern mit Ihrem Modell zu erkennen, müssen Sie Ihr Modell zunächst mit der StartModelOperation starten. Die Amazon Lookout for Vision Vision-Konsole bietet AWS CLI Befehle, mit denen Sie Ihr Modell starten und stoppen können. Dieser Abschnitt enthält Beispielcode, den Sie verwenden können.
Nach dem Start Ihres Modells können Sie den DetectAnomalies Vorgang verwenden, um Anomalien in einem Bild zu erkennen. Weitere Informationen finden Sie unter Erkennung von Anomalien in einem Bild.
Themen
Inferenzeinheiten
Wenn Sie Ihr Modell starten, stellt Amazon Lookout for Vision mindestens eine Rechenressource bereit, die als Inferenzeinheit bezeichnet wird. Sie geben die Anzahl der zu verwendenden Inferenzeinheiten im MinInferenceUnits Eingabeparameter für die API an. StartModel Die Standardzuweisung für ein Modell ist 1 Inferenzeinheit.
Wichtig
Ihnen werden die Anzahl der Stunden, die Ihr Modell läuft, und die Anzahl der Inferenzeinheiten, die Ihr Modell während des Betriebs verwendet, in Rechnung gestellt, je nachdem, wie Sie den Betrieb Ihres Modells konfigurieren. Wenn Sie das Modell beispielsweise mit zwei Inferenzeinheiten starten und das Modell 8 Stunden lang verwenden, werden Ihnen 16 Inferenzstunden in Rechnung gestellt (8 Stunden Laufzeit x zwei Inferenzeinheiten). Weitere Informationen finden Sie unter Amazon Lookout for Vision Pricing
Die Transaktionen pro Sekunde (TPS), die eine einzelne Inferenzeinheit unterstützt, werden von folgenden Faktoren beeinflusst:
Der Algorithmus, den Lookout for Vision verwendet, um das Modell zu trainieren. Wenn Sie ein Modell trainieren, werden mehrere Modelle trainiert. Lookout for Vision wählt anhand der Größe des Datensatzes und seiner Zusammensetzung aus normalen und anomalen Bildern das Modell mit der besten Leistung aus.
Bilder mit höherer Auflösung benötigen mehr Zeit für die Analyse.
Kleinere Bilder (gemessen in MB) werden schneller analysiert als größere Bilder.
Verwaltung des Durchsatzes mit Inferenzeinheiten
Sie können den Durchsatz Ihres Modells je nach den Anforderungen an Ihre Anwendung erhöhen oder verringern. Verwenden Sie zusätzliche Inferenzeinheiten, um den Durchsatz zu erhöhen. Jede zusätzliche Inferenzeinheit erhöht Ihre Verarbeitungsgeschwindigkeit um eine Inferenzeinheit. Informationen zur Berechnung der Anzahl der benötigten Inferenzeinheiten finden Sie unter Berechnung von Inferenzeinheiten für Amazon Rekognition Custom Labels und Amazon Lookout for
Manuelles Hinzufügen oder Entfernen von Inferenzeinheiten
Stoppen Sie das Modell und starten Sie es dann mit der erforderlichen Anzahl von Inferenzeinheiten neu. Der Nachteil dieses Ansatzes besteht darin, dass das Modell während des Neustarts keine Anfragen empfangen kann und nicht zur Bewältigung von Nachfragespitzen verwendet werden kann. Verwenden Sie diesen Ansatz, wenn Ihr Modell einen konstanten Durchsatz aufweist und Ihr Anwendungsfall Ausfallzeiten von 10 bis 20 Minuten tolerieren kann. Ein Beispiel wäre, wenn Sie Ihr Modell mithilfe eines wöchentlichen Zeitplans stapelweise aufrufen möchten.
Automatische Skalierung von Inferenzeinheiten
Wenn Ihr Modell Nachfragespitzen bewältigen muss, kann Amazon Lookout for Vision die Anzahl der Inferenzeinheiten, die Ihr Modell verwendet, automatisch skalieren. Wenn die Nachfrage steigt, fügt Amazon Lookout for Vision dem Modell zusätzliche Inferenzeinheiten hinzu und entfernt sie, wenn die Nachfrage sinkt.
Damit Lookout for Vision automatisch die Inferenzeinheiten für ein Modell skaliert, starten Sie das Modell und legen Sie mithilfe des Parameters die maximale Anzahl von Inferenzeinheiten fest, die es verwenden kann. MaxInferenceUnits Wenn Sie eine maximale Anzahl von Inferenzeinheiten festlegen, können Sie die Kosten für die Ausführung des Modells verwalten, indem Sie die Anzahl der verfügbaren Inferenzeinheiten einschränken. Wenn Sie keine maximale Anzahl von Einheiten angeben, skaliert Lookout for Vision Ihr Modell nicht automatisch, sondern verwendet nur die Anzahl der Inferenzeinheiten, mit der Sie begonnen haben. Informationen zur maximalen Anzahl von Inferenzeinheiten finden Sie unter Service Quotas.
Mithilfe des Parameters können Sie auch eine Mindestanzahl von Inferenzeinheiten angeben. MinInferenceUnits Auf diese Weise können Sie den Mindestdurchsatz für Ihr Modell angeben, wobei eine einzelne Inferenzeinheit einer Stunde Verarbeitungszeit entspricht.
Anmerkung
Sie können die maximale Anzahl von Inferenzeinheiten mit der Lookout for Vision Vision-Konsole nicht festlegen. Geben Sie stattdessen den MaxInferenceUnits Eingabeparameter für die StartModel Operation an.
Lookout for Vision bietet die folgenden Amazon CloudWatch Logs-Metriken, anhand derer Sie den aktuellen Status der automatischen Skalierung für ein Modell ermitteln können.
| Metrik | Beschreibung |
|---|---|
|
|
Die Anzahl der Inferenzeinheiten, auf die Lookout for Vision nach oben oder unten skaliert. |
|
|
Die Anzahl der Inferenzeinheiten, die das Modell verwendet. |
Falls DesiredInferenceUnits =InServiceInferenceUnits, skaliert Lookout for Vision derzeit nicht die Anzahl der Inferenzeinheiten.
Wenn DesiredInferenceUnits >InServiceInferenceUnits, wird Lookout for Vision auf den Wert von DesiredInferenceUnits hochskaliert.
Wenn DesiredInferenceUnits <InServiceInferenceUnits, wird Lookout for Vision auf den Wert von DesiredInferenceUnits herunterskaliert.
Weitere Informationen zu den von Lookout for Vision zurückgegebenen Metriken und zum Filtern von Dimensionen finden Sie unter Überwachen von Lookout for Vision mit Amazon. CloudWatch
Um herauszufinden, wie viele Inferenzeinheiten Sie für ein Modell maximal angefordert haben, rufen Sie uns an DescribeModelund überprüfen Sie das MaxInferenceUnits Feld in der Antwort.
Availability Zones
Amazon Lookout for Vision; verteilt Inferenzeinheiten über mehrere Availability Zones innerhalb einer AWS Region, um die Verfügbarkeit zu erhöhen. Weitere Informationen finden Sie unter Availability Zones.
Bei einem Ausfall der Availability Zone sind alle Inferenzeinheiten in der Availability Zone nicht verfügbar und die Modellkapazität wird reduziert. Aufrufe an DetectAnomalieswerden auf die verbleibenden Inferenzeinheiten umverteilt. Solche Aufrufe sind erfolgreich, wenn sie die unterstützten Transactions Per Seconds (TPS) der verbleibenden Inferenzeinheiten nicht überschreiten. Nach der AWS Reparatur der Availability Zone werden die Inferenzeinheiten neu gestartet und die volle Kapazität wiederhergestellt.
Wenn eine einzelne Inferenzeinheit ausfällt, startet Amazon Lookout for Vision automatisch eine neue Inferenzeinheit in derselben Availability Zone. Die Modellkapazität wird reduziert, bis die neue Inferenzeinheit gestartet wird.
