Verwenden von Grundlagenmodellen - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Verwenden von Grundlagenmodellen

Sie müssen den Zugriff auf ein Modell anfordern, bevor Sie es verwenden können. Danach können Sie FMs wie folgt verwenden.

  • Führen Sie Inferenzen aus, indem Sie Eingabeaufforderungen an ein Modell senden und Antworten generieren. Die Playgrounds bieten eine benutzerfreundliche Oberfläche in der AWS Management Console zum Generieren von Text, Bildern oder Chats. In der Spalte Ausgabemodalität finden Sie die Modelle, die Sie in jedem Playground verwenden können.

    Anmerkung

    Die Konsolen-Playgrounds unterstützen nicht die Ausführung von Inferenzen auf Einbettungsmodellen. Verwenden Sie die -API, um Inferenzen für Einbettungsmodelle auszuführen.

  • Bewerten Sie Modelle, um die Ausgaben zu vergleichen und das beste Modell für Ihren Anwendungsfall zu ermitteln.

  • Richten Sie mithilfe eines Einbettungsmodells eine Wissensdatenbank ein. Verwenden Sie dann ein Textmodell, um Antworten auf Abfragen zu generieren.

  • Erstellen Sie einen Agenten und verwenden Sie ein Modell, um Inferenzen für Eingabeaufforderungen auszuführen, um eine Orchestrierung durchzuführen.

  • Passen Sie ein Modell an, indem Sie Trainings- und Validierungsdaten eingeben, um die Modellparameter für Ihren Anwendungsfall anzupassen. Um ein benutzerdefiniertes Modell zu verwenden, müssen Sie dafür einen bereitgestellten Durchsatz erwerben.

  • Kaufen Sie bereitgestellten Durchsatz für ein Modell, um den Durchsatz dafür zu erhöhen.

Um ein FM in der API zu verwenden, müssen Sie die entsprechende Modell-ID ermitteln.

Anwendungsfall So finden Sie die Modell-ID
Verwenden eines Basismodells Suchen Sie die ID im Basismodell-IDs-Diagramm
Kaufen des bereitgestellten Durchsatzes für ein Basismodell Suchen Sie die ID in den Modell-IDs für das Diagramm mit bereitgestelltem Durchsatz und verwenden Sie sie als modelId in der CreateProvisionedModelThroughput Anforderung.
Kaufen des bereitgestellten Durchsatzes für ein benutzerdefiniertes Modell Verwenden Sie den Namen des benutzerdefinierten Modells oder seinen ARN als modelId in der CreateProvisionedModelThroughput Anforderung.
Verwenden eines bereitgestellten Modells Nachdem Sie einen bereitgestellten Durchsatz erstellt haben, gibt er einen zurückprovisionedModelArn. Dieser ARN ist die Modell-ID.
Verwenden eines benutzerdefinierten Modells Kaufen Sie den bereitgestellten Durchsatz für das benutzerdefinierte Modell und verwenden Sie den zurückgegebenen provisionedModelArn als Modell-ID.