Inferenzanforderungsparameter und Antwortfelder für Foundation-Modelle

In diesem Abschnitt werden die Anforderungsparameter und Antwortfelder für die von Amazon Bedrock bereitgestellten Modelle beschrieben. Verwenden Sie diese Informationen, um mit den Operationen InvokeModelund InvokeModelWithResponseStream(Streaming) Inferenzaufrufen für Modelle durchzuführen. Dieser Abschnitt umfasst auch Python Codebeispiele, die zeigen, wie Modelle aufgerufen werden. Um ein Modell in einer Inferenzoperation zu verwenden, benötigen Sie die Modell-ID für das Modell. Informationen zum Abrufen der Modell-ID finden Sie unterModell Amazon Bedrock IDs. Einige Modelle funktionieren auch mit dem Converse API. Um zu überprüfen, ob der Converse ein bestimmtes Modell API unterstützt, siehe. Unterstützte Modelle und Modellfunktionen Weitere Codebeispiele finden Sie unterCodebeispiele für Amazon Bedrock mit AWS SDKs.

Optional können Sie Inferenzparameter festlegen, um die vom Modell generierte Antwort zu beeinflussen. Wenn Sie ein benutzerdefiniertes Modell verwenden, verwenden Sie dieselben Inferenzparameter wie das Basismodell, auf dessen Grundlage es angepasst wurde.

Foundation-Modelle in Amazon Bedrock unterstützen Eingabe- und Ausgabemodalitäten, die von Modell zu Modell variieren. Informationen zur Überprüfung der Modalitäten, die ein Modell unterstützt, finden Sie unter. Unterstützte Basismodelle in Amazon Bedrock Informationen darüber, welche Funktionen von Amazon Bedrock von einem Modell unterstützt werden, finden Sie unterModellunterstützung nach Funktionen. Informationen darüber, in welchen AWS Regionen ein Modell verfügbar ist, finden Sie unterModellunterstützung nach AWS Regionen.

Wenn Sie Inferenzaufrufe für ein Modell tätigen, fügen Sie eine Eingabeaufforderung für das Modell hinzu. Allgemeine Informationen zum Erstellen von Eingabeaufforderungen für die Modelle, die Amazon Bedrock unterstützt, finden Sie unter. Schnelle technische Konzepte