Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Multimodale Verständnismodelle von Amazon Nova können für die Invoke API (InvokeModel, InvokeModelWithResponseStream) und die Converse API (Converse und) verwendet werden. ConverseStream Informationen zum Erstellen von Konversationsanwendungen finden Sie unter Durchführen einer Konversation mit den API-Vorgängen von Converse. Beide API-Methoden (Invoke und Converse) folgen einem sehr ähnlichen Anforderungsmuster, wie unten beschrieben
Die wichtigsten Unterschiede zwischen der Invoke API und der Converse API sind wie folgt:
-
Inferenzparameter wie TopK werden in Converse nicht unterstützt und müssen übergeben werden
additionalModelRequestFields
, während sie in der Invoke-API direkt in den Inferenzparametern übergeben werden können. -
Die Dokumentenunterstützung ist nur auf die Converse-API beschränkt und wird in der Invoke API nicht unterstützt.
-
Die Formate für das Analysieren von Antworten unterscheiden sich zwischen den Konstrukten Invoke API und Converse API.
-
Das Antwort-Streaming unterscheidet sich zwischen und.
ConverseStream
InvokeModelWithStreaming
Themen
Übersicht über die Nachrichten-API
Die Amazon Nova Understanding-Modelle verwenden die Messages-API, die die Übermittlung strukturierter Listen von Eingabenachrichten mit Text, Bildern, Videos und Dokumenten ermöglicht. Das Modell generiert dann die nächste Nachricht in der Konversation. Die Nachrichten-API unterstützt sowohl einzelne Abfragen als auch statuslose Multi-Turn-Konversationen und ermöglicht so die Erstellung von Chatbots und Anwendungen für virtuelle Assistenten. Die API verwaltet den Konversationsaustausch zwischen einem Benutzer und einem Amazon Nova-Modell (Assistent).
Amazon Nova-Modelle sind darauf trainiert, abwechselnd zwischen Benutzern und Assistenten zu sprechen. Wenn Sie eine neue Nachricht erstellen, geben Sie mit dem Nachrichtenparameter die vorherigen Gesprächsrunden an. Das Modell generiert dann die nächsten Nachrichten in der Konversation.
Jede Eingabenachricht muss ein Objekt sein, das eine Rolle und einen Inhalt enthält. Benutzer können eine einzelne Nachricht mit der Benutzerrolle angeben oder mehrere Nachrichten sowohl mit Benutzer- als auch mit Assistentenrollen einschließen. In der ersten Nachricht muss jedoch immer die Benutzerrolle verwendet werden. Wenn die Technik verwendet wird, die Antwort von Amazon Nova vorab auszufüllen (indem eine letzte Nachricht mit der Assistentenrolle hinzugefügt wird), setzt das Modell seine Antwort anhand des bereitgestellten Inhalts fort. Dieser Ansatz wird immer noch zu einer Antwort mit der Assistentenrolle führen.
Das Folgende stellt eine einzelne Benutzernachricht dar:
[{
"role": "user",
"content": [{"text":"Hello, Nova"}]
}]
Hier ist ein Beispiel mit mehreren Konversationswechseln:
[
{"role": "user", "content": [{"text": "Hello there."}]},
{"role": "assistant", "content": [{"text": "Hi, I'm Chatbot trained to answer your questions. How can I help you?"}]},
{"role": "user", "content": [{"text": "Can you explain LLMs in plain English?"}]}
]
Hier ist ein Beispiel mit einer teilweise ausgefüllten Antwort von Amazon Nova:
[
{"role": "user", "content": [{"text":"Please describe yourself using only JSON"}]},
{"role": "assistant", "content": [{"text":"Here is my JSON description:\n{"}]}
]
Informationen zum Erstellen von Eingabeaufforderungen für Amazon Nova-Modelle finden Sie unterBewährte Methoden zum Verstehen von Texten.
Verwenden der Systemaufforderung
Sie können der Anfrage eine Systemaufforderung hinzufügen. Mit einer Systemaufforderung können Sie Amazon Nova Kontext und Anweisungen geben, z. B. ein bestimmtes Ziel oder eine bestimmte Rolle angeben. Geben Sie in dem system
Feld eine Systemaufforderung an, wie im folgenden Beispiel gezeigt:
[
{"text": "You are an expert SaS analyst......"}
]