Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
I modelli di comprensione multimodale di Amazon Nova sono disponibili per l'uso per l'inferenza tramite l'API Invoke (InvokeModel, InvokeModelWithResponseStream) e l'API Converse (Converse e). ConverseStream Per creare applicazioni conversazionali, consulta Effettuare una conversazione con le operazioni dell'API Converse. Entrambi i metodi API (Invoke e Converse) seguono uno schema di richiesta molto simile a quello descritto di seguito
Le differenze principali tra l'API Invoke e l'API Converse sono le seguenti:
-
I parametri di inferenza come TopK non sono supportati in Converse e devono essere passati
additionalModelRequestFields, mentre nell'API Invoke possono essere passati direttamente nei parametri di inferenza. -
Document Support è limitato alla sola API Converse e non è supportato nell'API Invoke.
-
I formati di analisi delle risposte sono diversi tra i costrutti dell'API Invoke e dell'API Converse.
-
Lo streaming delle risposte è diverso tra e.
ConverseStreamInvokeModelWithStreaming
Argomenti
Panoramica dell'API Messages
I modelli Amazon Nova Understanding utilizzano l'API Messages, che consente l'invio di elenchi strutturati di messaggi di input contenenti testo, immagini, video e documenti. Il modello genera quindi il messaggio successivo nella conversazione. L'API Messages supporta sia le query singole che le conversazioni a più turni senza stato, consentendo la creazione di chatbot e applicazioni di assistenza virtuale. L'API gestisce gli scambi conversazionali tra un utente e un modello Amazon Nova (assistente).
I modelli Amazon Nova sono addestrati a operare alternando turni di conversazione tra utente e assistente. Quando crei un nuovo messaggio, specifichi i turni di conversazione precedenti con il parametro messages. Il modello genera quindi i messaggi successivi della conversazione.
Ogni messaggio di input deve essere un oggetto contenente un ruolo e un contenuto. Gli utenti possono specificare un singolo messaggio con il ruolo utente o includere più messaggi con ruoli utente e assistente. Tuttavia, il primo messaggio deve sempre utilizzare il ruolo utente. Se viene utilizzata la tecnica di precompilazione della risposta di Amazon Nova (includendo un messaggio finale con il ruolo di assistente), il modello continuerà a rispondere dal contenuto fornito. Questo approccio produrrà comunque una risposta con il ruolo di assistente.
Quanto segue rappresenta un singolo messaggio utente:
[{
"role": "user",
"content": [{"text":"Hello, Nova"}]
}]
Ecco un esempio con più turni di conversazione:
[
{"role": "user", "content": [{"text": "Hello there."}]},
{"role": "assistant", "content": [{"text": "Hi, I'm Chatbot trained to answer your questions. How can I help you?"}]},
{"role": "user", "content": [{"text": "Can you explain LLMs in plain English?"}]}
]
Ecco un esempio con una risposta parzialmente compilata da Amazon Nova:
[
{"role": "user", "content": [{"text":"Please describe yourself using only JSON"}]},
{"role": "assistant", "content": [{"text":"Here is my JSON description:\n{"}]}
]
Per informazioni sulla creazione di prompt per i modelli Amazon Nova, consulta. Procedure consigliate per la comprensione del testo
Utilizzo del prompt di sistema
È possibile includere un prompt di sistema nella richiesta. Un prompt di sistema consente di fornire contesto e istruzioni ad Amazon Nova, ad esempio specificare un obiettivo o un ruolo particolare. Specificate un prompt di sistema nel system campo, come mostrato nell'esempio seguente:
[
{"text": "You are an expert SaS analyst......"}
]
